輝達(NVIDIA)支持的光子新創公司 Ayar Labs 週日(16 日)宣布,將與台灣半導體設計服務商創意電子(GUC)合作,把光學 I/O 晶粒整合進創意的 XPU 參考設計中。
相較採距離有限且常需要昂貴定時器(retimer)的銅質互連線路,Ayar 的 TeraPHY 光子晶片可與運算晶片共同封裝,為晶片到晶片之間提供超過 200 Tbps 的總頻寬。
如果 Ayar 與創意達成這項設計,基於該技術的 XPU 速度將超越現今最快 14.4 Tbps 互連的 10 倍以上。外媒 The Register 指出,這類光學 I/O 未來可讓運算域從一個機架擴展到多個機架,甚至跨整排或整個資料大廳,而不用犧牲功耗。
Ayar 技術長 Vladimir Stojanovic 接受 El Reg 訪問時表示,希望能在規模擴充的運算域中,連接多達 1 萬顆 GPU 晶片,同時把機架功率與功率密度維持在大約 100kW。
透過將光學直接整合進 GPU 與其他 ASIC,晶片設計者可突破銅線限制,打造更大運算區域,在不犧牲效能的情況下將晶片分散在更大空間。
目前 Ayar 已將其光學 I/O 整合進多款原型中,包括一款與英特爾及美國國防高等研究計畫署(DARPA)合作打造的原型。Stojanovic 指出,目前已證明技術可行,外形尺寸也可行。它是一個「triplet」,可整合進整個多晶片封裝平台。
但要驗證這項技術能否用於台積電代工的晶粒,並在量產環境中可靠運作,完全是另一回事。如果光學 I/O 晶片失效,可能會讓一顆價值 5 萬美元的加速器變成廢鐵。
目前創意將採用 Ayar 的設計,並針對多種參考架構進行驗證,而超大規模業者(hyperscalers)未來能以這些架構為基礎開發設計。Stojanovic 表示,透過與創意合作,我們正打造一個高產量製造客戶可使用的參考流程。他預期未來兩年內,這些技術將成熟到足以讓光學 I/O 以量產方式整合進加速器。
許多超大規模業者通常會向博通、Marvell 等廠商授權 IP,而不會投入內部資源從頭重新發明輪子。理論上,Ayar 與創意的合作應能為超大規模業者提供一條整合光子技術的捷徑。
創意技術長 Igor Elkanovich 在聲明中表示,全新的聯合設計得以解決 CPO(共同封裝光學)整合的挑戰,包括架構、功耗與訊號完整性、機構與散熱,來確保未來客戶能取得一套穩健、高頻寬且高效能的解決方案。
起初,Ayar 和創意將以採用多晶片封裝的 XPU 設計為目標,分別利用 UCIe-S 與 UCIe-A 晶粒互連標準,進行封裝層級與晶片對晶片層級的光學 I/O 晶片整合。
(首圖來源:shutterstock)






