AI 晶片大廠輝達(NVIDIA)不僅在算力市場攻城掠地,更將資料傳輸視為下一個技術戰場。輝達網路資深副總裁謝奈爾今天表示,輝達與台積電攜手開發 COUPE 矽光子封裝平台,已開始出貨新共同封裝光學(CPO)交換器,下半年擴大產能。
謝奈爾(Gilad Shainer)今天在輝達企業端產品展示區接受媒體採訪指出,人工智慧工廠(AI Factory)算力規模呈現爆發式成長,資料中心機架間的傳輸頻寬與功耗,已成為影響AI性能的關鍵。為了AI工廠實現效能與功耗比最大化,輝達正全面推動CPO,打破傳統將光收發器置於交換器外側的結構,直接將光學引擎與交換器晶片整合封裝,將功耗與傳輸距離縮到最短。
封裝製程部分,台積電扮演了決定性角色。謝奈爾透露,輝達與台積電緊密合作,採用台積電新型COUPE(緊湊型通用光子引擎)矽光子封裝平台。這項創新能以高度可靠且具彈性的方式,將光學引擎、交換器晶片及相關元件完美封裝在一起。
「這讓我們能夠走向量產。」謝奈爾強調,向外擴展(Scale-out)架構普及,未來AI資料中心各處都能看到CPO的蹤影。目前搭載最頂尖CPO技術、吞吐量高達400Tb/s(每秒兆位元)的全新Spectrum-X CPO交換器,已開始出貨給關係密切的合作夥伴,並下半年擴大產能。
市場狂熱追逐「全光網路」趨勢下,謝奈爾也拋出務實觀點。他說,輝達網路連接策略非常簡單,就是「只要能用的地方,就盡量使用銅纜」。
謝奈爾解釋,銅纜有成本效益高、極度可靠且功耗低等優勢,因此機架內短距離擴展(Scale-up),如以NVLink串聯繪圖處理器(GPU)時,銅纜仍是首選。但面臨需要連接成千上百個GPU、機架間遠距離向外擴展(Scale-out)時,才是CPO與光學網路大顯身手的時刻。
(作者:吳家豪;首圖為台積電業務開發組織副總經理袁立本,來源:台積電)






