
密西根大學帶領,聯合華盛頓大學、賓夕法尼亞大學及勞倫斯伯克利國家實驗室等多所頂尖研究機構攜手研發的全新晶片連接系統,用光波導取代傳統金屬電路,突破長期制約 AI 模型規模與訓練速度的「記憶牆」問題。計畫獲美國國家科學基金會未來半導體專案 200 萬美元補助,也取得 Google、惠普、微軟及 Nvidia 等業界巨頭指導合作。
傳統電腦系統,各記憶體與處理器晶片靠硬接線(通常是焊在印刷電路板上的金屬連接)傳輸資料,但處理器運算速度 20 年來提升 6 萬倍,資料在記憶體與處理器之間傳輸速度卻只提高 30 倍,導致通訊成為瓶頸。這限制 AI 模型規模發展,自 1998 年 AI 模型規模約每兩年增長 400 倍。面對日益龐大的數據需求,突破記憶牆成為推動高性能運算與 AI 發展的關鍵挑戰。
密西根大學電腦與電機工程教授 Di Liang 指出:「我們技術能使高性能運算追上 AI 模型增長所需處理的大量資料。利用光當晶片連接的媒介,可達秒速數十太位元傳輸,比最先進電子連接提升超過百倍。」
新技術核心創新在嵌入式光波導系統。晶片連線不再靠固定金屬導線,而是用嵌入 interposer(中介板)的封裝光波導,以光脈衝傳輸資料。每塊晶片均配有接收器,光訊號轉換回電訊號後由電腦解讀。光傳輸時能克服電子傳輸能量損失及電磁干擾問題,可能傳輸更大量資料並降低能耗。
新光晶片連接系統採獨特相變材料,使光波導網路不僅製造過程可靈活調整,計算機運行期間也能根據運算需求即時重新配置。當雷射照射或施加電壓時,這材料的折射率會改變,故光線傳播路徑也改變,類似依實際交通需求開閉道路。如賓夕法尼亞大學 Liang Feng 教授比喻:「這就像據交通狀況開閉道路,讓資料流關鍵時刻迅速找到最佳路徑。」
團隊也開發專門軟體,監控晶片各部分通訊需求,並動態調整電壓完成最佳連接配置,讓系統據 AI 模型訓練與運行需求靈活調整連線架構。
此突破性技術不僅有望大幅提高資料傳輸速率、推動 AI 模型規模與運算效率邁入新階段,亦在高性能計算與半導體設計領域引發深遠影響。與多家業界龍頭合作也為密西根大學學生提供寶貴實習機會,直接參與解決最前線、最具挑戰性的工程問題。
未來,晶片晶粒量不斷增加(目前單一超級電腦晶片有超過 90 萬個核心,且還在快速增長),光連接技術將成為高效資料互通與處理不可或缺的關鍵,為 AI 和高效計算開啟全新光速時代。
- Scientists Harness Light to Shatter AI’s Speed Barrier
- Boosting AI model size and training speed with lightwave-connected chips
(首圖來源:Di Liang / 密西根大學)