整合為王》AI 晶片加速光電整合發展,台積電、英特爾、日月光、博通卯足全力推出CPO解決方案究竟是什麼

作者 | 發布日期 2024 年 09 月 18 日 8:01 | 分類 GPU , IC 設計 , 半導體 line share Linkedin share follow us in feedly line share
整合為王》AI 晶片加速光電整合發展,台積電、英特爾、日月光、博通卯足全力推出CPO解決方案究竟是什麼


早在一年多前,矽光子與 CPO 兩大光電整合技術還僅是特定領域才會關注的項目,一年多後的現在,它不但擠身成為半導體展的主議題、產業聯盟盛大成立,更是 AI 晶片供應鏈都搶著發展的當紅炸子雞。

矽光子是什麼?簡單來說,是在矽的平台上,將晶片中的「電訊號」轉成「光訊號」,進行訊號傳導的技術。也因此,這項技術牽涉到電、光兩大產業的合作。而 CPO(CPO,共同封裝光學模組)則是搭配矽光子發展的先進封裝,這項技術是取代過往插拔式模組,直接將光學元件封裝在處理器晶片旁邊,縮短電訊傳輸距離、提高傳輸速度同時降低能耗。

CPO 的發展在這一年來出現了大躍進,從頂尖的 IC 設計公司輝達、博通、超微,到晶圓製造公司台積電、英特爾,再到專業封測廠日月光都陸續提出相關解決方案,甚至在市場上亮相的時間也提前至 2025 年,打破原先業界認為還需多年發展的預期。

調研機構 Yole Group 的預估是,2025 年到 2026 年 CPO 的概念將被認為可行,而 2027-2029 年則會進入試產,要到 2029 年才會進入量產階段。不過,就連摩根士丹利證券都在最新報告中強調,以目前業內的調查來看,CPO 的發展時程會比 Yole 預期的快速許多。

而 CPO 技術能迅速推進的關鍵仍是在於──AI 晶片。

日月光執行長吳田玉就在剛舉行的「矽光子產業聯盟成立大會」就直指,「矽光子已經研發很多年,雖然有技術但很貴,一直停留在研發和少量生產階段。不過,因為 AI 發展帶來的壓力,所有技術都會被強迫加速前進,會比原本預計要更快。」

為什麼 AI 的發展大幅加快了矽光子與 CPO 的發展,台積電研發副總經理徐國晉在今年 SEMICON 簡報結尾時是這麼說:「算力和能效是 AI 時代下大家最渴求的兩項要素。」他也提到,人類逐步進入 AI 人工智慧年代,每 3~4 個月的資料傳輸量會倍增,是過去沒辦法想像的多。

從實際數字來看,過去 20 年的時光中,電腦算力(FLOPs)成長了 6 萬倍,然而記憶體頻寬卻僅成長 100 倍、I/O 頻寬更是只有 30 倍的成長,造成和電腦算力成長之間的巨大差距。為了滿足日益增加的算力需求,但同時要追求能耗的下降,半導體廠紛紛嘗試起透過先進封裝整合光學 I/O 技術,在結合xPU(包括 CPU、DPU、GPU、TPU、FPGA 和 ASIC)與 HBM 的 AI 晶片中實現基於光學的互連,大幅縮減資料傳輸的距離,同時實現更高傳輸速度和大頻寬,而這裡的先進封裝,指的正是 CPO。

▲台積電在今年SEMICON TAIWAN的論壇中展示其CPO方案。(Source:台積電)

英特爾是這樣描述 CPO 的技術:以光學 I/O 替換 CPU 與 GPU 中的電氣 I/O 傳輸數據,就像用汽車、卡車替代馬車分送貨物,可增加運送距離與貨物量、不受運送範圍和容量的限制。

CPO 技術的突破無疑是將 AI 晶片的發展推向全新的里程碑。從近一年來成為雲端業者最重要的 AI 晶片委外設計廠商博通的簡報中,就能感受到業界對這項技術的投入與期盼。由博通打造、採用 CPO 封裝技術的 AI 晶片,預計將在 2025 年亮相,而從博通的技術藍圖來看,到了 2027 年與 2028 年,升級版晶片也將陸續推出。

▲ 博通 AI ASIC 透過 CPO 與 2.5D 封裝技術與光學引擎連接。(Source:博通)

這些技術突破也不僅限於 IC 設計領導廠商與晶圓製造公司,封測龍頭日月光也早已看到這個發展趨勢並進行技術布局。根據日月光前瞻技術開發處處長林弘毅在矽光子論壇的簡報,透過先進封裝技術結合小晶片(chiplet)和光學 I/O 的晶片,可以增進 10 倍的頻寬密度、減少 5 倍的 I/O 能耗。相對應的 CPO 解決方案,日月光則是預計在 2026 年推出。

▲ 日月光以先進封裝整合矽光子光引擎的CPO技術預計在2026年推出。(Source:日月光)

生態系形成有利於加速技術瓶頸突破

然而,儘管在 AI 浪潮驅動下,半導體產業全力衝刺矽光子與 CPO 技術,目前的發展仍需要突破半導體製程整合進度,以及 CPO 生產良率與維護成本的瓶頸。這些技術尚待克服的障礙需要的不只是單一廠商的技術突破,更是整個供應鏈的偕同。徐國晉就在其演講中強調,生態系的建立是矽光子技術從研究階段向商用化前進的關鍵。

所幸,加速矽光子與 CPO 發展已成業界共識,從 IC 設計、EDA、雷射、晶圓代工、記憶體到封裝測試廠,以及系統廠都正致力於技術突破與整合,加上矽光子產業聯盟也已正式成立,矽光子與 CPO 未來幾年的發展無疑令業界相當期待。

(首圖來源:Created by Freepik

想請我們喝幾杯咖啡?

icon-tag

每杯咖啡 65 元

icon-coffee x 1
icon-coffee x 3
icon-coffee x 5
icon-coffee x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0
《關於請喝咖啡的 Q & A》