IEDM 2024 大會,GPU 大廠輝達介紹未來人工智慧(AI)晶片設計邏輯,之後每代產品使用。因晶片設計和封裝雖然一直有突破,但將來人工智慧晶片可能需要其他改進提升性能,以因應越來越繁雜的任務。
外媒 TechPowerUp 報導,分析師分享輝達於 IEDM 2024 大會發表的內容,將導入矽光子(SiPh)為 I/O 零件,代表與傳統技術明顯不同,突破過去受銅材料自然特性限制。
輝達新架構採垂直供電和多模組設計,整合矽光子 I/O 零件,搭配 3D 垂直堆疊 DRAM 記憶體,模組整合冷卻機制,需 12 個矽光子 I/O 零件,使晶片和晶片互連。每個 GPU 模組有三個互連通道,每層有四個 GPU 模組,每個 GPU 模組與六個 DRAM 記憶體模組垂直連接。堆疊 DRAM 記憶體與 GPU 模組達成直接電氣連接,類似更大範圍 AMD 3D V-Cache。
輝達將矽光子 I/O 零件大規模整合是特殊調整,需每月生產超過百萬個零件才能滿足需求。輝達還需解決模組堆疊的散熱問題,引進更先進材料冷卻機制。輝達也在探索新解決方案,商業化還要一段時間,可能為 2028~2030 年。
(首圖來源:科技新報攝)