
NVIDIA 執行長黃仁勳今日美國消費電子展(CES 2025)除了大秀最新一代採用 Blackwell 架構 RTX 50 系列顯卡,還拿起超大系統級晶圓「Grace Blackwell NVL72」假裝是盾牌,同時背景音樂選用超級英雄主題曲,化身 NVIDIA 的超級英雄。
這片巨型晶圓不僅閃閃發光,黃仁勳說上有 72 Blackwell GPU、2,592 個 CPU 核心,配備 14TB 的 576 個 HBM 記憶體晶片,共超過 130 兆個電晶體。
黃仁勳指出,未來 AI 會自己對話、思考,會自行處理運作,可以想像所需的 Token 會變非常高,「Token 生成速率」(Token generation rate)也變高,為了使成本下降同時維持 AI 生成品質,以更容易導入客戶需求,幫助 AI 規模擴展,這也是 NVIDIA 開發 NVLink 的原因。
在 Instagram 查看這則貼文
(首圖來源:NVIDIA)