AI 超級電腦放進口袋,輝達攜手聯發科推出 Project Digits

作者 | 發布日期 2025 年 01 月 07 日 13:10 | 分類 AI 人工智慧 , GPU , 半導體 line share Linkedin share follow us in feedly line share
AI 超級電腦放進口袋,輝達攜手聯發科推出 Project Digits

輝達執行長黃仁勳今日 CES 2025 主題演講宣布,推出 NVIDIA Project Digits 個人 AI 超級電腦,NVIDIA Project Digits 為全世界 AI 研究員、資料科學家和學生提供 NVIDIA Grace Blackwell 平台強大功能。

黃仁勳表示,Project Digits 採全新 NVIDIA GB10 Grace Blackwell Superchip,為原型設計、微調和運行大型 AI 模型提供數千億次 AI 運算效能。借助 Project Digits,使用者可用自己桌面系統開發模型推理,無縫部署加速雲端或資料中心基礎架構上。Project Digits 採 GB10 超級晶片,是輝達製造過最小 Blackwell 架構晶片。

人工智慧將成為每個產業、每個應用程式的主流,透過 Project Digits,Grace Blackwell Superchip 與數百萬開發者合作,每個資料科學家、人工智慧研究員和學生桌上放一台人工智慧超級計算機,就能參與並塑造人工智慧時代。

GB10 Superchip 提供高達 1petaflop 高能效 AI 性能, GB10 Superchip 是採 NVIDIA Grace Blackwell 架構的系統晶片 (SoC),配備最新一代 CUDA 核心和第五代 Tensor 核心,透過 NVLink-C2C 晶片間互連到高效能 NVIDIA Grace CPU。其中,包括 20 個使用 Arm 建構的高能源效率核心,這是由 Arm 架構系統晶片設計的市場領導者聯發科所設計,提供了 GB10 晶片的一流的功效、性能和連接性。

GB10 Superchip 讓 Project Digits 僅使用標準電源插座即可提供強大的效能,每個 Project Digits 均配備 128GB 統一的記憶體和高達 4TB 的 NVMe 儲存裝置。借助超級計算機,開發人員可以運行多達 2,000 億參數的大型語言模型,以增強人工智慧創新。此外,使用 Nvidia ConnectX 網絡,兩台 Project Digits AI 超級電腦可以連接起來運行多達 4,050 億個參數的模型。

黃仁勳進一步強調,借助 Grace Blackwell 架構,企業和研究人員可以運行採用 Linux 的NVIDIA DGX 作業系統進行原型設計、微調和測試模型,然後將它們無縫部署在 NVIDIA DGX Cloud、加速雲實例或資料中心基礎設施上。這使得開發人員能夠在 Project Digits 上建立 AI 原型,然後使用相同的 Grace Blackwell 架構和 Nvidia AI Enterprise 軟體平台在雲端或資料中心基礎架構上進行擴展。

另外,Project Digits 使用者可以存取用於實驗和原型設計的廣泛 NVIDIA AI 軟體資料,包括 NVIDIA NGC 目錄和 NVIDIA 開發人員入口網站中提供的軟體開發套件、編排工具、框架和模型。開發人員還可以使用NVIDIA NeMo 框架微調模型以及 NVIDIA Rapids 加速資料科學,並運行 PyTorch、Python 和 Jupyter 等筆記型電腦常見框架。Project Digits 將於 2025 年 5 月由輝達和合作夥伴發售,建議售價為 3,000 美元起。

(首圖來源:影片截圖)

想請我們喝幾杯咖啡?

icon-tag

每杯咖啡 65 元

icon-coffee x 1
icon-coffee x 3
icon-coffee x 5
icon-coffee x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0
《關於請喝咖啡的 Q & A》