馬斯克:準備買 30 萬顆輝達 B200,提升 Grok 效能

作者 | 發布日期 2024 年 06 月 04 日 14:15 | 分類 AI 人工智慧 , GPU , 數位內容 line share follow us in feedly line share
馬斯克:準備買 30 萬顆輝達 B200,提升 Grok 效能


特斯拉(Tesla Inc.)執行長馬斯克(Elon Musk)透露,他打算採購 300,000 顆輝達(Nvidia Corp.)Blackwell 架構「B200」AI 繪圖處理器(GPU),以提升「Grok」AI 聊天機器人的表現。

馬斯克3日透過社交平台X指出,鑒於科技進步的速度,將1GW的電力投入H100已不再值得。他說,旗下AI新創xAI由100,000顆H100集結而成的水冷式(liquid-cooled)訓練叢集,將在幾個月後上線。

馬斯克並表示,下個重要一步,大概是明(2025)年夏季前使用CX8網路的300,000顆B200叢集。

Tom’s Hardware、Barron’s隨後報導,馬斯克的邏輯有其道理。與H100相較,輝達最新Blackwell B200的AI訓練效能提升四倍、推論表現提升30倍。

技術上來說,B200確實較為耗電,但效能大幅改善,意味著執行效率將顯著優於H100。就馬斯克的情況來說,將100,000顆H100換成數量多三倍、耗電量更高的B200依舊相當划算,因為B200增添的AI效能非常驚人。

輝達執行長黃仁勳(Jensen Huang)曾說過,Blackwell GPU每顆要價30,000~40,000美元。以此來計算,馬斯克的計畫可能得耗資90~120億美元。

(本文由 MoneyDJ新聞 授權轉載;首圖來源:達志影像)

延伸閱讀: