馬斯克：準備買 30 萬顆輝達 B200，提升 Grok 效能

特斯拉（Tesla Inc.）執行長馬斯克（Elon Musk）透露，他打算採購 300,000 顆輝達（Nvidia Corp.）Blackwell 架構「B200」AI 繪圖處理器（GPU），以提升「Grok」AI 聊天機器人的表現。

馬斯克3日透過社交平台X指出，鑒於科技進步的速度，將1GW的電力投入H100已不再值得。他說，旗下AI新創xAI由100,000顆H100集結而成的水冷式（liquid-cooled）訓練叢集，將在幾個月後上線。

Given the pace of technology improvement, it’s not worth sinking 1GW of power into H100s.

The @xAI 100k H100 liquid-cooled training cluster will be online in a few months.

Next big step would probably be ~300k B200s with CX8 networking next summer.

— Elon Musk (@elonmusk) June 2, 2024

馬斯克並表示，下個重要一步，大概是明（2025）年夏季前使用CX8網路的300,000顆B200叢集。

Tom’s Hardware、Barron’s隨後報導，馬斯克的邏輯有其道理。與H100相較，輝達最新Blackwell B200的AI訓練效能提升四倍、推論表現提升30倍。

技術上來說，B200確實較為耗電，但效能大幅改善，意味著執行效率將顯著優於H100。就馬斯克的情況來說，將100,000顆H100換成數量多三倍、耗電量更高的B200依舊相當划算，因為B200增添的AI效能非常驚人。

輝達執行長黃仁勳（Jensen Huang）曾說過，Blackwell GPU每顆要價30,000~40,000美元。以此來計算，馬斯克的計畫可能得耗資90~120億美元。

（本文由 MoneyDJ新聞 授權轉載；首圖來源：達志影像）

延伸閱讀：

• 祖克柏砸重金狂買 H100，輝達、AMD 股價飆歷史高
• 馬斯克傳為 xAI 建超級電腦，最多十萬顆 H100
• 黃仁勳：新 AI 晶片 Blackwell 成本約 4 萬美元，資料中心看俏