輝達 H100 產能持續開出!企業新玩法逐漸出現,價格有望更便宜

作者 | 發布日期 2023 年 11 月 08 日 17:08 | 分類 GPU , 半導體 , 晶片 line share follow us in feedly line share
輝達 H100 產能持續開出!企業新玩法逐漸出現,價格有望更便宜


先前輝達 GPU 供不應求,最新外媒報導,狀況開始緩解,許多公司都回報收到數千個 H100,意味排隊極長的 H100 需求開始縮短。

外媒 HPCwire 報導,短缺時期輝達一直實施配給制,並據 AI 模型規模、可用基礎設施和客戶狀況評估,首先考慮資金雄厚及能反映 GPU 最佳用途的客戶,特斯拉就是其一。

由於需求相當高,資料中心供應商和前比特幣挖礦公司都在開設 H100 叢集資料中心。輝達還為客戶何時獲得 H100 提供明確時程表。

舉例來說,區塊鏈和 AI 基礎設施提供商 Applied Digital 購買 3.4 萬個 H100,並從 9 月開始收到 5 月時下的 GPU 訂單,大概是 1,024 個 GPU。執行長Wes Cummins 預期到 10 月數量將翻倍,11 月、12 月和明年 1 月數量將大幅增加。

此外,輝達也供貨給有能力採購訂單的小客戶,例如創建 AI 運算基礎設施的加密礦企 Iris Energy,下單 248 個 H100,並付了 1,000 萬美元,預定幾個月內交貨。由於生成式 AI 市場龐大,Iris Energy 正在改造美加比特幣挖礦資料中心,使其也能執行 AI 運算。

億萬富翁 Jed McCaleb 資助的新創 Voltage Park 也收到 2.4 萬個 H100。有趣的是,輝達支援的 AI 新創公司 Imbue 也和 Voltage Park 關係密切。此外,Voltage Park 還打算推出「FLOP拍賣」計畫,提供便宜 H100 運算能力,有點像 AI 運算版 eBay,價高者得伺服器時間。

H100 成企業新抵押品

此外,H100 的狂熱效應還給運算機硬體的賦予全新價值,GPU 成為企業新抵押品。Crusoe Energy 是前加密貨幣礦商,以 2 萬個 H100 為抵押取得 2 億美元融資;GPU 運算供應商 CoreWeave 也以 H100 抵押獲 24 億美元融資。

大麻公司 American Cannabis Company 也加入 H100 熱潮,同意與 HyperScale Nexus 合併,後者希望用 H100 創建業務。

除了提供 H100,輝達也透過雲端供應商租用 GPU 擴大 H100 產能,而非直接出貨給客戶。研調機構 TrendForce 報告指出,因美國的中國 AI 禁令,可能使輝達更積極主推以 A 或 H100 AI 伺服器為基礎的 DGX cloud 訂閱租賃模式,拓展到 L40S 等其他雲端,以服務中國客戶,或其他潛在有地緣政治風險地區的客戶。

儘管市場的 H100 需求十分熱烈,輝達最近還是公布最新藍圖,計畫三年內推出新 GPU。

(首圖來源:shutterstock)

延伸閱讀: