輝達 H100 AI 晶片不再遙不可及,庫存壓力迫使客戶開始轉售

作者 | 發布日期 2024 年 02 月 27 日 13:00 | 分類 AI 人工智慧 , GPU , 半導體 line share follow us in feedly line share
輝達 H100 AI 晶片不再遙不可及,庫存壓力迫使客戶開始轉售


供不應求的輝達 (NVIDIA) 資料中心 GPU-H100,交貨時程明顯縮短,市場供不應求所改善的情況下,先前大量採購 H100 的客戶現在被爆開始進行轉售的動作。

Tom′s Hardware 報導,因人工智慧應用暴增,供不應求 H100 資料中心 GPU,等待交貨時間從高峰 11~8 個月,縮短到 4~3 個月,顯示供貨壓力緩解。也因大型雲端供應商 AWS、Google Cloud 和微軟 Azure 等提供客戶租賃人工智慧運算服務更容易,之前大量採購 H100 GPU 的企業開始轉售這些 GPU。

客戶轉售 GPU 因稀少性降低,還有維護成本高昂,企業客戶不得不這樣決定。現在與一年前市場短缺相較有天壤之別,取得 H100 困難度大幅降低,但整個市場來說,人工智慧市場依舊火紅,其對一些需要進行大型人工智慧模型運算的企業來說,相關的需求仍舊持續,使得整體需求仍舊大於供應,也使得 H100 的價格並沒有出現大跌的情況。

H100 GPU 受到轉賣的另一項原因,則是來自於包括 AWS、Google Cloud 和 Microsoft Azure 等提供客戶租賃人工智慧運算服務變得更加容易所造成。例如,AWS 推出了一項新服務,讓客戶可以在較短期間中進行 GPU 租賃,解決了先前的晶片需求問題,這也形成了人工智慧晶片的需求和等待時間的縮短。

更容易買到 H100 GPU 對市場造成變化,客戶使用雲端供應商租賃人工智慧運算服務時,會更把價格與實用性列作優先考量,且市場也開始出現 H100 GPU 替代品,一樣有效能與軟體支援,但價格更實惠,使市場逐漸恢復持平水位。

(首圖來源:輝達)