供不應求的輝達 (NVIDIA) 資料中心 GPU-H100,交貨時程明顯縮短,市場供不應求所改善的情況下,先前大量採購 H100 的客戶現在被爆開始進行轉售的動作。
Tom′s Hardware 報導,因人工智慧應用暴增,供不應求 H100 資料中心 GPU,等待交貨時間從高峰 11~8 個月,縮短到 4~3 個月,顯示供貨壓力緩解。也因大型雲端供應商 AWS、Google Cloud 和微軟 Azure 等提供客戶租賃人工智慧運算服務更容易,之前大量採購 H100 GPU 的企業開始轉售這些 GPU。
客戶轉售 GPU 因稀少性降低,還有維護成本高昂,企業客戶不得不這樣決定。現在與一年前市場短缺相較有天壤之別,取得 H100 困難度大幅降低,但整個市場來說,人工智慧市場依舊火紅,其對一些需要進行大型人工智慧模型運算的企業來說,相關的需求仍舊持續,使得整體需求仍舊大於供應,也使得 H100 的價格並沒有出現大跌的情況。
H100 GPU 受到轉賣的另一項原因,則是來自於包括 AWS、Google Cloud 和 Microsoft Azure 等提供客戶租賃人工智慧運算服務變得更加容易所造成。例如,AWS 推出了一項新服務,讓客戶可以在較短期間中進行 GPU 租賃,解決了先前的晶片需求問題,這也形成了人工智慧晶片的需求和等待時間的縮短。
更容易買到 H100 GPU 對市場造成變化,客戶使用雲端供應商租賃人工智慧運算服務時,會更把價格與實用性列作優先考量,且市場也開始出現 H100 GPU 替代品,一樣有效能與軟體支援,但價格更實惠,使市場逐漸恢復持平水位。
(首圖來源:輝達)