英國獨立諮詢機構 Omdia 統計發現,輝達(Nvidia Corp.)為 AI 任務設計的 A100、H100 繪圖處理器(GPU)第三季已售出近 50 萬顆,由於需求實在太高,內建 H100 伺服器的前置時間也跟著從 36 週延長至 52 週。
Tom’s Hardware 27日報導,Omdia相信,Facebook母公司Meta Platforms, Inc.、微軟(Microsoft Corp.)應是H100 GPU最大買主,各自約購入最多150,000顆,遠多於Google、亞馬遜(Amazon.com)、甲骨文(Oracle)、騰訊的採購量(每家約50,000顆)。
值得注意的是,Omdia指出,多數伺服器GPU都提供給超大規模(hyperscale)雲端服務供應商,戴爾(Dell)、聯想(Lenovo)、慧與科技(HPE)這三家伺服器OEM都還無法買到足夠AI及HPC GPU來滿足伺服器訂單需求。
Omdia預測,到了2024年第四季,H100、A100 GPU銷售量將超過50萬顆。另外,H100、A100因為需求太過強勁,GPU伺服器的前置時間已累加至52週。
話雖如此,幾乎所有向輝達大量採購H100 GPU的業者,同時也在開發自家客製化晶片,供AI、HPC及影片下載應用。基於這項原因,這些業者採購的輝達GPU很可能會隨時間減少,逐步轉換至自家晶片。