根據外媒 tom’s hardware 報導，受惠於人工智慧（AI）市場的持續需求，AI 晶片大廠輝達（NVIDIA）在 2024 財年的第二季（截至 2023 年 7 月 30 日）銷售了價值 103 億美元的資料中心硬體，其中包括了大量的 A100 顯示卡，及最新一代的 H100 顯示卡。整體來說，輝達在 2023 年第二季實際銷售了 900 噸 H100 顯示卡。
市場研究調查機構 Omdia 估計，輝達第二季為人工智慧（AI）和高效能運算（HPC）客戶運送了超過 900 噸（約 180 萬鎊）的 H100 顯示卡。Omdia 認為，一個帶散熱器的 NVIDIA H100 顯示卡的平均重量超過 3 公斤（約 6.6 磅）。所以，輝達在第二季的 H100 顯示卡出貨量超過了 30 萬片的情況下，重量達到 900 噸。
報告表示，目前輝達的 H100 出貨有三種不同形態，並且都有不同的重量。H100 PCIe 卡的重量為 1.2 公斤。雖然輝達的 H100 SXM 模組重量未知，但帶有散熱器的 OAM 模組的最大重量為 2 公斤，該模組與 H100 SXM 的尺寸和 TDP 大致相同。假設輝達 H100 出貨量的 80% 是模組，20% 是加速卡，那麼單個 H100 的平均重量應該約為 1.84 公斤。
Omdia 強調，預計輝達在未來幾季的 GPU 顯示卡銷量大致仍相同，因此該公司 2023 年有望銷售約 3,600 噸（約 720 萬鎊）H100 顯示卡。如果成長速度不變，每年大約將出貨 120 萬個 H100 GPU。雖然這是 Omdia 的一個粗略的估算，但能在一季之交貨超過 30 萬個 H100 GPU 顯示卡仍然是一個令人驚豔的成就。
需要注意的是，這裏所指的 H100 的數量，應該包括針對中國市場推出的 H800 顯示卡。此外，輝達還出貨了數噸上一代 A100、A800 和 A30 的運算 GPU。因此，輝達單季銷售的 GPU 顯示卡的實際數量遠高於 30 萬個，總計超過 900 噸。只是，即便如此，輝達的供應仍無法滿足市場旺盛的需求。消息顯示，輝達年底前的產出都已經被預定一空。因此，可以預期的是，隨著生成式人工智慧熱潮的持續，未來一年輝達的出貨量將繼續成長。
(首圖來源：NVIDIA)
科技新報粉絲團
加入好友
訂閱免費電子報
