市場消息傳出，微軟近期下修對輝達 H100 顯示卡的訂單量。這舉動也顯示，目前大規模人工智慧運算市場對於H100 顯示卡的需求已趨於緩和，近期已經很難再看到先前客戶瘋狂下單的狀況。
這波人工智慧風潮，AI 伺服器最大採購者來自大型雲端運算商。傳說微軟下修輝達 H100 顯卡訂單，市場人士指原因有兩個，一是不久前微軟發表 AI 協作工具 Microsoft 365 Copilot，使用狀況不如預期。Copilot 號稱可解決很多問題，如收到長到讀不下去的文件，可拖到 Copilot 上，讓 AI 總結文件，做到「量子速讀」。或請 AI 幫忙重寫或解釋內容，提高工作效率。
Copilot 雖不能完全取代工作，但能節省很多重複性工作。但服務並非免費，須支付每人每月 30 美元。7 月推出後反應似乎平平，使用者數也未如預期增加，使微軟加購 H100 顯卡的必要性漸漸降低。
第二原因應是 ChatGPT 本身。2022 年 11 月推出後，使用人數爆炸性成長，也是人工智慧風潮的開山始祖。但 6 月首次出現流量下滑。
數據公司 Similarweb 資料顯示，ChatGPT 的全球流量 6 月首次出現 9.7% 下滑，8 月連三個月下降，桌上型電腦、行動裝置網站流量下降 3.2%，數量為 14.3 億次，前兩個月分別下降約 10%，顯示 ChatGPT 吸引力逐漸降低，留下的都是真正的專業使用者，也讓微軟評估增購 H100 顯卡應暫時停止。
事實上，業內人士指出，微軟下修 H100 顯示卡訂單量的情況早就有機可循。回顧 5 月時包括伺服器製造商及直接客戶都表示，得等超過 6 個月才能拿到輝達的 H100 顯示卡。然而，特斯拉卻在8 月宣布啟動萬顆 H100 顯示卡叢集，意味著最晚下單爭搶H100產品的廠商，卻能在短短幾個月內就拿到足夠的晶片，顯示出先前包括微軟在內的客戶的需求皆已被滿足，代表著 H100 顯示卡需求已經不再像幾個月前那樣熱烈。
輝達 H100 顯卡 GPU 仰賴台積電 CoWoS 先進封裝產能，市場需求熱烈，台積電 CoWoS 產能不足，成為供貨瓶頸，市場需求回歸正常後，台積電 CoWoS 產能不再被追著跑，對台積電營運是利或弊，則有待觀察。
(首圖來源：NVIDIA)
科技新報粉絲團
加入好友
訂閱免費電子報
