國產 GPU 資料中心轉移成本過高！中國智庫建議選擇 NVIDIA

中國支持的智庫「中國信息通信研究院」（CAICT，下稱中國信通院）發布一份有關中國運算能力的詳細報告。該報告指出，中國的資料中心繼續使用基於 NVIDIA 的解決方案，而「高成本」和「工程複雜」是資料中心將模型轉至中國晶片所面臨的障礙之一。

美國政府禁止 NVIDIA 的 A100、H100 產品出口中國，中國只能獲得閹割版產品 H20，加上 NVIDIA 似乎停止接受目前的 H20 訂單，中國的 GPU 來源似乎岌岌可危，目前許多中國晶片製造商也努力開發國產晶片，作為 NVIDIA 的替代方案。

不過中國信通院指出，由於軟硬體差異，將在 NVIDIA GPU 上訓練的模型轉移到國內解決方案涉及複雜的工程，建議繼續使用 NVIDIA。

此外，中國的新資料中心還面臨眾多問題，包括缺乏 GPU 解決方案、供應管理不善，以及運算能力不斷上升但面臨 GPU 使用效率低下的問題。目前中國資料中心必須「混搭」不同廠商的解決方案，讓系統正常運作，但這很大原因是軟體不相容和硬體參差不齊所致。

中國信通院示警，IDC 在硬體上存在很大差異，例如 GPU、AI 加速器和網路結構上，會使硬體資源更難管理和調度，以適應 AI 任務的差異化運算需求，進一步妨礙使用率。

為了避免麻煩，中國信通院仍建議中國資料中心使用 NVIDIA，但供需之間差距還沒獲得解決。儘管中國投資數百億美元，力拚晶片自給自足，但 2023 年仍需進口 3,500 億美元的晶片，再加上 NVIDIA 在 AI 市場上有軟硬體整合，英特爾和 AMD 等廠商很難跟上 NVIDIA 的腳步，中國本土 GPU 要追上 NVIDIA 表現可能還需要幾年時間。