隨著 AI 模型規模快速擴大，如何提升 GPU 資源利用效率並最大化產出，已成為 AI 基礎設施發展的重要課題。全球 AI 基礎設施公司智百特（Zettabyte）提出「優質算力（Goodput）」概念，主張未來衡量算力價值的標準，不應僅看 GPU 數量或每小時租用價格，而應進一步評估實際完成多少有用工作，以及算力能否有效轉化為 AI 成果。
智百特資深產品經理林子揚於工研院舉辦的「AI 伺服器市場及技術趨勢研討會」中表示，隨著生成式 AI 快速普及，全球算力需求正以前所未有的速度成長。根據 Google 執行長 Sundar Pichai 在 Google I/O 大會公布的數據，全球每月 AI Token 生成量已從兩年前約 9.7 兆個增加至超過 3.2 千兆個，增幅超過 330 倍。
智百特指出，目前市場長期以 GPU 數量及租用價格作為評估 AI 基礎設施的重要指標，但這些數據無法完整反映 AI 訓練與推論的實際效益。當 AI 訓練規模擴大至數十萬甚至數百萬張 GPU 時，系統可靠度、資源利用率、故障恢復能力、可觀測性及能源效率等因素，都可能直接影響最終運算成果。
公司引用產業研究機構提出的 GPU 叢集總持有成本（TCO）分析指出，即使兩座 GPU 叢集擁有相同硬體規格與租用成本，在考量建置時間、利用率及停機等因素後，最終完成的有效工作量仍可能出現顯著差異。該研究將此稱為「Goodput」，即原始吞吐量中真正完成有用工作的比例。
為協助企業掌握 AI 基礎設施實際運作效率，智百特推出 zSUITE 平台，可針對可靠性、就緒度、可觀測性、成本透明度及能源效率等面向進行監測與分析。公司表示，部署延遲、資源閒置及系統故障等問題，都可能推高每單位 AI 產出的實際成本，而相關數據若能被量化與視覺化，將有助於企業優化基礎設施投資效益。
除了推動優質算力概念外，智百特也將推動 zSUITE 平台在台灣的應用，未來將與工研院及多所設有 AI 課程與研究實驗室的大學合作，提供軟體授權及相關技術資源，培育 AI 基礎設施與運算平台人才，強化台灣發展主權 AI 所需的技術能力。
林子揚表示，台灣已在全球 AI 供應鏈中扮演關鍵角色，從半導體、先進封裝到 AI 伺服器製造皆具備領先優勢。未來 AI 產業競爭不僅在於建置多少算力，更在於如何衡量、優化並證明算力所創造的實際價值。隨著全球 AI 投資持續增加，市場也可望逐步從採購算力容量，轉向採購實際算力成果，而可被量化的品質指標將成為 AI 基礎設施的重要競爭力。
（首圖來源：智百特提供）
科技新報粉絲團
加入好友
訂閱免費電子報
