AI 推論需求翻倍成長,台廠伺服器供應鏈喜迎新一波商機

作者 | 發布日期 2026 年 06 月 18 日 10:30 | 分類 AI 人工智慧 , 伺服器 , 半導體 line share Linkedin share follow us in feedly line share
Loading...
AI 推論需求翻倍成長,台廠伺服器供應鏈喜迎新一波商機

在集邦科技(TrendForce)日前盛大舉辦「CompuForum 2026」論壇中,全面聚焦於 AI 時代的市場競爭格局與 AI 導入策略。華碩電腦 AI / HPC 產品技術經理周煜軒就首先揭示了企業端 AI 應用的根本性轉變。他指出,過去五、六年間,主流 AI 技術大多停留在大型語言模型(LLM)的被動問答階段,但現今 AI 已進化至具備「思考與執行」能力,能自動串接系統以完成任務。

華碩電腦邁向代理型 AI 時代,也打造 AI 工廠

周煜軒引述市場研調報告資料顯示,至 2025 年將有 50% 的組織運用 AI Agent 加速業務價值實現;到了 2028 年,更有高達 33% 的企業軟體將內建 Agentic AI(代理型 AI)功能。這項技術預期不僅能將企業內部營運效率提升 40%,未來更將向自動駕駛與機器人等實體 AI 領域擴張。然而,企業在內部落地部署 AI Agent 時面臨著極高的複雜性,包含系統架構整合、程式碼重複利用、跨系統 API 串接,以及最關鍵的資安防護與資料隱私等重重挑戰。

周煜軒舉例說明,若企業內部的研發、人資、客服等多個不同職能的 AI Agent 缺乏統一管理框架,部署難度與運作效能都將大打折扣。為解決此痛點,NVIDIA 推出了完整的企業級 AI 平台,讓開發者能直接套用預先定義好的 AI-Q 藍圖與 NeMo 框架,企業僅需透過容器化技術(Docker/K8s)部署,即可從前端資料檢索(RAG)到後端安全防護,快速且安全地打造專屬的 AI Agent 團隊。

華碩憑藉頂尖的硬體設計實力,推出了軟硬體深度整合的 ASUS AI Software Stack。在硬體上,華碩提供從邊緣運算到 AI 超級電腦的全產品線,包含領先業界出貨的 NVIDIA HGX B300 及即將量產的 GB300 NVL72 機櫃方案。同時,華碩也開發了 AIDC(ASUS Infrastructure Deployment Center)軟體,透過 3D 視覺化介面協助客戶無縫部署與監控機房狀態。最終,華碩結合 NVIDIA DSX 架構推出 「ASUS AI FACTORY(AI 工廠)」策略,提供涵蓋機房耗電模擬、機櫃配置到軟體營運的「端到端」一站式建置建議,以最快速度協助企業實現 AI 商業價值。

突破 GPU 算力瓶頸,數位無限推動算力服務化

面對 AI 浪潮下與日俱增的算力需求,數位無限執行長陳文裕針對企業導入 AI 的基礎設施痛點,提出了全面的解決方案。他指出,隨著 AI 模型迭代加速與精準度要求攀升,GPU 的採購成本急遽增加,不同世代的採購成本甚至暴增達 10 倍之多,為企業帶來龐大的財務與管理壓力。

陳文裕歸納了企業建置時的四大核心挑戰,首先是面對多品牌(如 NVIDIA 與 AMD)與規格的「異構硬體環境整合困難」;其次是缺乏視覺化儀表板,致使管理者無法即時掌握資源狀況;第三是高昂基礎設施成本下,缺乏精準切割與動態調度導致的「GPU 低利用率與閒置」;最後則是 AI 環境建置過於複雜耗時,嚴重拖延專案進度。

為了突圍,數位無限打造了專為企業設計的 「AI-Stack」基礎設施架構軟體。陳文裕說明,AI-Stack 內建四大算力管理核心技術,包含單片 GPU 切割、基於 CUDA/Tensor 核心種類意識的獨創 CTAs 切割、跨節點運算,以及多片 GPU 聚合技術。這些創新功能不僅能依據模型大小彈性且精準地分配資源,更能將多台伺服器的 GPU 聚合成高效能運算架構。此外,陳文裕宣布數位無限於 2026 年進一步推出 「ixCSP」算力中心整合方案,具備完善的計費管理與定價功能,能將 GPU 伺服器轉化為收益,無縫提供 GPU-as-a-Service、Model-as-a-Service 等雲端服務。

陳文裕強調,透過 GPU 切割技術,原本僅約 30% 的設備利用率可大幅飆升至 90%;在多人多任務環境中,工作負載運行效率更提升了 10 倍。過去需耗時 2 週建置的開發環境,現在透過自助服務平台只需 1 分鐘即可啟動,使企業整體投資效益(ROI)躍升 10 倍。

目前,包含日本精密製造商 Union Tool 應用於不良品影像檢測、奇景光電用於訓練辨識模型、中鋼旗下中冠資訊的產線優化,以及臺北科技大學與各大醫療院所的 AI 代理服務,皆成功展現了 AI-Stack 的強大適用性。陳文裕重申,數位無限的最大目標即是幫助企業在有限成本下不再讓設備閒置,並以更低門檻驗證 AI 的商業價值,於算力競賽中穩操勝券。

AI 邊緣部署演進,Wind River 落實分散運算與集中治理

隨著 AI 技術的落地需求增加,Wind River 策略客戶經理孫楊晃指出,雖然目前業界多聚焦於雲端算力的「軍備競賽」,但 AI 若要真正融入實體產業,勢必得「從雲端落地到設備端」
。然而,傳統 IT 雲端架構在落地過程中面臨四大極限,首要為「延遲瓶頸」,如自動駕駛或晶圓設備等關鍵任務,絕不容許資料往返雲端造成的毫秒級延遲。

其次是「可靠性危機」,邊緣設備需具備離線運作能力,否則如連鎖咖啡店 POS 機因斷網停擺將直接中斷營運。此外,跨區域與跨設備帶來的「管理碎片化」,以及營運技術(OT)環境因設備壽命長達十年而產生的「資安合規缺口」,均是企業導入邊緣運算時亟待克服的難題。

當 AI 成為營運核心,企業對邊緣運算提出了三大新需求:穩定性、安全性與可控性。針對這些挑戰,孫楊晃提出了新一代邊緣運算架構的關鍵解方,就是「分散運算搭配集中治理」。這代表著每個邊緣節點必須具備自主運作與推論能力,確保斷網時不中斷。同時,企業能透過單一平台,進行全球設備的自動化部署、更新與合規策略推送,藉此大幅降低 IT 維運人力。他特別強調,關鍵任務的穩定性必須達到電信級別的「六個九」(99.9999%)可用性。

孫楊晃表示,成立於 1981 年的 Wind River 在軍工國防、航太、醫療與電信等「不容許出錯」的領域,擁有逾 40 年的深厚底蘊,其技術廣泛被全球飛機作業系統與高鐵控制採用。Wind River Cloud Platform 等雲端解決方案具備最低資源佔用特性,每節點僅需 1 CPU 資源即可運行,並提供如 CVE 更新等長期系統資安防護。

他分享了全球擁有逾 5000 家分店的服飾品牌 H&M 之經驗:H&M 成功導入該雲端平台後,在無需為各家分店配置 IT 人員的條件下,便能利用低階伺服器運行 AI 顧客體驗模組與 POS 系統,實現全球門市的自動化部署與維運。該架構也同樣被廣泛運用於跨國企業的智慧工廠中,實現總部對全球廠房機台狀態的集中監測。

集邦科技預期 2026 全球 AI 伺服器與晶片市場爆發

集邦科技(TrendForce)研究經理龔明德則從總體經濟與市場數據出發,剖析 2026 年全球 AI 伺服器與 AI 晶片市場前所未有的爆發期。他指出,在北美雲端服務商(CSP)與中國業者的強勁帶動下,預估 2026 年全球 AI 伺服器出貨量年成長率將超過 28%,且 CSP 業者的資本支出正創下歷史新高。

數據顯示,包含北美五大 CSP 與中國字節跳動等業者的整體資本支出,繼 2025 年預估年增 70% 後,2026 年預估將進一步年增 79%,規模高達約 8,299 億美元。反映業者投資意願的「資本支出強度」更從 2021 至 2023 年的約 10%,在 2026 年大幅攀升至 34%,這顯示大型雲端巨頭已將 AI 視為長期的硬需求,正不惜重金確保運算霸權。

在 AI 晶片佈局上,龔明德分析指出,儘管輝達(NVIDIA)仍是市場霸主,預計 2026 年市占率仍將高達 64% 左右,但美系雲端巨頭為降低成本與單一供應商依賴,正積極擴張自研 ASIC 晶片。其中 Google 的佈局最為成熟,目前已推進至 TPU v8 世代,預計 2026 年內部 AI 伺服器採用自家 TPU 的比例將高達 76%。同時,AWS、微軟與 Meta 亦積極發展 Trainium、Maia 與 MTIA 等系列晶片,在台積電 3 奈米製程、高頻寬記憶體(HBM)及先進封裝(CoWoS)的採用上已越趨激進。

為應對龐大的運算需求,NVIDIA 的系統設計已走向整機櫃方案(如 NVL72),預估 2026 年市場主力 GB300 將占整體 GB/VR 機櫃出貨比重超過 80%。龔明德補充,北美五大 CSP 用於 AI 推論(Inference)的算力在 2026 年將迎來高達 122% 的驚人年增率,此商機將使台灣的鴻海、廣達與緯創等代工廠受惠匪淺,包辦近九成的機櫃出貨量。

另外,龔明德也點出地緣政治的強烈影響,受美國禁令限制,中國正加速扶植華為、寒武紀等本土供應鏈,預估 2026 年中國高階 AI 伺服器採用本土研發晶片的比例將大幅提升至 56%,促使全球 AI 市場加速朝向「中美 G2」的雙軌生態系發展。總結而言,集邦科技預測 2023 至 2029 年的年複合成長率(CAGR)將超過 25%,為整體供應鏈帶來豐沛且長期的成長動能。

(首圖來源:shtterstock;圖片來源:集邦科技)

想請我們喝幾杯咖啡?

icon-tag

每杯咖啡 65 元

icon-coffee x 1
icon-coffee x 3
icon-coffee x 5
icon-coffee x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0
《關於請喝咖啡的 Q & A》