TechNews Logo

CPU 瓶頸論興起,AI 系統架構將如何重新定義?

Answer | Powered by TechNews Smart AI

隨著代理式 AI(Agentic AI)崛起,資料中心算力瓶頸正從 GPU 轉向 CPU。過去 CPU 僅被視為資料傳輸的輔助角色,但在 AI 代理需頻繁進行任務編排、工具調用與決策判斷的趨勢下,其運算負擔劇增,延遲佔比甚至高達九成。為此,Nvidia 與 Arm 於 2026 年相繼推出獨立 CPU 產品,打破過往 1:8 的極端配置比例,推動 CPU 與 GPU 往 1:1 的平衡架構演進。這波結構性轉變已引發 Intel 與 AMD 調漲價格,預示著 AI 系統架構將迎來全面重定義。

算力重心的位移反映出 AI 應用已從單純的「模型訓練」轉向複雜的「邏輯推理與執行」。晶片巨頭紛紛跨足對手領域,背後動機在於掌握系統級的定價權與能效優化空間。對雲端服務商(CSP)而言,自研 CPU 不僅是為了降低對單一供應商的依賴,更是為了透過「邏輯與記憶體共同設計」來突破物理極限。未來競爭關鍵將不再僅限於單一晶片的算力峰值,而是封裝技術、高速互連與軟體生態的整合能力。這場架構革命將重塑半導體供應鏈,使 IC 設計服務與先進封裝成為下一個五年的戰略高地。

back_icon 解鎖更多問題

參考資料