資料移動效率決定 AI 擴展規模，AMD 發表 2026 AI 網路基礎架構藍圖

隨著生成式與代理式人工智慧（Agentic AI）的快速發展，AMD 在「Advancing AI 2026」發表會上展示了其針對未來 AI 網路與運算基礎架構的最新藍圖。

AMD 網路技術事業群資深副總裁 Soni Jiandani 指出，資料移動的效率已成為決定 AI 擴展規模的關鍵決定因素。為解決此挑戰，AMD 推出全方位的 Helios 機架級（Rackscale）AI 基礎架構，透過前端（Front-End）、向上擴展（Scale-Up）與向外擴展（Scale-Out）的網路架構升級，全面應對未來的龐大算力需求。

根據 AMD 的市場觀察，到了 2026 年，具備推理能力的代理式 AI 模型參數預估將突破 10 兆（10T+）。這對分散式推論與訓練的資料同步帶來巨大挑戰，不僅需要隨時在線（Always-On）的 AI 服務，更要求更長的文件脈絡（Context）處理能力。

在這樣的規模下，網路基礎架構的地位已變得與 CPU、GPU、記憶體和儲存設備一樣重要，延遲將直接影響整體的吞吐量與 GPU 的使用率。目前的標準已轉向乙太網路（Ethernet），且網路頻寬正以每 18 到 24 個月翻倍的速度，從 400G 快速推進至 800G，甚至未來的 1.6T。

藉由 Salina DPU 與 Vulcano AI NIC 為了打造最高效的 AI 網路，AMD 的 Helios 系統在三個網路維度上皆推出了革命性的解決方案：

前端網路（Front-End）：

AMD 發表了 第三代 Pensando Salina DPU。這款具備 400G 線速多服務加速能力的 DPU，效能相較前代翻倍，且對比競爭對手 NVIDIA BlueField3，能提供 1.4 倍的效能領先。Salina DPU 能有效下放網路、安全（如硬體加密）與儲存（如 NVMe over fabric）執行，將 CPU 算力釋放給 AI 運算。

在微軟等雲端服務供應商的實際部署中，Salina 成功為基礎設施節省了高達 22 個 CPU 核心的資源，並能支援超過 100 萬的 KV Cache 擴充上下文儲存，大幅提升代理式 AI 的執行密度。

向上擴展（Scale-Up）：

針對單一叢集內的 GPU 互連，AMD 推出了第一代 UALoE（Ultra Accelerator Link over Ethernet）架構，將 72 個 GPU 整合為單一運算節點，提供 31 TB 的 HBM4 統一記憶體空間，以及高達 260 TB/s 的頻寬，對比以往實現了 3 倍的頻寬提升。

為確保這些昂貴且需連日運作的訓練任務不被中斷，AMD 導入了軟體定義的 Fabric Manager，支援零接觸自動化管理與「虛擬 POD（Virtual PODs）」配置，能隔離故障網域，大幅提高整個機架級系統的容錯率與可靠性。

向外擴展（Scale-Out）：

針對跨叢集的資料傳輸，AMD 發表第二代 Pensando Vulcano AI NIC（智慧網卡）。Vulcano 支援 800G 頻寬與 PCIe Gen 6，每顆 GPU 可配置 3 張，提供每個 GPU 高達 2.4 Tbps 的頻寬，增加了 50% 的向外擴展能力。

透過多平面智慧封包分配、以及對 MRC 和自訂傳輸協定的支援，Vulcano 能將大型語言模型（LLM）的訓練速度加快 13%，並有望為網路交換成本節省高達 33%。

生態系強強聯手，成本效益超越對手

這套強大的 Helios 系統不僅涵蓋先進網路，還將搭載 AMD 第六代 EPYC「Venice」處理器與第五代 Instinct MI455X GPU。AMD 強調，在如此強大的軟硬體整合下，AMD Helios 在每美元生成的 Token 數量上（Tokens / $），展現了領先 NVIDIA Rubin NVL72 高達 30% 的優勢。

此外，AMD 在開放網路架構的長期投入，也獲得了全球頂尖科技巨頭的支持。目前 AMD 的 DPU 已被微軟、Meta、OpenAI 以及甲骨文（Oracle）廣泛採用。甲骨文雲端基礎架構（OCI）網路資深副總裁 Raj Subramaniyan 在活動中現身表示，甲骨文與 Pensando 已擁有長達 10 年的合作關係，透過 DPU 提供匯聚式（Converged）的安全與網路加速功能，成功讓雲端運算環境更安全、更高效地應對未來的 AI 資料大爆發。

(首圖來源:科技新報攝)