AMD Instinct MI300X GPU 能耗達 750W，超越 NVIDIA H100

處理器大廠 AMD 15 日資料中心和 AI 技術發表會，展示 Instinct MI300X GPU，但沒有說明功耗資訊。但之後外媒報導 Instinct MI300X 採 OAM（OCP 加速器模組）設計，功耗高達 750W，超越 NVIDIA Hopper H100 的 700W，成為功耗最高 GPU。

AMD Instinct MI300 系列包括 Instinct MI300A 和 MI300X，Instinct MI300A 含 CPU 與 GPU，CPU 部分採三顆 Zen 4 CCD，共 24 核心，GPU 為 CDNA3 架構，六顆 XCD 晶片，配備 128GB HBM3 記憶體，由 CPU 與 GPU 共用。

MI300X 則把 CPU 模組也換成 GPU，是純 GPU 加速模組，配備 192GB HBM3 記憶體，由於 GPU 模組比 CPU 模組更耗電，且 HBM 數量也更多，所以一個 OAM 模組功耗就高達 750W，比上一代 CDNA2 架構 MI250X 的 560W 提高不少。

最近幾年資料中心 GPU 功耗成長相當明顯，NVIDIA H100 SXM GPU TDP 高達 700W，風冷 PCI-E 版也要 350W。採 Ponte Vecchio GPU 的英特爾 Max 1550，即使 PCI-E 版功率要 350 W。而 OAM 版本則可達到 600W ，可見算力成長，也造成能耗大幅提升。

(首圖來源：科技新報攝)