AMD 最近開始量產出貨其最新一代人工智慧和高效能運算(HPC)加速器 Instinct MI300X,並率先交付合作夥伴 LaminiAI 使用。LaminiAI 將使用 MI300X 加速器執行大型語言模型(LLM)的運算工作,以滿足企業用戶的需求。
事實上,LaminiAI 與 AMD 已有多年合作,因此優先獲得 MI300X 的供貨並不意外。該公司執行長 Sharon Zhou 在攝群媒體上宣布了這一消息,LaminiAI 已經收到了多台配備 8 個 Instinct MI300X 加速器的設備,Sharon Zhou 表示,首批 AMD MI300X 已經投入應用,LaminiAI 的新一代 LLM 集群即將上線。
為了力抗輝達 (NVIDIA),MI300X 是 AMD Instinct MI300 系列的高性能版本,主打 AI 和 HPC 運算,其放棄了 x86 CPU 核心,而是搭載更多的 CDNA 3 運算單元,總數達到 304 個,遠高於 MI300A 的 228 個。此外,MI300X 還配備了 192GB HBM3 高速記憶體,最高頻寬高達 5.3 TB / s。
根據 AMD 官方性能測試,MI300X 的表現優於市面上已有的 Nvidia H100 80GB,甚至有可能對即將上市的 H200 141GB 構成威脅。目前,Meta 、微軟等巨頭客戶已採購了大量 AMD Instinct MI300 系列產品,LaminiAI 則是首家公開使用 MI300X 的公司。
(首圖來源:AMD)