力抗王者輝達!AMD MI300X 正式出貨交付客戶

作者 | 發布日期 2024 年 01 月 23 日 7:00 | 分類 AI 人工智慧 , GPU , IC 設計 line share Linkedin share follow us in feedly line share
力抗王者輝達!AMD MI300X 正式出貨交付客戶

AMD 最近開始量產出貨其最新一代人工智慧和高效能運算(HPC)加速器 Instinct MI300X,並率先交付合作夥伴 LaminiAI 使用。LaminiAI 將使用 MI300X 加速器執行大型語言模型(LLM)的運算工作,以滿足企業用戶的需求。

事實上,LaminiAI 與 AMD 已有多年合作,因此優先獲得 MI300X 的供貨並不意外。該公司執行長 Sharon Zhou 在攝群媒體上宣布了這一消息,LaminiAI 已經收到了多台配備 8 個 Instinct MI300X 加速器的設備,Sharon Zhou 表示,首批 AMD MI300X 已經投入應用,LaminiAI 的新一代 LLM 集群即將上線。

為了力抗輝達 (NVIDIA),MI300X 是 AMD Instinct MI300 系列的高性能版本,主打 AI 和 HPC 運算,其放棄了 x86 CPU 核心,而是搭載更多的 CDNA 3 運算單元,總數達到 304 個,遠高於 MI300A 的 228 個。此外,MI300X 還配備了 192GB HBM3 高速記憶體,最高頻寬高達 5.3 TB / s。

根據 AMD 官方性能測試,MI300X 的表現優於市面上已有的 Nvidia H100 80GB,甚至有可能對即將上市的 H200 141GB 構成威脅。目前,Meta 、微軟等巨頭客戶已採購了大量 AMD Instinct MI300 系列產品,LaminiAI 則是首家公開使用 MI300X 的公司。

(首圖來源:AMD)

想請我們喝幾杯咖啡?

icon-tag

每杯咖啡 65 元

icon-coffee x 1
icon-coffee x 3
icon-coffee x 5
icon-coffee x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0
《關於請喝咖啡的 Q & A》