沒有大客戶 AMD MI 300X 遭質疑?市場人士:兩者市場有差

作者 | 發布日期 2023 年 06 月 14 日 18:00 | 分類 AI 人工智慧 , GPU , 半導體 line share follow us in feedly line share
沒有大客戶 AMD MI 300X 遭質疑?市場人士:兩者市場有差


眾所期待的 AMD 終於 14 日宣布推出人工智慧 (AI) 新加速器 MI 300X,將與競爭對手輝達 (NVIDIA) H100 抗衡,不過 AMD 發表會沒有透露是否有大客戶採用 MI 300X,造成投資人疑慮,股價收盤時下跌 3.6%。

AMD MI 300X 採新 CDNA 3 加速器架構,支援高達 192GB HBM3 記憶體,提供大型語言模型推導與生成式 AI 工作負載運算力與記憶體效率。晶片總計封裝 1,530 億個電晶體,並 12 個 5 奈米製程小晶片。相較競爭對手,MI 300X 的 HBM 暫存記憶體是 NVIDIA H100 的 2.4 倍,HBM 頻寬是 H100 的 1.6 倍,AMD 可執行比 NVIDIA H100 更大的模型。

AMD 推出 AMD Infinity 架構平台,將 8 個 MI 300X 加速器整合至業界標準設計,打造極致的生成式 AI 推論與訓練環境。MI 300X 第三季開始送樣各大客戶,第四季出貨。AMD 同時發表 Instinct MI 300A,為針對 HPC 與 AI 工作負載開發的全球首款 APU 加速器,也開始送樣。

路透社報導,AMD 執行長蘇姿丰受訪時表示,MI 300X AI 加速器有助科技公司應付類似 ChatGPT 服務不斷上升的成本。暫存記憶體越大,AI 加速器可處理的模型集就越大,客戶工作負載能看到它運行更快,使 MI 300X 與眾不同。

AMD 這次沒說明誰採用 MI 300X,或採 MI 300A 相關產品。AMD 也沒有詳細說明加速器成本多少,也沒有說明促銷活動,故發表會後收盤價下跌 3.6%,反觀競爭對手輝達上漲 3.9%,市值重回兆美元大關。

報導引用 TIRIAS Research 分析師 Kevin Krewell 說法,認為沒有大客戶採用 MI 300A 或 X 可能讓投資人失望,即便 AMD 說某些設計可取代輝達。輝達仍囊括 AI 加速器 80%~90% 市場,幾乎沒有大對手,能抗衡的只 Google 母公司 Alphabet、亞馬遜等網路商。

發表會有幫忙站台的 Meta,宣布採購代號 Bergamo 的第四代 EPYC 伺服器處理器,以因應雲端運算客戶需求,但不是採購 MI 300X AI 加速器。輝達 AI 領先地位不僅來自晶片算力,還有十多年提供 AI 研究員軟體工具。AMD 同樣提供 Rocm 軟體更新。

有市場人士指出,AMD MI 300X AI 加速器最重要優勢在支援高達 192GB HBM3 暫存記憶體,使許多中小新創企業使用 AI 模型訓練時可一口氣運算。如用輝達 H100 AI 加速器,必須某個斷點切割,會花費較多時間與成本。雖 H100 算力似乎高於 MI 300X,但購買成本也較高,MI 300X 的 CP 值較能吸引中小新創採用,故產品市場是有差別,是否受投資人青睞就需時間證明。

(首圖來源:科技新報攝)