即將舉辦 Instinct MI300 加速器發表會的處理器大廠 AMD，在 MI300 系列 AI 加速卡將有望成為輝達 Google 在 TPU 於 LLM（大語言模型）推理中的唯一競爭對手的情況下，為了達成這一目標，AMD 一直在大力投資他們自己的 RoCM 軟體、PyTorch 生態系統和 OpenAI 的 Triton。
Semianalysis 報導，微軟、Meta、甲骨文、Google、Supermicro / Qunta-direct、亞馬遜等公司已經向 AMD 下了不同數量的 MI300 系列訂單。值得注意的是，在不久前的財報會議上，AMD 執行長蘇姿丰表示，就 AMD 在人工智慧路線執行和雲端運算客戶承諾購買方面獲得的快速進展，預計隨著全年營收的增加，資料中心 GPU 的營收在 2023 年第四季將達到約 4 億美元，2024 年將超過 20 億美元。這一成長將使 MI300 系列成為 AMD 歷史上營收最快成長至 10 億美元的產品。
報導指出，因為 AMD MI300 系列的複雜供應鏈，當它在台積電開始生產晶圓的那一刻起，AMD 大約還需要七個月的時間才能擁有整合個 MI300X GPU 的 AMD Instinct 平台的伺服器主機板。而目前 AMD 在 LLM 訓練和推理方面的市占率低於 0.1%，所以 AMD 在資料中心的市占率將繼續穩步成長，這種情況將持續到 2024 年年中 Turin 和 Turin-Dense 平台的推出。
另外，AMD 自 2024 年從 MI300 系列獲得 10 億美元收入的前題，將是可以確保穩定的供應鏈，以及主要客戶訂購的數量。供應方面，人工智慧加速器模型以記憶體製造商、CoWoS 數量、封裝產量等計算了 HBM 數量，用於使用 CoWoS 生產的每種 AI 加速器。
需要注意的是，台積電 N5 / N6 製程晶圓生產、SoIC 晶圓生產、CoWoS 晶圓生產、GPU 封裝測試和 AMD Instinct 平台主板生產方面仍存在瓶頸，特別是由於 HBM 和 CoWoS 的供應限制。因此，訂單是在很長一段時間前下的，以確保在數個月之後達到所需要的交付數量。
另一面，微軟、Meta、甲骨文、Google、Supermicro/Qunta-direct 和亞馬遜是 AMD MI300 系列訂單的主要客戶，但也有一些訂單來自供應鏈的其他部分。將這些因素結合在一起，預計 AMD 在 2024 年第三季之前將一直受到供應限制，然後在第四季達到滿足的情況。
(首圖來源：科技新報攝)
科技新報粉絲團
加入好友
訂閱免費電子報
