靜待新 POWER 處理器到來,IBM Cloud 部署 AMD Instinct MI300X

作者 | 發布日期 2024 年 11 月 19 日 11:15 | 分類 IC 設計 , 伺服器 , 半導體 line share Linkedin share follow us in feedly line share
靜待新 POWER 處理器到來,IBM Cloud 部署 AMD Instinct MI300X


藍色巨人 IBM 18 日公告,和處理器大廠 AMD 達成合作,IBM Cloud 部署 AMD Instinct MI300X 晶片。2025 上半年推出,目標提升企業客戶生成式 AI 模型和高性能計算(HPC)應用性能和能效。

IBM 表示,雙方合作 Watsonx AI 與資料平台及 Red Hat Enterprise Linu 的 AI 推理,整合支援 MI300X 晶片。IBM Cloud 將提供 AMD Instinct MI300X 晶片運算服務,以支援企業客戶處理計算密集型任務。

IBM MI300X 晶片配備 192GB 高頻寬記憶體(HBM3),支援大模型推理微調,幫助客戶以更少 GPU 運行更大模型,降低推理成本。雙方利用 IBM Cloud 安全性與合法性,以支援各產業企業客戶,尤其受嚴格監管的企業。

資料中心 AI 晶片仍以 x86 架構為大宗,少部分 Arm 架構處理器,IBM POWER 系列也是小部分。IBM 旗下 AI 伺服器主流搭載 2021 年三星 7 奈米 EUV 製程的 Power10 處理器,與 Power9 相比,Power10 核心性能高 2.5 倍,處理相同工作負載耗能減少 33%。

雖然 IBM Power10 處理器伺服器,搭配 IBM 軟體與網路架構,還能因應企業級運算需求,但上升到資料中心層面,加上 AI 晶片都進展到 5~4 奈米甚至 3 奈米,Power10 就力不從心,才催生 IBM Power11 處理器與 IBM Spyre Accelerator AI 晶片 2025 年推出。在此之前,IBM 為了滿足客戶需求,才與 AMD 合作,IBM Cloud 提供 AMD Instinct MI300X 晶片運算服務。

(首圖來源:Flickr/Open Grid Scheduler / Grid Engine CC BY 2.0)

想請我們喝幾杯咖啡?

icon-tag

每杯咖啡 65 元

icon-coffee x 1
icon-coffee x 3
icon-coffee x 5
icon-coffee x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0
《關於請喝咖啡的 Q & A》