專業雲端服務供應商興起，其中如 CoreWeave、Lambda、Voltage Park 等已使用數萬個 Nvidia GPU 建構雲端基礎設施，但有些參與者轉向 AMD。
例子之一是 Bit Barn 新創 TensorWave，聯合創辦人 Jeff Tatarchuk 認為 AMD 最新加速器品質優良，本月稍早部署 AMD Instinct MI300X 驅動系統，年底目標兩座設施部署 20,000 台 MI300X 加速器，並明年上線更多液冷系統。
Jeff Tatarchuk 指 AMD 最新 AI 晶片比 Nvidia 令人垂涎的 H100 晶片更快， 「僅原始規格而言，MI300X 優於 H100。」
MI300X 去年底 Advancing AI 活動推出，750W 晶片採先進封裝組合，將 12 個小晶片（若算入 HBM3 模組為 20 個）拼成一個 GPU，據稱比 Nvidia H100 快 32%。
除了浮點運算更高，MI300X 晶片還有更大 192GB HBM3，5.3TB/s 頻寬，H100 頻寬為 80GB 和 3.35TB/s，記憶體頻寬越高 AI 效能也越好，尤其大型語言模型推理。
不過 Tatarchuk 也表示，客戶對 AMD 性能的信心還未高於 Nvidia，不確定能否享受到相同性能。
（首圖來源：Pixabay）
科技新報粉絲團
加入好友
訂閱免費電子報
