英特爾似乎終於意識到與 NVIDIA 展開 AI 運算能力競爭沒有贏面,決定不追逐訓練大規模人工智慧模型市場,正尋求透過新的 Gaudi 3 產品推出經濟解決方案。
英特爾正投入一個相對較少的人工智慧業務領域,根據 CRN 一份報告,英特爾將旗下最新的 Gaudi 3 AI 加速器定位為有價值產品,具市場上最佳性價比,雖然從效能角度來看,Gaudi 3「沒有追上」Nvidia 最新 GPU,但該加速器晶片非常適合運行基於任務的模型與開源模型。
隨著「以推理為中心」的 LLM 模型首次亮相,英特爾稱 Gaudi 3 系列性能與 NVIDIA 備受歡迎的 H100 AI 加速器相當,尤其是推理工作負載大幅上升。根據英特爾計算,Llama 3 模型中 Gaudi 3 比 H100 快約 9%,性價比高 80%;在 Llama 2 模型中,Gaudi 3 速度提高 19%,性價比差異則高達 2 倍,確實令人印象深刻。
雖然 Gaudi 3 在這兩項 LLM 測試表現優於 H100 和 H200,但在 16 位元和 8 位元格式的浮點運算的測試中,表現不如 H100,表明硬核 AI 性能目前還不是英特爾的牌,他們意識到硬體方面無法與 NVIDIA 競爭,加上人工智慧運算領域有另一個崛起的競爭對手 AMD,英特爾決定不參與主流市場需求,不打算在這場競賽與 Nvidia 的 GPU 正面交鋒。
從長遠來看,英特爾認為等人工智慧與大型資料中心熱潮消退,較小的 LLM 模型會被更廣泛採用。
- Intel Says It Won’t Compete With NVIDIA In AI Market, Shifts Focus Towards Bringing Cost-Effective AI Solutions With Gaudi 3
- Outrun By Nvidia, Intel Pitches Gaudi 3 Chips For Cost-Effective AI Systems
(首圖來源:Intel)