英特爾表示,不與 Nvidia 競爭訓練大規模 AI 模型市場

作者 | 發布日期 2024 年 10 月 18 日 9:03 | 分類 AI 人工智慧 line share Linkedin share follow us in feedly line share
英特爾表示,不與 Nvidia 競爭訓練大規模 AI 模型市場


英特爾似乎終於意識到與 NVIDIA 展開 AI 運算能力競爭沒有贏面,決定不追逐訓練大規模人工智慧模型市場,正尋求透過新的 Gaudi 3 產品推出經濟解決方案。

英特爾正投入一個相對較少的人工智慧業務領域,根據 CRN 一份報告,英特爾將旗下最新的 Gaudi 3 AI 加速器定位為有價值產品,具市場上最佳性價比,雖然從效能角度來看,Gaudi 3「沒有追上」Nvidia 最新 GPU,但該加速器晶片非常適合運行基於任務的模型與開源模型。

隨著「以推理為中心」的 LLM 模型首次亮相,英特爾稱 Gaudi 3 系列性能與 NVIDIA 備受歡迎的 H100 AI 加速器相當,尤其是推理工作負載大幅上升。根據英特爾計算,Llama 3 模型中 Gaudi 3 比 H100 快約 9%,性價比高 80%;在 Llama 2 模型中,Gaudi 3 速度提高 19%,性價比差異則高達 2 倍,確實令人印象深刻。

雖然 Gaudi 3 在這兩項 LLM 測試表現優於 H100 和 H200,但在 16 位元和 8 位元格式的浮點運算的測試中,表現不如 H100,表明硬核 AI 性能目前還不是英特爾的牌,他們意識到硬體方面無法與 NVIDIA 競爭,加上人工智慧運算領域有另一個崛起的競爭對手 AMD,英特爾決定不參與主流市場需求,不打算在這場競賽與 Nvidia 的 GPU 正面交鋒。

從長遠來看,英特爾認為等人工智慧與大型資料中心熱潮消退,較小的 LLM 模型會被更廣泛採用。

(首圖來源:Intel

延伸閱讀:

想請我們喝幾杯咖啡?

icon-tag

每杯咖啡 65 元

icon-coffee x 1
icon-coffee x 3
icon-coffee x 5
icon-coffee x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0
《關於請喝咖啡的 Q & A》