英特爾推最新 AI 晶片 Gaudi 3，稱能效比 Nvidia 的 H100 高 40%

英特爾於 Vision 2024 大會推出最新一代 AI 晶片 Gaudi 3，希望從競爭對手輝達（Nvidia）手上奪回市場份額。據英特爾稱，Gaudi 3 能源效率比 Nvidia 的 H100 晶片高 40%，推理速度快 50%。

產業在 AI 浪潮下正以驚人速度發展，晶片是當中不可少的助力，比如 Nvidia 推出最受歡迎的晶片之一 H100 正大力支援微軟、Google 等最大科技公司的人工智慧應用，Nvidia 過去一年也受惠 AI 繁榮，股價上漲了 2 倍多。

目前蓬勃發展的人工智慧市場主要由 Nvidia、AMD 主導，而英特爾和 AMD 一樣，正尋求拿下 Nvidia 主要替代品的地位，為此，英特爾於本週 Vision 2024 活動發布一系列公告，包括最新一代 Gaudi 3 AI 晶片細節。

據英特爾稱，Gaudi 3 晶片訓練性能比 Nvidia 的 H100 晶片高 1.7 倍，推理能力提高 50%，能效提高 40%，但成本低很多，將於 2024 年第三季透過代工大量生產並全面上市，價格未知。

規格方面，Gaudi 3 採用與前身相同的架構和底層，但配備更先進的台積電 5 奈米製程，英特爾表示，Gaudi 3 的 FP8 效能是上一代產品 2 倍，BF16 效能是上一代產品 4 倍，網路頻寬是上一代產品 2 倍，記憶體頻寬是上一代產品 1.5 倍。

Gaudi 3 可協助訓練或部署模型，包括用於語音辨識的 Stable Diffusion、OpenAI 的 Whisper 模型。

英特爾表示，Gaudi 3 在訓練常見大型語言模型時比 H100 快 1.7 倍，推理某些語言模型時，甚至可比 Nvidia 更強大的 H200 平均快 1.3 倍。不過今年早些時候，Nvidia 已發布 H100 的後繼產品 B100、B200 GPU，也有望帶來效能提升，預計今年晚些開始出貨。

• Intel Unveils Powerful, Efficient Gaudi 3 AI Accelerator And New Xeon 6 Processors At Vision 2024
• Intel details Gaudi 3 at Vision 2024 — new AI accelerator sampling to partners now, volume production in Q3
• Intel unveils latest AI chip as Nvidia competition heats up
• Intel Unleashes Enterprise AI with Gaudi 3, AI Open Systems Strategy and New Customer Wins

（首圖來源：Intel）