推出效能核心解決方案,英特爾 Xeon 6 與 Gaudi 3 亮相

作者 | 發布日期 2024 年 09 月 25 日 10:40 | 分類 AI 人工智慧 , 半導體 , 晶片 line share Linkedin share follow us in feedly line share
推出效能核心解決方案,英特爾 Xeon 6 與 Gaudi 3 亮相


處理器大廠英特爾指出,AI 顛覆各產業,企業對兼顧成本效益和快速開發部署基礎設施的需求愈趨成長。因應需求攀升,推出搭載效能核心(P-core)的 Xeon 6 和 Gaudi 3 AI 加速器,強化致力提供每瓦最佳效能且降低總持有成本(TCO)的強大 AI 系統承諾。

英特爾 Intel Xeon 6 搭載效能核心,專為處理運算密集型工作設計,兼顧優異效率。相較上代處理器,Xeon 6 效能提升兩倍,不僅核心數增加、記憶體頻寬加倍,更將 AI 加速功能嵌入每核心,專為滿足邊緣到資料中心和雲端環境的 AI 效能需求。

Gaudi 3 AI 加速器特別為大規模生成式 AI 最佳化設計。Gaudi 3 有 64 個張量處理器核心(TPC)與八個矩陣乘法引擎(MME),加速深度神經網路運算。還有訓練與推論用 128GB HBM2e 記憶體,以及可擴充網路的 24 個 200 Gb 乙太網路連接埠。

Gaudi 3 也有與 PyTorch 框架、先進 Hugging Face Transformer 模型和 diffuser 模型無縫相容性。英特爾近期宣布與 IBM 合作,將 Gaudi 3 AI 加速器部署至 IBM Cloud,客戶使用 AI 與擴充 AI 規模時,能同時強化效能與降低總持有成本(TCO)。

英特爾 AI 技術還有多種考量,如靈活彈性選項、具競爭力價格效能比,以及可用 AI 技術等。英特爾 x86 架構與開放生態系,支援企業建構具最佳化總持有成本及每瓦效能的高價值 AI 系統。市場高達 73% GPU 加速伺服器為 Intel Xeon 系列處理器的伺服器處理器(host CPU)。

英特爾執行副總裁暨資料中心與 AI 解決方案總經理 Justin Hotard 指出,AI 需求帶動資料中心大規模轉型,因此軟硬體和開發工具需要更多選擇。英特爾推出效能核心的 Xeon 6 和 Gaudi 3 AI 加速器,促進開放生態系發展,使客戶以更佳效能、效率和安全性,滿足所有工作。

英特爾與 OEM 夥伴戴爾科技、美超微,開發共同設計系統,戴爾科技與英特爾共同設計適用 Gaudi 3 和 Xeon 6 且以檢索增強生成(RAG)為基礎的解決方案。生成式 AI(Gen AI)解決方案由原型設計推進至量產就緒時,會有即時監控(real-time monitoring)、錯誤處理(error handling)、記錄日誌檔(logging)、安全性和可擴充性等挑戰。

故英特爾與 OEM 廠商夥伴,共同處理這些挑戰,推出量產就緒的 RAG 解決方案,建立於 Open Platform For Enterprise AI(OPEA)平台上,基於 OPEA 的微服務架構整合至可擴充的 RAG 系統,並對 Xeon 和 Gaudi AI 系統最佳化,目的為協助客戶輕鬆整合 Kubernetes、Red Hat OpenShift AI 和 Red Hat Enterprise Linux AI 的應用程式。

Intel Tiber 產品組合提供企業解決方案,解決橫跨 AI、雲端與邊緣環境的各種挑戰,包括存取、成本、複雜性、安全性、效率和可擴充性。Intel Tiber Developer Cloud 提供英特爾 Xeon 6 預覽系統,可供技術評估與測試。特定客戶可搶先體驗英特爾 Gaudi 3,以實際驗證 AI 模型。Gaudi 3 叢集下季推出,可大規模量產部署。

(首圖來源:英特爾)

想請我們喝幾杯咖啡?

icon-tag

每杯咖啡 65 元

icon-coffee x 1
icon-coffee x 3
icon-coffee x 5
icon-coffee x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0
《關於請喝咖啡的 Q & A》