戴爾推生成式 AI 開放生態系統，支援 AMD 新加速器

生成式 AI 是近十年最受矚目的創新加速器，78% 的 IT 決策者表示期待生成式 AI 在企業中發揮潛力，將其視為提高生產力、簡化流程及節省成本的方式。戴爾科技集團表示，善用此技術對於身處數位時代的企業來說非常重要，有助於在競爭激烈的環境中占有一席之地。

戴爾攜手AMD擴大Dell生成式AI解決方案產品組合，持續加速推動進階工作負載，為企業提供更豐富的選擇，並推進生成式AI進程。此新技術展現了開放生態系統和矽多樣性的關鍵角色，為客戶提供簡單、可信任的客製化解決方案，將AI導入數據中；然而，因應激增的資料量及善用資料，為現今AI領域的核心問題。

戴爾指出，Dell PowerEdge XE9680為公司至今增長速度最快的解決方案，支援即將推出的AMD Instinct MI300X加速器，提供客戶更多AI效能相關選擇。其搭載AMD Instinct MI300X，透過高效能解鎖企業數據價值，並運用客製化大語言模型（LLM）於產業中脫穎而出。搭載8個MI300X GPU，每個GPU皆配備192GB的5.3 TB/s高頻寬記憶體（HBM3），每個伺服器都有一致的HBM3容量達1.5 TB，以及逾21 petaflops的FP16算力峰值，讓生成式AI被企業普及使用，協助訓練更大的模型、減少數據中心占地面積、降低總體擁有成本，並獲得競爭優勢。

戴爾並指出，Dell PowerEdge XE9680不僅效能強大，其安全與簡易性更為同級中最出色。藉由Dell Open Manage Enterprise軟體簡化和加速生成式AI基礎架構的部署，並透過CloudIQ軟體達到智慧自動化，其更整合網路復原功能和一系列Zero Trust提升安全性。

Dell PowerEdge XE9680是藉由以8個AMD Instinct MI300X加速器運作的AMD Instinct Infinity平台，實現近線性的規模擴充與低延遲分散式的生成式AI訓練及推論。藉由橫跨PowerEdge伺服器叢集的全域記憶體互聯（xGMI），並透過乙太網路為基礎的AI結構連結MI300X GPU，使用經戴爾驗證的GPU結構和Dell PowerSwitch Z9664F-ON。

此外，戴爾亦宣布生成式AI解決方案的進一步計劃，全新Dell Validated Design for Generative AI with AMD協助企業更易部署可信任的生成式AI。此款Dell Validated Design for Generative AI with AMD ROCm的AI架構將於2024年上市，拓展Dell生成式AI解決方案生態系，並將加入開源大語言模型。AMD ROCm可做為AMD Instinct加速器的開源驅動程式堆疊、開發工具組及API。透過Dell Validated Designs for Generative AI將能更簡單地客製可信任的生成式AI平台，消弭整合、效能和規模等考量因素的不確定性。

身為超級乙太網聯盟（UEC）一員，戴爾致力提倡基於標準的網路。戴爾表示，公司擁有獨特優勢，可在生成式AI解決方案（運算、結構和儲存）中運用開放式方法充分發揮潛力。

（本文由 MoneyDJ新聞 授權轉載；首圖來源：戴爾）