Supermicro 全新系統產品組合,將前瞻 AI 性能推向邊緣運算

作者 | 發布日期 2024 年 02 月 23 日 17:33 | 分類 AI 人工智慧 , 伺服器 line share follow us in feedly line share
Supermicro 全新系統產品組合,將前瞻 AI 性能推向邊緣運算


美超微(Supermicro)擴展其 AI 解決方案產品組合,讓客戶在公共空間、零售商店或工業基礎架構等邊緣位置能有效運用 AI 的強大性能。透過使用搭載 NVIDIA GPU 的 Supermicro 應用最佳化伺服器,可更輕鬆地微調預訓練模型(Pre-trained Model)及將 AI 推論解決方案部署在產生資料的邊緣端,縮短回應時間與改善決策。

Supermicro 總裁暨執行長梁見後表示,Supermicro 擁有最多元的邊緣 AI 解決方案產品組合,能支援客戶用於邊緣環境的預訓練模型。Supermicro Hyper-E 伺服器搭載兩個第五代 Intel® Xeon® 處理器,並支援最多三個 H100 Tensor Core GPU,為邊緣 AI 提供無與倫比的效能。藉由這些具有最高 8TB 記憶體的伺服器,能將資料中心的 AI 處理性能帶至邊緣位置。

透過伺服器升級,如非必要情況,使用者不再需要將資料傳回雲端進行處理,再將資訊擷取回邊緣端。同時,客戶現在可以使用預先訓練且效能最佳化後的大型語言模型(LLM),並透過 NVIDIA AI Enterprise 在其邊緣位置使用,以便在靠近資料生成端進行即時、精準的決策。

NVIDIA 合作夥伴聯盟副總裁 Kevin Connors 表示,越來越多來自醫療保健、零售、製造和汽車等領域的企業有意在邊緣端運用 AI 技術。Supermicro 全新 NVIDIA 認證系統由 NVIDIA AI 平台所驅動,提供了最高效能的加速運算基礎架構,並透過 NVIDIA AI Enterprise 軟體協助運行邊緣 AI 工作負載。

零售業智慧應用專家 StoreGenius 執行長 Jacque Istok 表示,Eviden 的 AI 零售解決方案是基於 Supermicro 邊緣系統和 NVIDIA 技術,徹底改變人們在商店等空間內導覽和互動的方式。透過商店的3D 模型和能傳達適當資訊的互動式聊天機器人,此解決方案為客戶提供互動式且個人化的購物模式,進而改善購物體驗。融合逼真的臉部動畫、先進的語音辨識和3D建模,使虛擬購物幾乎如同在實體商店一樣真實。

(首圖來源:美超微

延伸閱讀: