生成式 AI 熱潮方興未艾，核心動能的資料中心 GPU 更令人關心。GPU 大廠輝達 (NVIDIA) 運算副總裁 Manuvir Das 參加 1 日 MIT Technology Review 舉行的 Future Compute 活動，宣布 DGX H100 系統開始出貨，可幫助從東京到斯德哥爾摩客戶，用 NVIDIA 最新 AI 超級電腦提升製造、醫療照護、機器人等生成式 AI 應用需求。
輝達表示，日本、厄瓜多和瑞典客戶都將 NVIDIA DGX H100 系統如 AI 工廠產生情資，創建提供金融、醫療、法律、IT 和電信產業等基於 AI 洞見的服務，並致力協助產業轉型。案例之一為預測工廠設備老化程度，以提升效率。
Green Physics AI 系統可將物體碳足跡、年齡和能源消耗等資訊加入號稱製造業最大資料庫的 SORDI.ai，讓製造業者開發強大 AI 模型，並創建最佳化工廠和倉庫效率的數位孿生。使用 Green Physics AI，可為產品和零組件最佳化能源利用和減少 CO2 排放。
即使不是世界一流研究機構或 500 大企業，也可使用 DGX H100。新創啟用第一批生成式 AI 系統，駕馭生成式 AI 浪潮。倫敦和紐約的 Scissero 使用 GPT 驅動聊天機器人提高法律流程效率，Scissero GPT 可起草法律文件，產生報告並做研究。德國 DeepL 使用多個 DGX H100 系統擴展提供客戶幾十種語言翻譯服務，包括日本最大出版社 Nikkei。DeepL 最近推出 DeepL Write AI 寫作助理。
許多 DGX H100 系統也能促進醫療保健並改善療效。東京 DGX H100s 為 Tokyo-1 超級電腦的一部分，模擬加速藥物開發。Xeureka 是日本最大企業之一三井物產株式會社 2021 年 11 月成立的新創，可管理此系統。德國、以色列和美國醫院和學術醫療機構都為 DGX H100 系統首批用戶。
DGX H100 系統每個 H100 Tensor Core GPU 性能平均比以前 GPU 高約 6 倍，搭載 8 個 GPU，每個 GPU 都有一個 Transformer Engine，加速生成式 AI 模型。8 個 H100 GPU 透過 NVIDIA NVLink 連接，形成巨大 GPU，也可擴展 DGXH100 系統，使用 400 Gbps 超低延遲 NVIDIA Quantum InfiniBand 將數百個 DGX H100 節點連線一台 AI 超級電腦，速度是之前網路的兩倍。
DGX H100 系統在 NVIDIA Base Command 上運行，是加速運算、儲存和網路基礎設施並最佳化 AI 負載的套件。DGX H100 系統還包括 NVIDIA AI Enterprise 軟體，可加速資料科學流程，並簡化生成式 AI、電腦視覺等開發部署。DGX 平台具高效能和高效率。與 DGX A100 相比，DGX H100 每 petaflop 運算力千瓦數能源效率提高 2 倍。
(首圖來源：NVIDIA)
科技新報粉絲團
加入好友
訂閱免費電子報
