NVIDIA、微軟聯手打造巨型雲端超級電腦，加速生成式 AI 進展

NVIDIA 今日宣布與微軟展開多年合作計畫，將共同打造全球最強大人工智慧（AI）超級電腦之一，結合 Microsoft Azure 先進超級運算基礎設施，以及 NVIDIA 的 GPU、網路技術和完整的 AI 軟體堆疊支援這台 AI 超級電腦，協助企業訓練、部署和擴展 AI，包括最先進大型模型。

NVIDIA 表示，本次合作運用 Azure 具擴充性的虛擬機器執行個體，推動研究並進一步加快推動生成式 AI（generative AI）進展。生成式 AI 是迅速崛起的 AI 領域，像是 Megatron Turing NLG 530B 這類基礎模型，是無監督、自我學習演算法的基礎，創造新文字、程式碼、數位影像、影片或音訊。

Microsoft Azure 針對 AI 最佳化調整的虛擬機器執行個體建構於 NVIDIA 最先進的資料中心 GPU，是第一個採用 NVIDIA Quantum-2 400Gb/s InfiniBand 網路技術的公有雲執行個體。客戶可在單一叢集部署數千個 GPU，訓練最龐大的大型語言模型、大規模建立最複雜的推薦系統，以及大規模運用產生式 AI。

不僅如此，雙方亦合作將微軟的 DeepSpeed 深度學習最佳化軟體調整到最佳狀態。微軟的 DeepSpeed 將利用 NVIDIA H100 Transformer 引擎加快執行採用 Transformer 模型的速度，用於大型語言模型、生成式 AI 和電腦程式碼編寫等廣泛應用。這項技術將 8 位元浮點精度功能用於 DeepSpeed，以大幅加快採用 Transformer 模型的 AI 運算速度，傳輸量是 16 位元運算的兩倍。

NVIDIA 企業運算部門副總裁 Manuvir Das 表示，AI 技術進步加上產業採用腳步不斷加快，基礎模型的突破性發展促進研究潮、培育更多新創公司，並開發新企業應用。雙方合作將為研究人員及企業提供最先進 AI 基礎設施和軟體。

（首圖來源：NVIDIA）