Nvidia 發布 AI 虛擬化與雲端方案,促進分享 AI 計算能力

作者 | 發布日期 2019 年 08 月 26 日 22:48 | 分類 AI 人工智慧 , GPU follow us in feedly


原先虛擬化技術只是單純虛擬一台電腦出來,但隨著技術進步,網路功能和運算資源也有辦法虛擬化處理。近年熱門的 AI,AI 運算能力也有辦法虛擬化,並且搭配雲端變成共享的資源。Nvidia 與 VMWare 宣布 GPU虛擬運算平台 vComputeServer,以及運用 AWS 的 VMWare Cloud on AWS 增加 Nvidia GPU 運算能力,以後做 AI 研究的人不必再費心添購硬體,而是能夠尋求雲端的解決方案。

Nvidia 與 VMware 今日 (8/26) 宣布將針對 VMware Cloud on AWS 推出 GPU 加速服務,協助用戶推動各種現代化企業應用,其中包括 AI、機器學習與資料分析。這些服務讓客戶能夠將各種 VMware vSphere 的應用與容器無需變更即可無縫轉移至雲端,以現代化的方式發揮高效能運算、機器學習、資料分析與視訊處理的優勢。

AI 的運算資源和負責操作的資料科學家,對於不少公司來說是不小的負擔,如何規劃運用成為一門大學問,其中運算時間往往要好幾個小時甚至幾天的功夫,導致資料科學家有閒置的時間。成為不少科技公司努力的方向。

根據 Gartner 2019 年關於運算架構的藍圖報告,到了 2023 年總共有 40% 的企業會運用機器學習技術,在資訊領域資料科學家成為最熱門職位,人數總共有 300 萬人,而到了 2021 年有 75% 企業會採用多雲的雲端環境。AI 運算能力放到雲端,並且可以彼此分享運算資源,也是不少廠商思考的可能性。在這次 VMWare World 大會上,VMWare 和 Nvidia 合作,將 AI 運算能力透過虛擬化技術,分享給臨時需要多的運算資源的團隊,或是無力負擔昂貴硬體建設成本的團隊。

透過這項合作,VMware Cloud on AWS 的客戶將能取得全新高擴充性且安全的雲端服務,其中包含以 NVIDIA T4 GPU 與全新 NVIDIA Virtual Compute Server (vComputeServer) 軟體進行加速的 Amazon EC2。

NVIDIA 創辦人暨執行長黃仁勳表示:「從營運智慧分析到 AI,企業仰賴 GPU 加速運算做出快速精準的預測,對營運績效有直接的助益。NVIDIA 與 VMware 合作設計最先進的 GPU 基礎設施,推動各產業的全面創新,從虛擬化、混合雲一直涵蓋到 VMware 新推動的 Bitfusion 資料中心解構。」

VMware 執行長 Pat Gelsinger 表示:「我們的客戶透過 VMware Cloud AWS 獨特價值,加速推動關鍵商務應用的轉移與現代化。我們與包括 NVIDIA 與 AWS 在內的業界領導業者合作獲得許多創新成果,針對最繁重的資料驅動作業提供同級方案最佳的 GPU 加速服務,以及針對混合雲環境中各種應用推動現代化。」

VMware Cloud on AWS 結合 Nvidia GPU 為 AI、機器學習與資料分析帶來的助益

  • 服務推出後企業就能運用企業級混合雲平台加速推動應用現代化,能夠從資料中心到 AWS 雲端平台上,以一致的 VMware 基礎設施整合部署、移轉與執行,以支援各種運算密集度最高的作業,例如 AI、機器學習與資料分析,其中的優勢包含:
  • 無縫移轉:用戶能透過 Nvidia vComputeServer軟體與 GPU 進行作業的轉移,僅須一個按鈕即可完成,不會發生像使用 VMware HCX 時產生停機的問題。這將提供客戶更多的選擇與彈性,能自行決定在雲端或用戶端環境進行訓練與推論。
  • 彈性的 AWS 基礎設施:以 Nvidia T4 加速的 VMware Cloud on AWS 叢集具備自動化擴充能力,讓管理者能依據資料科學家的需求,進行訓練環境的擴充或縮減。
  • 加速運算推動現代化應用:Nvidia T4 GPU 內建的 Tensor Cores 核心能用來加速深度學習推論作業。再配合 GPU 虛擬化的 vComputeServer 軟體,企業即能有充裕的彈性去執行各種 GPU 加速作業,在虛擬化環境中執行包括 AI 、機器學習與資料分析等任務,藉以改進安全、資源使用率與管理效能。
  • 一致的混合雲基礎設施與操作模式:透過 VMware Cloud on AWS,企業將在混合雲環境中建立一致的基礎設施與操作模式,並透過 VMware 業界標準的 vSphere、vSA 與 NSX 等方案作為基礎,推動關鍵商務應用的現代化。IT操作人員能在 vCenter 內管理各種 GPU 加速作業的同時,一邊執行在 vSphere 用戶端系統上執行的 GPU 加速作業。
  • 無縫銜接的端至端資料科學與分析作業:Nvidia T4 資料中心 GPU 透過 NVIDIA RAPIDS™ 為主流伺服器與加速資料科學技術提供動能,RAPIDS 技術為專為資料科學所設計的 NVIDIA GPU 加速函式庫,涵蓋深度學習、機器學習與資料分析等領域。

(首圖來源:Nvidia)