英特爾發表加速 HPC 和 AI 技術的科學研究

作者 | 發布日期 2023 年 11 月 21 日 8:40 | 分類 AI 人工智慧 , IC 設計 , 半導體 line share follow us in feedly line share
英特爾發表加速 HPC 和 AI 技術的科學研究


英特爾宣布,美國丹佛 Super Computing 年度展會(SC23)展示 AI 加速的高效能運算(HPC),產品組合橫跨 Intel Data Center GPU Max 系列、Intel Gaudi2 AI 加速器、Intel Xeon 處理器,皆展現 HPC 和 AI 負載的領先效能。

英特爾也分享與美國阿貢國家實驗室(Argonne National Laboratory,ANL)合作 Aurora 生成式 AI 計畫的相關進展,內容有 Aurora 超級電腦參數量高達 1 兆的 GPT-3 大型語言模型(LLM)最新發展,這些進展獲益於 Max 系列 GPU 獨特架構和 Aurora 超級電腦的系統能力。英特爾和阿貢國家實驗室合作,透過 Aurora 早期科學計畫(Aurora Early Science Program)和 Exascale 運算專案(Exascale Computing Project,ECP)的各項應用,加速科學發展,並同步揭示 Intel Gaudi3 AI 加速器和 Falcon Shores 的發展藍圖。

英特爾企業副總裁暨資料中心 AI 解決方案總經理 Deepak Patil 表示,英特爾持續致力於提供創新技術解決方案,以滿足 HPC 和 AI 社群的需求。Xeon CPU、Max GPU 和 CPU 卓越的效能表現都有助於推進相關研究和科學發展,搭配 Gaudi 加速器更能全面展現出英特爾的領先技術能夠為客戶帶來更值得信賴的選擇,以滿足多元的工作執行需求。

英特爾表示,針對科學研究的生成式 AI 及最新效能和基準測試結果,突顯出英特爾提供的客製化解決方案足以滿足 HPC 和 AI 客戶的特定需求。英特爾透過軟體定義的方式,採用 oneAPI 規範與 HPC 和 AI 增強工具套件,協助開發人員跨越架構框架,無縫轉移程式碼,加速科學研究。此外,Max 系列 GPU 和 CPU 也將部署在多組即將上線的超級電腦。

阿貢國家實驗室分享了以 Aurora 超級電腦推動科學研究生成式 AI 計畫的進展。透過 Aurora 生成式 AI計畫,阿貢國家實驗室、英特爾及合作夥伴將攜手創建最先進的 AI 模型,奠定科學發展基礎。這些模型將使用超過 1 兆參數規模的科學文本、程式碼和科學資料集進行訓練,涵蓋多門科學領域。生成式 AI 計畫將利用Megatron和DeepSpeed的基礎技術,服務生物、癌症研究、氣候科學、宇宙科學和材料科學等多門科學領域。

Intel Max 系列 GPU 架構和 Aurora 超級電腦系統擁有優秀的性能,只需 64 節點即可高效率處理 1 兆個參數的模型,遠低於一般所需。阿貢國家實驗室以 256 個節點處理四個實例,展現出 Aurora 平行處理多實例的能力;也能夠加速訓練擴展未來超過 1 萬節點上數兆 token 的參數模型。

英特爾 2024 年推出 Intel Gaudi3 AI 加速器。Gaudi3 AI 加速器將基於與 Gaudi2 相同的高效能架構,預計提供 4 倍運算能力(BF16)、雙倍的網路頻寬,以實現更高的橫向擴展效能,以及 1.5 倍內嵌 HBM 記憶體,輕鬆滿足對 LLM 高效能、高效率運算不斷增長的需求,且同時兼顧效能。

英特爾公布 2024 年軟體開發工具套件的功能,推動 oneAPI 多架構程式支援的開放式軟體開發。新工具可協助開發人員在英特爾 CPU 和 GPU 擴展新的 AI 和 HPC 功能,涵蓋範圍更廣,包括使用標準 Python 實現數位負載更快的效能和部署,以及編譯器增強功能,交付近乎完整的 SYCL 2020,提高生產力和程式碼卸載。在德州先進運算中心(TACC)宣布 oneAPI 卓越中心將專注於開發及優化地震成像基準程式碼的計畫。全球共 32 座英特爾 oneAPI 卓越中心共同推動此軟體及硬體創新與研究的產業發展。

英特爾投資 AI 和 HPC,突顯市場強勁動能。採用英特爾 Max 系列 GPU 和 CPU 的新超級電腦部署包括 Aurora、Dawn Phase 1、SuperMUC-NG Phase 2、Clementina XX1 等系統,以及一台以 Stability AI 為主要客戶,採用英特爾 Gaudi2 加速器新系統的大型 AI 超級電腦。而這些動能將奠定英特爾對於 AI 和 HPC 的次世代 GPU Falcon Shores 研發基礎。Falcon Shores 將採用 oneAPI 開放標準建構的單一 GPU 程式設計介面,應用在 Intel Gaudi 和 Intel Xe 的 IP。讓目前建構在 Intel Gaudi AI 加速器及 Intel Max 系列 GPU 的應用程式,未來也能輕鬆轉移到 Falcon Shores。

(首圖來源:Flickr/Kazuhisa OTSUBO CC BY 2.0)