英特爾發表 Aurora 超級電腦 AI 模型，目標產生 1 兆參數

英特爾 (Intel) 公布為美國國家阿貢實驗室 (Argonne National Laboratory) 建置 21,248 個 Xeon CPU 和 63,744 個 GPU、超過 2 ExaFlops 算力的 Aurora 超級電腦後，也公布 Aurora 超級電腦產生的全新科學生成 AI 模型──Aurora genAI。

外媒報導，具 2 ExaFlops 算力的 Aurora 是超級電腦怪獸，Aurora 執行的 Aurora genAI 模型，將以通用內容、科學內容、科學數據和與相關內容訓練，代表 Aurora genAI 將是純科學應用模型，於系統生物學、癌症研究、大氣科學、天文學、高分子化學與材料科學等領域發展。

先來談談超級電腦 Aurora。英特爾透露，Aurora 超級計算機將封裝共 10,624 個節點，包括採 Sapphire Rapids-SP 系列的 21,248 個 Xeon CPU，以及採 Ponte Vecchio 設計的 63,744 個 GPU。系統是超大結構互連設備，2.12PB/s 高峰輸入頻寬和 0.69PB/s 高峰負載平衡頻寬。

內建記憶體方面，Aurora 超級計算機配備 10.9PB DDR5 系統 DRAM、1.36PB CPU HBM 容量和 8.16PB GPU HBM 容量。系統 DRAM 達 5.95PB/s 高峰頻寬，CPU HBM 達 30.5PB/s 高峰頻寬，GPU HBM 也達 208.9PB/s 高峰頻寬。儲存方面，230PB DAOS 儲存容量，可以 31TB/s 高峰頻寬執行。

藉 Aurora 超級電腦的強大運算效能，英特爾基於 Megatron 和 DeepSpeed 的 Aurora genAI 模型目標是產生 1 兆個參數量。ChatGPT 免費和公共版參數目標僅 1.75 億。透過 Aurora genAI 產生如此大參數量，英特爾希望提供數百萬來源的綜合知識，以提供純科學應用發展建議與參考方向。

(首圖來源：英特爾)