SK 電信 9 日宣布,與英國 Arm 及韓國 Rebellions 簽署合作備忘錄,共同開發結合中央處理器(CPU)和神經處理單元(NPU)的人工智慧伺服器解決方案,提升 SK 電信人工智慧資料中心競爭力,並加速自主 AI 生態系統發展。
三家公司將共同開發整合Arm AGI CPU與Rebellions即將推出的RebelCard NPU伺服器解決方案,以增強AI推理性能。測試於SK電信AI資料中心進行,反映AI業從模型訓練轉向推理的趨勢,強調即時服務的重要性。
AI推理涉及高效處理相對輕量計算,雖然GPU能處理,但效率往往不高,消耗過多電力並推高成本。因此,專門設計的NPU越來越受關注,因針對推理工作負載最佳化。
CPU和NPU結合反映異構計算需求。實際AI服務時,數據輸入輸出、網路通訊、記憶體管理和工作負載調度等任務必須與AI計算並行。CPU負責通用操作和系統協調,NPU可專注推理,提高整體系統性能和效率。
SK電信Arm AGI CPU是首款專為AI推理服務設計的資料中心處理器,Rebellions RebelCard則是針對大規模推理工作負載最佳化的NPU。整合架構使CPU能管理系統操作和資訊流,NPU專注AI計算,形成SK電信希望的高效伺服器架構,適用大規模AI服務。
SK電信計劃在AI資料中心部署此解決方案,以驗證性能和穩定性,並考慮在新伺服器平台執行專用基礎模型A.X K1。此合作不僅有助SK電信成為亞洲AI基礎設施領導者,還可促進伺服器出口。
(首圖來源:shutterstock)






