突破 HBM 容量問題!華為 UMC 技術、NVIDIA 投資新創從「KV 快取」找新解 作者 林 妤柔|發布日期 2025 年 08 月 15 日 8:30 | 分類 AI 人工智慧 , 半導體 , 記憶體 | edit 生成式 AI 背後的數學運算極為複雜,而且在記憶體頻寬與容量方面存在嚴重瓶頸,因此許多公司不斷祭出解決方案,期盼能解決 HBM 記憶體容量不足問題。 繼續閱讀..
華為發表 AI 新技術「UCM」,擺脫 HBM 依賴、AI 推理速度暴增 90% 作者 林 妤柔|發布日期 2025 年 08 月 14 日 13:57 | 分類 AI 人工智慧 , 中國觀察 , 記憶體 | edit 由於美國出口限制,中國很難獲得 HBM 等關鍵資源。對此,華為打算幫助中國科技市場不再依賴 HBM。根據市場消息,華為開發一款名為「統一快取管理器」(Unified Cache Manager,簡稱 UCM)的新軟體工具,無需使用 HBM 即可加速大型語言模型(LLM)的訓練與推理。 繼續閱讀..