
全球人工智慧(AI)熱潮方興未艾,其核心推動力不僅止於運算晶片的性能突破,記憶體技術的創新與發展,正日益成為 AI 普及化、效能提升及產業自主化的關鍵戰場。從個人電腦到資料中心,從成本挑戰到國家戰略,記憶體產業正經歷一場前所未有的變革。
AI 普及化記憶體挑戰,高成本與 HBM 瓶頸
當前,AI 的快速發展為各行各業帶來了巨大的潛力,但也伴隨著顯著的挑戰。群聯電子執行長潘健成日前在一項公開活動中的演講指出,當前許多企業對 AI 存有誤解,尤其在成本方面,AI 確實昂貴,主要瓶頸在於記憶體不足,而非單純的運算力。大型語言模型的運行往往受限於 GPU 與 DRAM 的容量,導致整體投資成本高昂。特別是在記憶體市場供需吃緊的情況下,如何降低門檻成為 AI 普及的決勝因素。
潘健成回顧兩年前產業對 AI PC 寄予厚望,但迄今並未迎來爆發性成長,主要原因同樣歸咎於硬體成本過高與應用場景不足。AI PC 需要額外配置 GPU、NPU 與更大容量的記憶體,導致價格難以親民,進而阻礙了市場規模的擴大和應用生態系的形成。推動 AI PC 普及的關鍵,在於硬體平台的平價化。
另一方面,對於高效能 AI 運算至關重要的高頻寬記憶體 (HBM),其供應也面臨挑戰。華為正積極投入 AI 記憶體的研發,正是為了解決中國 AI 硬體發展面臨的 HBM 瓶頸,並對抗西方技術限制,降低對 HBM 的依賴。由於地緣政治因素導致 HBM 供應受到大規模限制,這凸顯了當前記憶體供應鏈的脆弱性,以及尋求替代方案的迫切性。
記憶體創新,以 SSD 為核心的 AI 加速策略
面對記憶體成本與 HBM 瓶頸,以及未來邊緣 AI 的普及與性能提升,全球科技巨頭正將目光投向快閃記憶體(Flash Memory)與固態硬碟(SSD)的創新應用,試圖在 AI 運算扮演更關鍵的角色。
其中,群聯電子針對高成本問題,提出了 Flash Management(快閃記憶體管理)方案。這項技術透過特殊的 SSD 設計,能將部分儲存空間轉化為 AI 運算所需的快取記憶體。其最大優勢在於不需大幅更動現有硬體架構,僅需更換儲存裝置,即可提升 AI 推論效能,並大幅降低對高價 DRAM 的依賴。
潘健成預期,藉由該方案的普及,每年全球出貨超過三億台的 PC,都能直接轉型為 AI PC,帶來如同智慧型手機時代的生態系繁榮效應。這不僅能刺激新應用的誕生,也將推動台灣 ODM、OEM 及零組件供應商的成長。此舉旨在將 AI 技術真正帶入日常,並使台灣在新一波產業鏈中站穩腳步。
中國華為 AI 記憶體戰略,積極擺脫依賴 HBM
除了群聯電子之外,中國科技大廠華為也在 AI 記憶體領域展現雄心。外媒報導指出,華為正研發一款新型 AI 記憶體,目標是有效取代目前中國 AI 硬體發展面臨瓶頸的 HBM 解決方案。這款突破性的 AI 記憶體可能以固態硬碟(SSD)的形式出現,並針對資料中心環境進行深度優化。
華為的 AI SSD 旨在克服現有記憶體容量的限制,提供高效能且無縫接軌的容量擴展。報導指出,其在效能和效率上有望與 HBM 匹敵,成為一個可行的替代方案。這項研發工作將為中國國內的 AI 產業提供穩定且自主的記憶體供應鏈,進而擺脫對國際供應鏈的依賴,以響應中國在 2027 年前達成 AI 晶片 100% 自給自足的國家戰略目標。
此外,華為還推出了統一快取管理器(UCM)軟體套件,這項創新軟體方案能夠加速大型語言模型(LLM)在多種記憶體(包括 HBM、標準 DRAM 和 SSD)之間的訓練,有效地擴展 AI 相關工作的記憶體使用範圍。這在面對 HBM 硬體限制時,成為一個無需導入新能力型硬體的潛在解決方案。
鎧俠與輝達合作,GPU 直連 SSD 引領伺服器革新
傳統記憶體大廠方面,鎧俠(Kioxia)與 GPU 龍頭輝達 (NVIDIA) 的合作,則代表著 AI 伺服器儲存技術的巨大變革。雙方合作開發的目標是在 2027 年前推出讀取速度較傳統 SSD 快近百倍的固態硬碟。這項技術突破將主要服務於生成式 AI 運算所需的伺服器市場。
與傳統 SSD 需經由 CPU 連接 GPU 的方式不同,鎧俠與輝達合作開發的新型 SSD 將達成GPU 的直接連接與資料交換。這種直連模式能大幅提升數據傳輸效率,對於 AI 運算至關重要。鎧俠強調,為滿足極速需求,該 SSD 的隨機讀取性能將達到每秒 1 億 IOPS(Input Output Per Second),約為傳統產品的 100 倍。考量到 輝達對連接 GPU 的 SSD 要求達 2 億 IOPS,鎧俠計畫透過兩個 SSD 協同運作來達成。此創新產品預計將支援 PCIe( PCI Express)介面的次次世代標準「PCIe 7.0」,為高速傳輸奠定基礎。
鎧俠預計,此高速 SSD 的發展目標不僅是擴展 GPU 記憶體容量,更關鍵的是取代部分目前用於 AI 伺服器的 HBM。這項發展有望為 AI 運算提供更具成本效益、高彈性且易於擴展的記憶體解決方案。鎧俠與輝達的聯手,正預告著 AI 伺服器儲存技術的革新,將加速生成 AI 技術的發展與應用。
記憶體創新發展正逐步定義 AI 未來
AI 時代的記憶體發展趨勢,正從單純的容量擴充,轉向更深層次的架構創新與生態協同。從群聯透過 Flash Management 方案加速 AI PC 普及,到華為力求 HBM 自主替代,再到鎧俠與輝達攜手打造 GPU 直連 SSD,這些努力的核心目標都是克服傳統記憶體的限制,以更低的成本、更高的效率和更廣泛的適用性,將 A I的力量釋放出來。
而隨著這些記憶體技術的進步,AI 將不再是少數大型企業的專屬,而是能夠真正走入日常,成為人人可用的工具。未來的記憶體,不僅僅是儲存數據的載體,更是 AI 智慧的基石與加速器。這場記憶體革新浪潮,將深刻影響全球科技產業的格局,並為 AI 的普及化與深層應用鋪平道路。
(首圖來源:shutterstock)