為了滿足更高頻寬、更大容量、更高效率的需求，客製化高頻寬記憶體（HBM）正逐步成為市場焦點，預計至 2026 年，隨著 HBM4 的推出，客製化 HBM 市場將迎來顯著成長。目前 NVIDIA、亞馬遜、微軟、博通及Marvell 等主要 IT 業者正積極推動 HBM 的客製化發展。
根據 Marvell 的預測，客製化運算市場占資料中心的比重將從 2023 年的 16% 提升至 2028 年的 25%，而部分記憶體業者預計，客製化 HBM 將在 2030 年占據整體 HBM 市場的 30% 至 40%。
調研機構 Counterpoint 指出，客製化 HBM 主要有兩種技術路線備受矚目。首先是 HBM 直接封裝至 SoC，這個方案可省略基底晶片（Base Die）與中介層（Interposer），有效降低成本並擴展I/O數量。然而，此方法在擴展 HBM 容量方面存在挑戰，並可能加劇散熱問題；或者選擇在基底晶片中新增邏輯功能，透過優化基底晶片內部空間，提升記憶體效能並改善穩定性。
除了架構選擇，客製化 HBM 的創新主要圍繞資料傳輸效率的提升，透過通訊 IP、光子技術與資料完整性強化等創新，提高資料傳輸效率，進一步提升HBM性能。舉例來說，透過處理器與記憶體通訊 IP，包括控制器、Physical Layer（實體層）及介面技術，確保 GPU 與記憶體之間的高效傳輸；再來是光子技術，利用光訊號替代電子訊號，提高傳輸速率並降低延遲，雖仍面臨技術與成本挑戰，但具備長遠發展潛力；最後是透過快取記憶體降低 DRAM 錯誤，提高系統可靠性與傳輸效能。
Counterpoint 指出，全球記憶體大廠與雲端運算企業正加速投入客製化 HBM 市場，雖然客製化 HBM 市場持續成長，但標準化趨勢與成本壓力可能影響其長期發展。目前企業偏好標準化解決方案以降低成本，預計隨著2028 年軟硬體標準化進一步成熟，市場對客製化HBM的接受度可能受限。此外，記憶體業者需在創新與成本競爭之間尋求平衡，類似於1990年代Rambus的授權模式，未來HBM標準的演進仍存在變數。
Counterpoint Research 研究總監MS Hwang 表示，面對生成式 AI 帶來的變革，記憶體產業正站在關鍵轉折點。雖然客製化HBM具備突破性潛力，但市場仍須在效能提升與實際應用之間找到最佳平衡點。隨著技術持續進步，未來記憶體市場的發展，將取決於創新能否與產業現實需求相結合。
（首圖來源：shutterstock）
科技新報粉絲團
加入好友
訂閱免費電子報
