美光推出輝達資料中心 GPU 用 12 層堆疊 HBM3E 與 SOCAMM LPDDR5X 模組

外媒報導，美光、SK 海力士和三星等記憶體製造商為輝達 Blackwell 資料中心 GPU 提供強大記憶體產品。SK 海力士推出 HBM3E 和 SOCAMM 後，美光也在 GTC 2025 宣布，推出基於 12 層堆疊 HBM3E 和 LPDDR5X 的 SOCAMM 記憶體。

Wccftech 報導，雖然 SK 海力士先前一直是輝達的 HBM3 記憶體晶片的主要供應商，但美光也與輝達合作，為高效能晶片提供 12 層堆疊的 HBM3E 和 SOCAMM 記憶體。美光的 LPDDR5X SOCAMM 將用於輝達的 GB300 Grace Blackwell Ultra 資料中心 GPU，而其 HBM3E 12H 36 GB 記憶體將用於 HGX B300 NVL16 和 GB300 NVL72 平台。

另外，美光也為輝達的 HGX B200 和 GB200 NVL72 平台提供 HBM3E 的 8 層堆疊 24 GB 晶片。 相較之下，12 層堆疊的 HBM3E 記憶體有 12 個 DRAM 晶片垂直堆疊，記憶體容量比 8 層堆疊產品高 12 GB。當前因為由於 AI 工作執行需要大量記憶體，因此藉由 36 GB 記憶體晶片滿足輝達 GPU 的記憶體容量需求。

與 8 層堆疊的 HBM3E 堆疊相比，12 層堆疊的 HBM3E 記憶體的總記憶體容量增加了 50%。這使得 Blackwell Ultra GPU 能夠運行更大的人工智慧模型，並且 Meta Llama 405B 現在可以安裝在單一 GPU 上。新的 HBM3E 記憶體不僅擁有更高的記憶體容量和記憶體頻寬，而且功耗還將降低 20%，所以非常適合資料中心。

以 LPDDR5X 為基礎的 SOCAMM 也是 HPC 的絕佳選擇。它的尺寸僅為 14×90mm，占用空間僅為 RDIMM 的近三分之一，並且透過利用 16 個 LPDDR5X 記憶體晶片堆疊，每個模組可提供高達 128 GB 的容量。 SOCAMM 比常規 RDIMM 具有更高的能源效率，並且可提供超過 2.5 倍的頻寬。

美光有 GDDR7 記憶體（輝達 Blackwell RTX 50 系列 GPU）、高容量 DDR5 RDIMM 和 MRDIMM、HBM3E 和 SOCAMM，以及美光 9550 NVMe 和 7450 NVMe SSD 等儲存解決方案。三星也發表了其旗艦產品 9100 PRO SSD，採用 PCI-E 5.0 標準，可提供高達 14,800 MB/s 的連續讀取速度，未來在市場上的競爭將可以預期。

(首圖來源：美光)