記憶體太貴了！輝達正降低 Vera Rubin NV72 機櫃平台記憶體容量減少成本

為了應對高昂的記憶體價格與持續的供應短缺，市場傳出輝達（NVIDIA）正大幅削減其 Vera Rubin NV72 機櫃平台 AI 系統的記憶體容量。根據廣發證券（GF Securities）的最新分析報告，透過削減記憶體容量，輝達有望將 Rubin NVL72 機櫃平台的相關成本降低近 50%。

輝達的 Vera Rubin NVL72 機櫃平台是目前全球最強大的 AI 系統之一，自 2026 年一月份發表以來備受矚目。根據 CoreWeave 近期公布的測試數據，在處理混合工作時，相較於 Blackwell 架構 AI GPU 每 150 MW 達到 8 萬次詞元（Tokens）的傳輸量，Vera Rubin NVL72 機櫃平台的效能暴增了 10 倍，達到每 1,150 MW 則是達到 80 萬次詞元的傳輸量。

然而，極致效能的背後卻隱藏著巨大的成本壓力。根據外資 Bernstein 先前的報告指出，由於記憶體價格不斷攀升，單個 NVL72 Rubin 機櫃平台造價可能會高達 910 萬美元。該機構強調，先前市場預估的 780 萬美元造價是基於過時的記憶體價格估算出來的；並預測到了 2027 年，HBM4 記憶體的價格可能會上漲至每 GB 要 53 美元。

面對 LPDDR5X 市場的供應與價格限制，廣發證券在報告中指出，輝達已開始針對 Vera Rubin NVL72 機櫃平台進行設計調整。具體措施包括將機櫃中的 SOCAMM（小型壓縮附加記憶體模組）容量砍半，從原先規劃的 192GB 模組降至 96GB。

在處理器方面，Vera CPU 的總記憶體容量將從原先的 54TB 至 55TB 大幅縮減至 28TB，同時 CPU 機櫃也將採用 96GB 的 SOCAMM。不過，GPU 部分並未妥協，每個機櫃平台仍將繼續使用 20.7TB 的 HBM4 記憶體以維持核心運算力。這些調整將帶來顯著的財務效益。廣發證券指出，若不進行這些變更，VR200 系統的記憶體成本將高達 210 萬美元，佔整體物料清單成本的 29%，這遠高於輝達所期望的 20% 標準上限。

透過記憶體容量調整，VR200 的 LPDDR5X 成本有望從原先預估的 120 萬美元大幅下降至 58.6 萬美元，甚至如果容量削減至四分之一，成本還能進一步下探至 29.3 萬美元。分析指出，輝達在記憶體短缺潮來臨前已簽署了長期合約，這使其能夠在此波由高需求引發的產能限制風暴中站穩腳步。此次透過架構上的彈性調整，輝達展現了在極端市場環境下維持其 AI 霸主地位與獲利能力的決心。

(首圖來源：視訊截圖)