AMD 為微軟 Azure 客製化 EPYC CPU,具 HBM3 可能是 MI300C

作者 | 發布日期 2024 年 11 月 20 日 10:10 | 分類 AI 人工智慧 , 伺服器 , 半導體 line share Linkedin share follow us in feedly line share
AMD 為微軟 Azure 客製化 EPYC CPU,具 HBM3 可能是 MI300C


微軟發表最新高效能運算 (HPC) Azure 虛擬機,是由客製化 AMD CPU 提供核心算力,可能命名為 MI300C。

Tom′s Hardware 報導,HBv 系列 Azure VM 專注於提供大量記憶體頻寬,這是 HPC 的一個重要規格。對此,微軟稱其為最大的 HPC 瓶頸。在此之前,微軟曾使用 Milan-X 和 Genoa-X 伺服器 CPU 以及 AMD 3D V-Cache 來提供額外的頻寬,但對於最新的 HBv5 VM,微軟顯然想要更高效能的東西。

基於以上的需求,用於 HBv5 VM 的客製化 AMD CPU,其利用 HBM3 是首選的記憶體。單一虛擬機中四個晶片的頻寬為 6.9TB/s,虛擬機器的速度幾乎比 Microsoft 在 HBv4 虛擬機器中提供的 Genoa-X CPU 快 9 倍,是比 HBv3 中的 Milan-X 晶片快近 20 倍虛擬機。而且,與 CPU 搭配使用時,HBM3 可以發揮與 3D V-Cache 類似的作用。

儘管如此,它並沒有擴展 L3 快取記憶體,而是有效地添加了一個巨大的 L4 暫存記憶體,具有更大的頻寬和可能更差的延遲。但是,L4 暫存記憶體在某些類型的工作執行上並不那麼重要。

報導表示,每個 HBv5 VM 均配備四個客製化 AMD CPU,除了所有功能外,單一 HBv5 VM 還提供 450GB HBM3、352 個 Zen 4 核心,時脈高達 4GHz,並且是常規 EPYC 處理器上可用的普通 Infinity Fabric 頻寬的兩倍CPU。然而,超執行序 (SMT) 功能已被禁用情況下,這些虛擬機器還具有 800Gb/s 的 Nvidia Quantum-2 InfiniBand 用於網路交換。

另外,如果四個 CPU 有 352 個核心,則每個 CPU 都有 88 個核心,但可能並非處理器上的每個核心都會提供給虛擬機器使用。每個 Zen 4 CCD 有 8 或 16 個核心,取決於它是 Zen 4 架構,還是 Zen 4c 架構。客製化 CPU 除了使用 11 個 Zen 4 CCD 之外,還有就是使用 6 個 Zen 4c CCD,其中一個 CCD 上的 8 個核心則是被禁用。CPU 更有可能具有 96 個功能齊全的核心,其中 8 個保留用於操作 VM,可能充當編排或管理程式角色。

整體來說,這款客製化的 AMD CPU 可能也不是那麼「客製化」,因為它聽起來有點像 2023 年傳聞中的 MI300C 晶片。該 CPU 預計本質上是 MI300A APU,但專門配備 Zen 4 CCD,而不是 CDNA 3 顯示卡,進一步支援具有 HBM3 的 96 核 CPU。 MI300A 的 CPU 核心時脈頻率高達 3.7GHz,與 HBv5 所使用的 CPU 相差不遠,這表示客製化的 Azure 處理器和 MI300C 可能是同一個。

(首圖來源:AMD)

想請我們喝幾杯咖啡?

icon-tag

每杯咖啡 65 元

icon-coffee x 1
icon-coffee x 3
icon-coffee x 5
icon-coffee x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0
《關於請喝咖啡的 Q & A》