微軟發表最新高效能運算 (HPC) Azure 虛擬機,是由客製化 AMD CPU 提供核心算力,可能命名為 MI300C。
Tom′s Hardware 報導,HBv 系列 Azure VM 專注於提供大量記憶體頻寬,這是 HPC 的一個重要規格。對此,微軟稱其為最大的 HPC 瓶頸。在此之前,微軟曾使用 Milan-X 和 Genoa-X 伺服器 CPU 以及 AMD 3D V-Cache 來提供額外的頻寬,但對於最新的 HBv5 VM,微軟顯然想要更高效能的東西。
基於以上的需求,用於 HBv5 VM 的客製化 AMD CPU,其利用 HBM3 是首選的記憶體。單一虛擬機中四個晶片的頻寬為 6.9TB/s,虛擬機器的速度幾乎比 Microsoft 在 HBv4 虛擬機器中提供的 Genoa-X CPU 快 9 倍,是比 HBv3 中的 Milan-X 晶片快近 20 倍虛擬機。而且,與 CPU 搭配使用時,HBM3 可以發揮與 3D V-Cache 類似的作用。
儘管如此,它並沒有擴展 L3 快取記憶體,而是有效地添加了一個巨大的 L4 暫存記憶體,具有更大的頻寬和可能更差的延遲。但是,L4 暫存記憶體在某些類型的工作執行上並不那麼重要。
報導表示,每個 HBv5 VM 均配備四個客製化 AMD CPU,除了所有功能外,單一 HBv5 VM 還提供 450GB HBM3、352 個 Zen 4 核心,時脈高達 4GHz,並且是常規 EPYC 處理器上可用的普通 Infinity Fabric 頻寬的兩倍CPU。然而,超執行序 (SMT) 功能已被禁用情況下,這些虛擬機器還具有 800Gb/s 的 Nvidia Quantum-2 InfiniBand 用於網路交換。
另外,如果四個 CPU 有 352 個核心,則每個 CPU 都有 88 個核心,但可能並非處理器上的每個核心都會提供給虛擬機器使用。每個 Zen 4 CCD 有 8 或 16 個核心,取決於它是 Zen 4 架構,還是 Zen 4c 架構。客製化 CPU 除了使用 11 個 Zen 4 CCD 之外,還有就是使用 6 個 Zen 4c CCD,其中一個 CCD 上的 8 個核心則是被禁用。CPU 更有可能具有 96 個功能齊全的核心,其中 8 個保留用於操作 VM,可能充當編排或管理程式角色。
整體來說,這款客製化的 AMD CPU 可能也不是那麼「客製化」,因為它聽起來有點像 2023 年傳聞中的 MI300C 晶片。該 CPU 預計本質上是 MI300A APU,但專門配備 Zen 4 CCD,而不是 CDNA 3 顯示卡,進一步支援具有 HBM3 的 96 核 CPU。 MI300A 的 CPU 核心時脈頻率高達 3.7GHz,與 HBv5 所使用的 CPU 相差不遠,這表示客製化的 Azure 處理器和 MI300C 可能是同一個。
(首圖來源:AMD)