突破物理極限的新救星？小晶片架構如何用十分之一能耗撐起 HPC 與 AI 算力

隨著傳統晶片架構逐漸接近功率、熱量和空間的物理極限，一種新的架構正在出現，為高效能運算（HPC）提供潛在的前進道路。這種架構稱為小晶片（chiplet）架構，能以較低的成本提供更高的性能，並且能耗可降低至單一晶片處理器的十分之一。這些優勢使小晶片在未來的 HPC 和人工智慧（AI）工作負載中具有潛在的優勢。

小晶片架構代表了對晶片設計和整合的根本性重新思考。目前，大多數半導體製造商設計大型的單一晶片（SoC），將所有必要的組件（如處理器核心、記憶體、I/O驅動器、訊號處理器等）放置在單一晶圓上。隨著晶圓尺寸的增大，製造成本上升，晶片良率下降。

傳統的單一晶片在擴展時，數據必須離開晶圓，透過互連傳輸到其他晶圓。隨著當前大型AI工作負載的增加，客戶必須在晶圓之間移動大量數據，這需要大量電力並產生大量熱量，這些都需要透過系統級的電源和冷卻來解決。

小晶片架構以不同的方式解決擴展問題。這些組件不再直接焊接到晶圓上，而是插入埋在基板中的標準互連。通用小晶片互連（UCIe）於2022年推出，得到了英特爾、AMD、Arm、Google Cloud、Meta、微軟、高通、三星和台積電的支持，提供了一種與其他互連標準（如PCIe、CXL、NVLink和UALink）相容的分層架構。

這種小晶片方法帶來幾個明顯的優勢。首先，它可以透過允許用戶將小晶片放置在彼此靠近的位置來減少數據移動（進而降低功耗），這些小晶片透過UCIe相連。小晶片架構還為用戶提供更多的靈活性，允許他們在系統內的特定位置採用特定的處理器，進而在性能和成本之間取得更好的平衡，而不必被迫使用晶片製造商硬接線到晶圓上的任何組件。

小晶片架構還帶來製造上的優勢。較大的晶圓有更高的缺陷概率，這會降低良率。由於各個組件以零散的方式連接，故障的組件可以輕鬆更換，這也降低了供應商的鎖定，使用者可以選擇最適合他們的特定組件。

小晶片的根本優勢來自其對封裝級擴展的處理方式，益華電腦（Cadence Design Systems）的小晶片和IP解決方案高級總監Mick Posner表示，「任何時候你都要離開晶片，晶片與晶片之間，即使它們彼此相鄰，你都會面臨延遲和功耗的影響。」他說，「因此在一個封裝內，你的效率和性能會大大提高」。

小晶片的可擴展性優勢的核心在於它允許打破微影限制。Posner指出，「你實際上不是將一個大型的單一設計切割成更小的部分。這是十年前的起點。但現在小晶片使你能夠進行封裝級擴展，這根本上創造了比單一晶片更大的系統。」

雖然小晶片適用於所有領域，但HPC領域的採用最為領先，因為它們已經面臨當前晶片設計的物理極限。Posner表示，「今天看到的情況是，將封裝曝光尺寸的晶圓結合在一起，提供了性能可擴展性和效率提升，因為與標準的高功耗接口相比，你正在轉向像UCIe這樣的晶圓對晶圓的連接，這對接口的功耗特徵有著數量級的改善。」

小晶片在超級電腦中並不新鮮，該概念目前已在超級電腦中使用。橡樹嶺國家實驗室的Frontier使用基於小晶片的設計，搭載AMD EPYC「Trento」CPU，而日本理化學研究所（RIKEN）的FugakuNEXT也預計將使用小晶片。

AI的興起迫使電腦製造商創新，以滿足需求。在半導體領域，像輝達（Nvidia）這樣的製造商一直在推動曝光機的極限，這是由於刻蝕電路的機器的物理能力所決定的。Nvidia還設計了「超級晶片」，將兩個GPU與單一CPU配對在同一晶圓上，以獲得更強的處理能力，而其他晶片製造商如Cerebras，則選擇製造超大型晶片。

小晶片架構提供了另一種方式，能在不完全重新設計系統的情況下，提供AI和HPC站點所需的處理能力。Cadence產品行銷總監Mayank Bhatnaga表示，「例如，你想加速你的GPU，但它的速度不夠。你將其移至非常昂貴且全新的製程、兩奈米和1.4奈米製程，但你的I/O接口可能不需要這樣做。它可以保持在三奈米、五奈米。或者你可能有一個RF模組，實際上沒有移動的好處，那麼為什麼要花額外的錢重新設計呢？」

「現在你不必設計所有這些周邊設備，你可以專注於你的核心技術，」Bhatnaga補充道，「這樣也加快了上市時間」。

當今的小晶片架構還支援三維設計，使組件製造商能夠堆疊組件，提供更高的計算密度、更低的數據延遲和節省功耗。雖然會增加成本、複雜性和冷卻需求，但沒有什麼是免費的。Bhatnaga表示，「三維設計不會太遙遠，AI工廠和AI資料中心是這類應用的主要市場，因為這些人目前能夠資助這些活動。像所有新技術創新一樣，它始於那些有能力和資金的早期探索者。」

根據Bhatnaga的說法，UCIe的採用對於建立小晶片標準至關重要，因此對於擴大小晶片社群的規模和範圍至關重要。他表示，晶片社群中的一些人對採用UCIe持謹慎態度，供應商希望知道他們的UCIe投資是否會有回報。

「這就是圍繞UCIe的凝聚對於小晶片市場的幸運，」Bhatnaga說。「隨著採用的增長，人們對於使用UCIe的小晶片的信心也在增強，他們將能在其他計畫和合作夥伴中使用它。這正在幫助推動市場的發展。」