AI 伺服器進入超高功率時代!台達全方位電源及散熱解決方案出擊

作者 | 發布日期 2025 年 07 月 14 日 9:00 | 分類 AI 人工智慧 , 伺服器 , 半導體 line share Linkedin share follow us in feedly line share
Loading...
AI 伺服器進入超高功率時代!台達全方位電源及散熱解決方案出擊

AI 時代來臨,影響力無遠弗屆,從我們日常生活,一直到外太空,都可以看到各式各樣 AI 應用的身影。NVIDIA 執行長黃仁勳在 GTC 2025 大會上指出,當前 AI 發展歷程已從最初的感知 AI(Perception AI)進展到目前主流的I(Generative AI),並且即將進入代理式 AI(Agentic AI)時代,再接下來,由物理 AI(Physical AI) 驅動的機器人世界將會全面到來,並全速朝通用人工智慧(AGI)目標衝刺。

為了滿足這些應用需求,以 AI 伺服器為首的 AI 基礎設施規格也在不斷升級,造成需求電力陡增,全球資料中心用電量屢創新高。因此,尋求更高效的電源模組及散熱解決方案,已然成為資料中心及雲端業者在推動全面 ESG 轉型的首要考量。

單一機櫃 600kW 時代可期,電源與散熱需求火熱

AI 技術之所以能不斷有所突破,在於強大算力的支持,而算力提升的關鍵則是 GPU 革新。但隨之而來的代價就是需求電力「水漲船高」,這一點從 NVIDIA 在今年 GTC 大會上發表的最新資料中心 GPU 發展路線圖一窺端倪。

今年下半年即將推出的 GB300(Blackwell Ultra NVL72),效能較前代 Hopper 提升 10 倍,單一晶片功耗較 GB200 提升 15-20%,達到 1,400W,單一機櫃功率上看 120kW。預計 2026 年及 2027 年下半年,NVIDIA 將分別推出 Vera Rubin NVL144 及 Rubin Ultra NVL576,前者效能是 GB300的3.3 倍,後者效能更高出 14 倍,相對能耗也更加驚人,在單一機櫃功率激增至 600kW,算力提升之餘,如何兼顧節能成為重要課題。

電源及散熱大廠台達也同樣關注 AI 技術發展對於電力帶來的挑戰,根據市場數據顯示,2023 年全美 4 大雲端巨頭的整體用電量大約達到 200 太瓦 (TWh,1TWh 等於十億千瓦/小時),預估 2030 年將上升超過 700 太瓦,年複合成率約 23%。台達電源及系統事業群副總經理鄭謝雄指出,在算力基礎設施用電量暴增之際,降低非算力能耗,像是散熱、電壓轉換等過程更顯重要,因此台達基於長久以來的研發投資、技術專利、市場耕耘與場域經驗為 AI 伺服器客戶與資料中心業者提供「從電網到晶片」(From Grid to Chip)全方位解決方案。

▲ 台達電源及系統事業群副總經理鄭謝雄(Source:科技新報攝)

台達「三高」電源方案,精準管理資料中心所有電源及散熱

鄭謝雄表示,這套解決方案,舉凡從 UPS 不斷電系統、機架式電源(Power Shelf)、電池備援模組(BBU),機架式高功率電容模組(PCS)到板端的 DC-DC 轉換器及功率電感(Power Choke)等電源供應及管理解決方案都包括在內。另外散熱部分,台達也提供如針對先進氣冷的高端 3D 均熱板(Vapor Chamber)、針對液冷領域的冷板(Cold Plate)、分歧管(Manifold)、機櫃內冷卻液分配裝置(In-Rack CDU)、空氣輔助液體冷卻方案(AALC,Air Assisted Liquid Cooling),甚至最新液對液(Liquid to Liquid)水冷散熱等散熱管理方案也包括其中。

透過這套解決方案,能大幅降低從電網到晶片端的不必要能耗,也是全球唯一能提供從電網側高壓電,轉換到晶片端用電之完整電源方案的電源大廠,這是台達與其他競爭對手最與眾不同之處。

這套解決方案並非一蹴可及,而是台達對電源及散熱設計品質的要求以及長期觀察及布局資料中心領域的結果。以電源來說,鄭謝雄指出,台達電源產品研發,一直都朝高效率、高密度、高功率的「三高」邁進,上述提及的 AI 資料中心也不例外,這樣的堅持,是台達能穩定供電給 AI 設備,同時降低供電過程中不必要的損耗的重要關鍵。

正因如此,台達在去年 NVIDIA GTC 大會上,成為唯一受邀參展的電源及散熱解決方案大廠,今年更在會場展出多項與 NVIDIA 合作設計的 AI 資料中心電源及散熱方案,以支援下一代 GPU 架構,其中最引人矚目的,莫過於專為 IT 機櫃合作設計的全新高壓直流(HVDC)輸電方案。

▲ 針對未來資料中心電力高漲趨勢,台達於 COMPUTEX 展會期間,展出一系列高壓直流電源及散熱解決方案(Source:台達)

因應 IT 機櫃更高瓦數需求,全新 800V 高壓直流輸電方案橫空出世

高壓直流輸電方案,是為了解決單一機櫃功率不斷提升,造成電流急遽上升、IT 機櫃安裝空間不足的問題。鄭謝雄表示,當 AI 伺服器電力需求升高時,機櫃會沒有足夠空間支援更大的電源;即使可以,熱也將無法順利排出。因此預期將會開始朝向電源模組與 IT 機櫃(IT Rack)各自獨立的新架構發展,衍生出電源機櫃(Side Power Rack)的概念。

根據目前趨勢,未來的電源機櫃將傳統單相電改成三相電,讓 IT 機櫃接收到 800V 高壓直流,這是過去 AI 伺服器上前所未見的全新改變。改採三相電有其優勢,首先能確保電源高效率與高密度,其次是能做到三相平衡,最後是因為沒有了零線,可縮小輸入線尺寸。

電源機櫃內含 AC-DC 機架式電源,能將電壓轉換為 800VDC 傳輸至IT機櫃,再透過 DC-DC 機架式電源將 800VDC 降壓至 48VDC,以符合 IT 機櫃電壓需求。透過這個方法,可空出機櫃空間來安裝更多 GPU 等算力裝置,進而更提升 IT 機櫃單機櫃的算力及功率。

另外一項穩定 AI 資料中心運作的關鍵,則是 GPU 對電網的負載。AI 伺服器在進行訓練或推理時,有可能因為負載上下振盪過大/過快,對電網造成衝擊進而導致供電環境出現不穩定甚至跳電的慘劇。對此,台達推出了機架式高功率電容模組,透過內建的超級電容,能進行快速充放電,進而將負載變動對電網的影響性降低到最低程度。此外,若遇到電網突然斷電的情況,電容模組還能提供 15 秒/20kW 的電力輸出,避免資料流失。

台達垂直供電技術,縮減晶片供電傳輸路徑與損耗

▲ 台達推出了多款伺服器電源供應器、DCDC 轉換器,針對 AI 資料中心內部零組件進行供電及電壓轉換(Source:台達)

在電力經過層層轉換後,在供電給晶片的「最後一哩路」上,台達則是透過垂直供電(亦稱「背後供電」)技術降低能源損耗。傳統晶片供電是透過同一主板上的電壓調節模組(Voltage Regulator Module,VRM)來供電,電流會採水平方式傳輸,從 VRM 到晶片的路徑很難再縮小。透過最新垂直供電,便能將電源傳輸路徑進一步縮短,台達為此設計專門安裝在晶片背後的 DC-DC 電源模組,有效避免不必要的傳輸損耗,提升整體效率。

在散熱管理方面,台達也推出了許多新產品與新設計。其中,全新發表的 1.5MW 液對液冷卻液分配裝置(L2L CDU),已取得 NVIDIA 推薦與合格供應商資格,展現同時處理多台高功率密度機櫃散熱的能耐。

隨著 AI 技術的快速發展,AI 伺服器與資料中心進入高功率/高瓦數時代,也讓台達長久耕耘的電源及散熱技術,能解決 AI 伺服器與資料中心所帶來的供電挑戰。鄭謝雄表示,如今台達不只是將全方位解決方案提供給各種 AI 場域使用,同時也回過頭來,將 AI 當成協助產品設計或工廠智慧製造的重要工具,並且將 AI 功能內嵌至台達研發的產品之中,讓各種邊緣產品變得更有智慧。

對高功率電源與高效率散熱有強烈需求的客戶而言,台達能提供一應俱全的整體性解決方案,完美解決不同品牌產品間的相容性問題,更能省去不同產品在組合及協作上的冗長驗證程序,進而降低成本、加速產品部署與上線,助力雲端及各企業夥伴在發展 AI 技術同時,減少不必要能源損耗,打造綠色 AI 生態圈。

(首圖來源:台達;首圖圖說:隨著 AI 時代來臨,資料中心用電量水漲船高,如何穩定供電及高效散熱成為一大挑戰)

想請我們喝幾杯咖啡?

icon-tag

每杯咖啡 65 元

icon-coffee x 1
icon-coffee x 3
icon-coffee x 5
icon-coffee x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0
《關於請喝咖啡的 Q & A》