GPU 大廠輝達 (NVIDIA) 售出大量 H100 AI GPU 後，每個 GPU 功耗高達 700W，一套設備就比美國一般家庭的平均用電量還要高。輝達正大量銷售 AI 用 GPU，這些 GPU 總用電量將與美國一主要城市用電量一樣高。法國施耐德機電公司 10 月統計，全球 GPU 耗電量，相當於歐洲小國用電量。
根據施耐德統計資料顯示，目前全球用於人工智慧運算的資料中心的總耗電量與賽普勒斯全國的用電量相當。對此，微軟資料中心技術治理和策略機電工程師 Paul Churnock 則認為，到 2024 年底，在全球部署數以百萬計的輝達 H100 GPU 時，輝達的 H100 GPU 的總耗電量將超過亞利桑那州鳳凰城所有家庭的用電量，而僅次於德州休士頓的用電量。
Paul Churnock 指出，這是輝達的 H100 GPU 最大用電量達到 700W，以 61% 的年使用率計算，將相當於美國一般家庭平均用電量。而因為輝達預計 2024 年 H100 GPU 的銷量為 150~200 萬顆，以住宅用電對比城市消費量來計算，這總和將使得全球 H100 GPU 用電量將排名全美第五，僅次於德州的休士頓，領先亞利桑那州的鳳凰城。
事實上，如果年利用率為 61%，H100 GPU 每年將消耗約 3,740 千瓦時 (kWh) 的電力。假設輝達在 2023 年銷售 150 萬個 H100 GPU，在 2024 年銷售達到 200 萬個 H100 GPU，則到 2024 年底將部署 350 萬個此類處理器。總共，它們每年將消耗高達 13,091,820,000 千瓦時 (kWh) 的電力，或 13,091.82 GWh。
結合實際情況來看，H100 GPU 的耗電量則相當於喬治亞、立陶宛等國家的約 13,092 GWh 年耗電量。雖然這個耗電量看起來相當令人震驚，但值得注意的是，AI 和 HPC GPU 的效率正在提高。因此，雖然輝達採用 Blackwell 的 B100 的功耗可能會超過 H100，但它將提供更高的性能。因此，每單位功耗可以完成更多的工作，這情況是不是有助於汰換 H100 GPU，以降低所需的耗電量，則有待後續觀察。
(首圖來源：輝達)
科技新報粉絲團
加入好友
訂閱免費電子報
