微軟執行長納德拉(Satya Nadella)近日與 OpenAI 執行長奧特曼(Sam Altman)隔空接受 Bg2 Pod 節目專訪談道,AI 產業面臨的問題並非運算資源供過於求,而是缺乏足夠的電力來使用 GPU。納德拉甚至說,目前的難題是庫存中的部分 GPU 找不到足夠電力來使用。
「我認為這個情況下,需求與供給的週期很難預測。重點是:長期趨勢是什麼?長期趨勢就是山姆所說的,坦白說,我們現在最大的問題不是運算能力過剩,而是電力,更精準地說,能否夠快在接近電力供應的地方完成建設的能力。」納德拉在 Bg2 Pod 節目回答主持人、同時也是創投公司 Altimeter Capital 創辦人葛斯納(Brad Gerstner)提問時這麼說,「所以,如果你做不到這一點,實際上你可能會有一堆晶片堆放成庫存,無法插電使用。事實上,這就是我今天面臨的問題。問題不在於晶片供應,而是我沒有可供插電使用的環境。」
去年以來,AI 運算的電力消耗一直是許多專家提出討論的議題。當 NVIDIA 解決 GPU 短缺問題後,這個問題被凸顯出來,許多科技公司如今投入如小型模組化反應爐(SMR)的開發,做為擴充大型資料中心的電力來源。
這也造成一般家戶的電費飆升,透露出正在建設的 AI 基礎建設對一般美國民眾造成負面影響。OpenAI 甚至呼籲美國政府每年新增 100 GW 的發電能力,稱這是美國與中國爭奪 AI 領先地位的一項戰略資產。這番主張出現之前,就有專家指出中國在電力供應方面領先,因為中國在水力與核能發電大舉投資。
除電力短缺外,兩人也討論到先進的消費性硬體問世的可能性。「有一天,我們會做出一個驚人的消費裝置,可在極低功耗下完全地端運行 GPT-5 或 GPT-6 等級的模型,這件事目前看來實在難以想像」,奧特曼說。「那將會很不可思議,這也是讓那些正在建置大型集中式運算叢集的人感到害怕的事」,葛斯納說。
這則凸顯大型公司押注數十億美元打造龐大 AI 資料中心,必須承擔一項風險:雖然訓練新模型需要 AI 基礎建設,但若半導體技術進步到能讓模型在地端執行,那麼許多人預測 AI 廣泛應用所帶來的資料中心需求恐怕不會出現。
- Microsoft CEO says the company doesn’t have enough electricity to install all the AI GPUs in its inventory – ‘you may actually have a bunch of chips sitting in inventory that I can’t plug in’
- Microsoft CEO Doesn’t Want to Buy NVIDIA’s AI GPUs “Beyond One Generation,” Hints at a Compute Glut Driven by Energy Constraints
(首圖來源:shutterstock)






