雲端 AI 蓬勃發展已讓我們正式進入所謂 AI 時代，我們開始習慣 AI 幫助我們處理工作或是生活難題。不過天下沒有白吃的午餐，大家熟悉的雲端 AI 服務如 ChatGPT 或 Gemini 訂閱費用或 Token 費只會越來越貴，原因正是這些 AI 巨獸得想辦法回收之前投資 AI 基礎建設的鉅額成本。
這也是為什麼地端AI的重要性逐漸浮上檯面。一來是有越來越多小型但表現還不錯的語言模型問世（如Google Gemma 4），有機會完全地端執行；二來是從蘋果讓M1 Ultra支援128GB的整合式記憶體開始，地端裝置也開始能跑超過100B參數的大型語言模型。之後這樣的產品越來越多，除了蘋果，AMD也推出Strix Halo──同樣支援128GB整合式記憶體和有超大規模的GPU，再到今年COMPUTEX NVIDIA推出支援CUDA架構的RTX Spark，讓使用者有更多地端跑大型語言模型的硬體選擇，且最重要的是：擺脫成本日益高漲的雲端AI。
但說到擺脫高昂的AI持有成本，正是筆者所說的「糾葛」之處。原因正是地端AI硬體持有成本其實也逐年攀升，且罪魁禍首就是雲端AI。相信有關注筆者文章的人都知道PC市場今年不好過，最主要的原因莫過於記憶體價格暴漲。記憶體價格暴漲也是來自雲端AI基礎建設對記憶體的強勁需求，導致消費性記憶體產能受排擠，故價格水漲船高。且不只記憶體，CPU和GPU等供給和價格也因雲端AI蓬勃發展面臨嚴重挑戰。
然而這些糾葛中，最倒楣的莫過於一般使用者。確實如當初OpenAI執行長Sam Altman宣稱，對人類來說AI正在變成如水電的基礎必要服務，不管日益高漲的雲端AI或Token，甚或持有成本逐年攀升的地端AI設備，使用者大概也只能照單全收。
不過也不是全部使用者願意買單，近日記憶體三巨頭三星、SK海力士和美光就在美國遭遇消費者集體提告，指控這三家控制全球近90% DRAM市場的巨頭，涉嫌非法串謀、人為限制傳統記憶體（如 DDR3、DDR4）產能。原告說法是： 巨頭宣稱是因為雲端AI需求大爆發，所以必須把產能轉去利潤更高、專供AI伺服器用的HBM。但原告認為這只藉口，他們只是聯手故意掐斷一般消費級記憶體供應，甚至藉機關閉部分消費級產品線（如美光關閉Crucial消費性品牌）。
所以雲端、地端AI及使用者之間的複雜糾葛會繼續纏繞下去嗎？如果短時間全球記憶體產能無法有效提升，此趨勢大概還要上演一陣子。身為一般使用者的我們大概也只能咬緊牙關，仔細挑選真正適合自己的AI了。
（首圖來源：shutterstock）
科技新報粉絲團
加入好友
訂閱免費電子報
