AI 產業出現日益明顯的矛盾：模型性能持續進步、單位成本不斷下降，但企業 AI 帳單快速膨脹。最新觀察，問題核心不僅模型推理本身，更在日益普及的「代理式工作流」（agentic workflows）。這種流程執行多步驟任務時，會反覆讀取上下文、呼叫工具並重覆測試，導致 Token 消耗量呈倍數甚至數十倍增長。
簡單問答可能僅需數百到數千個 Token，但看似平常的工作如串接 Excel、CRM 與網路搜尋製作報告，累積消耗量可能高達數十萬甚至數百萬個 Token。由於模型每次互動時都必須重新處理整段對話與檔案，對話長度與步驟越多，成本與回應時間就越容易失控。如每 15 分鐘執行一次的製作榜單，月費可能從數十美元迅速攀升至數千美元；更複雜的多階段報告，單一任務成本甚至可能高達數萬美元。
這股壓力已迫使 Anthropic、OpenAI、微軟等 4 月轉向按用量計費，並收緊固定方案 Token 上限。對大型企業而言，AI 支出不再是技術部門議題，也成為財務部門必須嚴密監控的成本項目。Uber、微軟、亞馬遜、沃爾瑪等都開始控制 AI 開支，因大量部署代理後，AI 支出甚至高過人事成本。
補充資料顯示，這並非個案，而是企業現在普遍管理難題。麥肯錫（McKinsey）調查，93% 企業 AI 團隊已超過預算，且代理式 AI 支出，60% 來自反覆修正與重寫輸出。另有研究提到，儘管 Token 價格兩年中大幅下滑，但企業 AI 帳單仍持續升高，主因就是用量與工作流程複雜度成長速度更快。部分企業甚至幾個月內就花光全年 AI 預算，被迫緊急重新協商合約或追加資金。
業界開始轉向「Tokenomics」（Token 經濟學）與成本管理，包括採 Prompt 快取（Prompt Caching）、模型路由（Model Routing）、批次處理（Batching）、語意快取（Semantic Caching）、縮短上下文窗口，以及將簡單任務交給較小模型，大型模型留給高難度事項。專家認為，若企業缺乏可視化與成本歸因機制，AI 規模化將不只提高效率，而是更難預測且更難控制的成本支出飆升。
- The enduring paradox of the AI economy — models get better and more efficient, yet costs can still easily spiral out of control
- Rising AI bills push Singapore companies to chase ROI over ‘tokenmaxxing’
- AI Is Getting Cheaper. So Why Is Your AI Bill Going Up?
- When AI budgets balloon: What enterprises are learning in 2026
- Taming the Token Bill: Engineering Cost-Efficient Agentic AI
- AI meter is running. India’s IT clients are rethinking their models
（首圖來源：AI）
科技新報粉絲團
加入好友
訂閱免費電子報
