Mistral AI 28 日公布有里程碑意義的環境審計報告，揭示人工智慧（AI）隱藏的環境成本。報告全面評估旗艦模型 Mistral Large 2，18 個月訓練期產生 20.4 千噸二氧化碳，消耗 281,000 立方公尺水。正值眾企業推動 AI 保持競爭力，同時面臨可持續性壓力。
Mistral審計報告為技術決策者提供前所未有資料，AI採購決策時考慮環境影響，過去難以量化。報告指出，訓練有1,230億參數的模型能量，相當於4,500輛汽油車開一年，水消耗量約112個奧林匹克標準游泳池。每次用Mistral的Le Chat查詢，會產生1.14克二氧化碳，並消耗約45毫升水，等於種植一顆小蘿蔔的水量。
經營階段對環境的影響更明顯。訓練和推理占85%水資源消耗，遠超過硬體製造或蓋資料中心環境成本。代表模型用量增加，環境成本就會一直累積。
Mistral研究還提出減少環境影響的可行策略。地理位置對碳足跡有影響，可再生能源和氣候較冷地區訓練的模型，排放量較低。模型大小與環境成本有強相關性，大模型產生同量標記時，環境影響約高一個等級。
報告建議企業選擇模型時，應根據用例選擇合適模型，而不是一律採用大型系統；查詢分批處理減少計算浪費，並在清潔能源電網的地區部署模型，能降低碳排放。
Mistral透明度策略與競爭對手大相逕庭。雖然OpenAI首席執行長Sam Altman最近聲稱，ChatGPT查詢每次僅消耗0.32毫升水，但缺乏詳細方法論使有意義比較更困難。透明度全披露是願意提供環境資訊公司的機會，使其競爭時能脫穎而出。
這份審計報告確立環境透明度為企業AI市場關鍵因素。可持續性指標越來越影響採購決策，有詳細環境影響數據的供應商將更占優勢。透明度使供應商評估更複雜，卻能讓客戶在性能需求與環境成本間取得平衡。
對技術高層來說，Mistral審計報告提供以前無法取得的決策標準。組織現在可AI採購決策時也考慮環境影響，與傳統性能和成本指標並列。這些數據使企業更精確計算總擁有成本，將環境外部性納入考量，未來環境表現可能會與計算性能一樣，成為選擇AI供應商的關鍵因素。
- Mistral AI’s Environmental Audit Puts Spotlight On AI’s Hidden Costs
- Mistral AI reveals first comprehensive environmental audit of large language models
- Mistral AI reveals details of how AI models impact the environment, including greenhouse gases, water, and energy
- Mistral AI publishes the first comprehensive life cycle assessment of a large language model
- Mistral report confirms AI is a hungry, thirsty beast
（首圖來源：Mistral AI）
科技新報粉絲團
加入好友
訂閱免費電子報
