
阿里巴巴承認 Qwen3 大語言模型混合思維模式有缺陷。與社群交流後,決定停止使用這種「思考」和「非思考」結合模式,專注分開指令遵循和思考專注模型,優先考慮輸出品質而非混合模式較方便。
阿里巴巴4月29日發表Qwen3,為創新大語言模型,用戶可根據查詢複雜度隨時切換,旨在最佳化資源使用,並設置「思考預算」管理推理時間與成本,改善用戶體驗。還支援多語言,寫程式和工具調用等AI任務表現出色。
但阿里巴巴本月重新評估混合模式,認為效果不佳且過時。Qwen團隊最近社群媒體發文:「經過與社群討論和深思熟慮,我們決定停止混合思維模式。我們將分別訓練指令和思考模型,以獲得最佳品質。」
為了解決問題,Qwen團隊推出專門指令和思考調整版本,新模型推理、問題解決、數學、寫程式和一般知識等據聲明顯提升。特別是數學基準測試AIME25,Qwen3-235B-A22B-Instruct-2507模型進步很多,數據待官方確認。儘管阿里巴巴專門思考模型某些基準測試成績提升,但與非思考版相比進步幅度不明顯。阿里巴巴說Qwen3-235B-A22B-Thinking在數學密集AIME25測試得分提高。
此外,阿里巴巴還擴大模型上下文窗口,從32k tokens提升至256k tokens,對「思考」模型很重要,因可能得出最終答案前產生數百甚至數千字文本。Qwen團隊建議用戶記憶體足夠的話,上下文長度可設為至少128k tokens。
儘管阿里巴巴放棄混合思維模型,但團隊表示仍在繼續研究,暗示未來可能解決品質問題後重新推出。
- Alibaba admits Qwen3’s hybrid-thinking mode was dumb
- Alibaba’s Qwen3: Open-weight LLMs with hybrid thinking
- Alibaba’s new Qwen3 scores higher than rivals in key AI tasks
- Alibaba unveils Qwen3, a family of ‘hybrid’ AI reasoning models
(首圖來源:Qwen)