
隨著人工智慧(AI)技術的迅速發展,許多專家開始質疑當前 AI 系統的思維能力。儘管 OpenAI、Anthropic 和 Google 等科技巨頭仍然對AI能夠達到人類智慧的預測充滿信心,但越來越多的反對聲音指出,AI 的思考方式與人類截然不同。根據最新的研究,當前的 AI 模型主要通過學習大量的經驗法則來模擬智能,這使得它們在處理常規數學問題時表現優異,但在需要更深層推理的數學證明上卻常常失敗。
一項針對模擬推理(SR)模型的研究顯示,這些模型雖然能夠準確解決日常數學問題,但在面對競賽級數學挑戰時卻經常無法生成完整的數學證明。研究指出,SR模型的思維過程並不等同於人類的推理方式,這使得它們在處理需要創造性思考的問題時顯得捉襟見肘。
此外,AI 生成的內容在網絡上迅速增長,這引發了對人類創造力的擔憂。隨著科技公司不斷開發新型AI模型,這些模型的網絡爬蟲吸取了大量的創意內容,並生成大量合成媒體,可能會淹沒人類創造的火花,導致文化景觀的同質化。人類創造力作為一種自然資源,亟需得到保護。
在 AI 技術的輔助下,軟件開發也面臨著類似的挑戰。雖然 AI 有潛力提高開發效率,但如果不加以謹慎使用,可能會導致長期的技術負債和安全隱患。AI 工具的生成代碼往往缺乏上下文理解,可能引入安全漏洞,並且對於複雜的合規性驗證並不可靠。這使得人類工程師的角色仍然至關重要,必須進行人工審核以確保程式碼的品質和安全性。
總的來說,雖然 AI 在各個領域的應用潛力巨大,但它的局限性和對人類創造力的威脅也不容忽視。未來的挑戰在於如何平衡 AI 技術的發展與人類創造力的保護,以確保文化和創意的多樣性得以延續。
(首圖圖片來源:Flickr/COD Newsroom CC BY 2.0)
- We Now Know How AI ‘Thinks’—and It’s Barely Thinking at All
- New study shows why simulated reasoning AI models don’t yet live up to their billing
- In the age of AI, we must protect human creativity as a natural resource
- AI-Assisted Software Development: Hype Vs. Reality—What You Need To Know
- AI Paints A New Picture For The Future Of Art And Design
- Interpretability, or understanding how AI models work, can help mitigate many AI risks, such as misalignment and misuse, that stem from AI systems’ opacity (Dario Amodei)