AI 是新實體還是預測工具？辛頓籲為系統注入「母性本能」，引發認知科學家論戰

諾貝爾物理學獎得主、被譽為「AI 之父」的傑佛瑞·辛頓（Geoffrey Hinton），上週出席在紐約舉行的 Sana AI Summit，分享對人工智慧未來的深刻警示。辛頓預言 AI 將在他有生之年超越人類智慧，更將成為人類智識史上繼哥白尼、達爾文之後的第三次大革命。

AI 反駁愛因斯坦級數學難題

辛頓並非泛泛而談，他提到，就在演講當天早上，一個 OpenAI 模型運用代數數論，成功推翻著名數學家 Paul Erdős 提出逾 80 年的「單位距離猜想」，讓他大感振奮。這是人類史上首次由 AI 自主解決一個數學領域的重要開放難題，結果已獲獨立數學家驗證。

辛頓認為，在數學這類封閉系統中，AI 能自行生成猜想、測試、從失敗中學習，並不斷累積進步。正如 AlphaGo 一旦開始生成自身訓練數據後，便徹底擊潰人類棋手一樣。語言模型也走在同一軌道上。

辛頓指出，只要讓模型推論出與自身既有信念相矛盾的結論，就產生一個毋須新數據的訓練訊號，「這意味著語言模型無需大量新數據，就能變得遠比現在聰明」，辛頓預測，AI 在 10 年內將超越全球最頂尖的數學家；從更長遠來看，AI 與愛因斯坦之間的差距，在未來 20 年內也將消失。

對自己一生心血感到後悔「是資本主義的問題」

辛頓於 2023 年離開 Google，公開表示對自己一生心血感到後悔。辛頓的憂慮自此不斷深化，從最初擔心惡意行為者，演變成對整個經濟結構的質疑。辛頓去年直言，「富人將用 AI 取代工人。這不是 AI 的問題，這是資本主義制度的問題。」

在 Sana AI Summit，辛頓把這條思路說得更完整。辛頓以演化生物學做比喻：人類的部落主義、對強勢領袖的服從，以及對「外族」的敵意，都是數百萬年競爭演化的產物，自然選擇並不鑒定善良，只改良生存。現在，資本主義正以同樣邏輯驅動 AI 發展，「各公司競相建造最強大的 AI，這將造就對我們並不友善的東西」。

辛頓特別指出，各大科技公司至今仍未認真思考要創造什麼「性格」的 AI 存在體。辛頓以養育子女來比喻：「你會用連環殺手的日記教孩子讀書嗎？大概不會。那你就明白了。」辛頓早前也曾建議，應為 AI 注入「母性本能」，讓它們天生想要保護和照顧人類。辛頓預估，AI 在未來 30 年內造成人類滅絕的機率 10%~20% ，且這數字因 AI 發展加速而有所上升。

Marcus 反駁：不是「存在體」

認知科學家、AI 懷疑論者加里·馬庫斯（Gary Marcus）在 Sana AI Summit 後數天發表文章，直接批評辛頓的論點。Gary Marcus 寫道：「LLM 研究人員並非在創造存在體，他們創造的是被訓練來預測真實存在體語言的互動式虛構物。」Gary Marcus 認為，意識來自內在狀態，而非行為輸出，並引用教宗 Leo XIV 的話：「真正的理解來自經驗，而非近似的文字。」

這場辯論至今懸而未決，若辛頓對 AI 做為新型存在體的判斷有誤，大部分警示的緊迫性便大打折扣；若辛頓是對的，而這些存在體將很快比人類更聰明，那麼「我們正在創造什麼樣的存在體」，就是當下唯一真正重要的問題。

辛頓以一個笑話作結，有人問 Geoffrey Hinton，跟領導曼哈頓計畫、被生為原子彈之付的的羅伯特·奧本海默（J. Robert Oppenheimer）相比如何──同樣建造了改變世界之物，同樣後悔莫及，辛頓答道：「奧本海默從沒得過諾貝爾物理學獎。」