AI 專家和學者看 OpenAI「Q*」傳聞：不會對人類帶來威脅

ChatGPT 開發商 OpenAI 是否開發出日後足以威脅人類的 AI 技術？我們不得而知，但這引起專家和學者提出不同看法。

《路透社》日前獨家報導 OpenAI 研究人員發信警告董事會，宣稱公司內部一項 AI 新專案「Q*」（念做 Q-Star）有重大突破，恐怕威脅人類，同時演變成董事會解僱執行長 Sam Altman 其一催化劑。

OpenAI 及其董事會並未證實是否有收到來自研究人員的信，國外媒體 The Verge 引述知情人士的消息指出，他們並沒有收到信。

然而拋開前述 Q* 爭論，這項傳聞的 AI 新專案實際上可能不具威脅性，甚至不是什麼新鮮事。包括 Meta 首席 AI 科學家 Yann LeCun（楊立昆）等 AI 研究人員，紛紛質疑 Q* 只不過是 OpenAI 及其研究室現有工作延伸，並非日後可能威脅人類的嶄新技術。

討論大型語言模型和機器學習的自媒體 Coding with Intelligence 作者 Rick Lamers 也在一篇文章提到，OpenAI 共同創辦人 John Schulman 7 年前麻省理工學院講座曾談道一個名為 Q* 的數學函數。

Please ignore the deluge of complete nonsense about Q*.
One of the main challenges to improve LLM reliability is to replace Auto-Regressive token prediction with planning.

Pretty much every top lab (FAIR, DeepMind, OpenAI etc) is working on that and some have already published…

— Yann LeCun (@ylecun) November 24, 2023

▲ Yann LeCun 對 Q* 傳聞提出質疑。

一些 AI 研究人員認為，Q* 的 Q 字可能指「Q-learning」，是一種 AI 技術，透過採取特定的正確行動並獲得獎勵，可幫助 AI 模型學習和改進特定任務。此外，* 可能引用自「A*」，A* 是一種用於檢查組成圖表的節點並探索這些節點之間路線的演算法。

2014 年，Google DeepMind 應用 Q-learning 建構一種能以人類水準玩雅達利 2600（Atari 2600）遊戲主機的 AI 演算法。至於 A* 起源於 1968 年發表的一篇學術文章，幾年前美國加州大學爾灣分校研究人員嘗試以 Q-learning 改進 A*，這可能正是 OpenAI 現階段追求的目標。

艾倫人工智慧研究所（Allen Institute for AI）科學家 Nathan Lambert 認為，與 AI 方法相關的 Q* 主要用於研究高中數學問題，而不是毀滅人類，喬治亞理工學院電腦科學教授 Mark Riedl 也批評外媒對 Q* 報導過於誇大。兩位學者皆沒有猜測 Q* 是否需要 Q-learning 或 A*，無論涉及其中一項，抑或兩者結合，都符合目前 AI 研究趨勢。

專家和學者認為，無論 Q* 本身和它所能解決的數學方程式出現什麼結果，都不至於對人類帶來厄運，現階段擔心電影中的「天網」快要到來恐怕還太早。經歷與董事會意見分歧的一連串紛爭，Sam Altman 等人已經重返公司領導團隊，未來仍期待這家掀起 AI 熱潮的公司如何繼續推進技術發展。