AI 教父 Geoffrey Hinton 談 Google 與 OpenAI 在安全策略上的關鍵差異

日前上線的「Diary of a CEO」Podcast 節目，2024 年諾貝爾物理學獎得主、人稱「AI 教父」的辛頓（Geoffrey Hinton）深入探討 Google 與 OpenAI 在 AI 安全策略上的關鍵差異。

Google 推出 AI 聊天機器人時，由於擔心損害公司良好聲譽，選擇較為保守的策略。辛頓指出，Google 在 2023 年 3 月推出名為「Bard」的 AI 聊天機器人，隨後將其整合至大型語言模型 Gemini 當中，這一切是在 OpenAI 2022 年底發表 ChatGPT 之後的追趕行動。

辛頓強調，OpenAI 能夠更快行動的原因在於該公司不具備像 Google 那樣的聲譽，因此能夠承擔風險。他回憶起 Google 的 AI 負責人在 ChatGPT 發表後的全員會議曾表示，Google 不打算立即推出 AI 聊天機器人，因為這涉及「聲譽風險」。

此外，Google DeepMind 執行長哈薩比斯（Demis Hassabis）今年 2 月仍指出，AI 可能帶來長期風險，並呼籲建立一個監管機構來監督 AI 專案。自 Gemini 推出以來，這套 AI 系統曾出現一些明顯錯誤，並在生成的文字和圖像透露偏見。Google 執行長皮查伊（Sundar Pichai）就在內部備忘錄承認公司犯錯，並承諾改進。

辛頓在 Google 工作十多年，對公司內部決策有著深刻了解。對於 Google 的行為，辛頓認為「他們實際表現是非常負責任」。

至於 OpenAI，辛頓表示不太確定，因為他從未在 OpenAI 工作過。當被問及 OpenAI 執行長奧特曼（Sam Altman）是否擁有良好的道德準則時，「我們拭目以待」，由於辛頓自己並不認識奧特曼，因此無法進一步評論。

OpenAI 近來因為安全策略的轉變受到批評，在一篇官方部落格文章寫道，只有確保不會實質增加嚴重傷害時，才會改變安全要求。奧特曼也在 TED2025 訪談為 OpenAI 安全策略辯護，強調其準備框架是針對「我們認為最重要的危險時刻」所設計。