暫緩 AI 研究，OpenAI 執行長：這不是解決問題的最佳方法

針對產學人士提出暫緩 AI 研究的論點，OpenAI 執行長執行長奧特曼（Sam Altman）上週四在麻省理工學院的一場活動做出回應。

奧特曼在麻省理工學院活動上透過視訊表示，他同意「未來生命研究所」（Future of Life Institute）公開信的部分內容，但點出這封公開信遺漏了需要他們暫停技術研究的細微差異，還否認 OpenAI 目前正在訓練 GPT-5。

「我們正在 GPT-4 之上做其他事，我認為這些事有各式各樣的安全問題需要解決，卻完全排除在公開信之外」，奧特曼說道，儘管否認投入 GPT-5 的開發，不代表 OpenAI 沒有擴張 GPT-4 的新功能。

「我認為謹慎行事且對安全問題越來越嚴格是非常重要的」，奧特曼也表示，隨著 AI 能力增加變得越來越重要，安全標準必須提高，但認為這封公開信的呼籲不是解決問題的最佳方法。

「未來生命研究所」的公開信指出，具有人類競爭智慧的 AI 系統可能對社會和人們構成潛在風險，不僅提醒大家重視此事，更呼籲所有 AI 實驗室應暫停訓練比 GPT-4 更強大的 AI 系統至少 6 個月，此舉獲得馬斯克（Elon Musk）、沃茲尼克（Steve Wozniak）等業界人士和學者的支持，目前更有 2.5 萬人參與連署。

「AI 實驗室和獨立專家應該利用暫緩 AI 研究的時刻，共同製定和實施一套安全協議，由獨立外部專家嚴格審查和監督」，公開信談道。

其實不只奧特曼持反對意見，其他如 AI 專家吳恩達（Andrew Ng）、 Google 前執行長施密特（Eric Schmidt）等人也不認同公開信的呼籲，OpenAI 或其他致力開發先進 AI 技術的公司也沒有任何暫停研究的打算。

（首圖來源：OpenAI）