特斯拉執行長馬斯克（Elon Musk）、蘋果共同創辦人 Steve Wozniak 及多位 AI 研究人員連署公開信，呼籲所有 AI 實驗室暫停訓練比 GPT-4 更先進的模型至少 6 個月，以免對社會和人類構成威脅。
目前這封公開信有 1.35 萬多個簽名，表示擔心 ChatGPT、Bing 和 Bard 等程式帶來「危險競賽」，若不加以控制，可能產生負面的後果，從虛假資訊到將人類工作遭到機器取代。
比爾蓋茲對此表示，不認為要求某特定群體暫停就能解決這些挑戰，況且很難在全球產業中要求暫停執行，但他也同意 AI 產業需要更多研究來確定棘手的領域。
馬斯克、Wozniak 關注的是什麼？
從公開信來看，AI 系統往往帶有程式設計偏見和潛在隱私問題，會傳播錯誤資訊，尤其是遭到惡意使用時。此外，目前大家也擔心 AI 語言系統會取代人類的工作。
目前義大利已經暫時禁止 ChatGPT，因為 OpenAI 數據洩露引發隱私問題；英國政府也公布監管建議，歐洲消費者聯盟（BEUC）也呼籲歐洲各國的立法者加強監管；美國部分國會議員已經呼籲制定新法來監管AI 技術。
雖然許多公司開始投入研發 AI 技術，不過 AI 新創公司 Anthropic 認為目前的技術沒有構成迫在眉睫的擔憂，但可以肯定的是，未來 AI 系統會變得更加強大，現在建立護欄能幫助減少風險，「但問題是目前沒有人清楚護欄該是什麼樣子」。
部分研究人員認為，暫停研究可能會扼殺產業快速進步，也讓允許開發 AI 系統的專制國家獲得進展。另一間新創公司認為，一直強調 AI 的潛在威脅可能鼓勵不良分子出於邪惡目的來擁抱這項技術。
科技巨頭、新創企業會停止嗎？
不過照目前看來，科技巨頭和新創企業都不太可能自願停止工作，信中呼籲政府加強監管倒是較為可行的方式。加利福尼亞大學電腦科學家、AI 研究員 Stuart Russell 表示，這些努力需要在技術進一步發展前到位。
不過雙方似乎都同意，必須預防 AI 快速發展下的最壞情況，例如必須透明化以保護用戶免於詐騙，又或者阻止AI 系統達到人類智力水平，並有效控制。
比爾蓋茲早在 2015 年告訴英國廣播公司（BBC），「一旦你開始製造在智力上與人類匹敵和超越的機器，我們將難以生存。這是無法避免的狀況」。
（首圖來源：Unsplash）
科技新報粉絲團
加入好友
訂閱免費電子報
