AI 教父：AI 恐讓良善本意變質，致命武器十年問世

被業界尊為「AI 教父」的辛頓（Geoffrey Hinton）警告，AI 可能對全人類造成威脅。

日經3月31日報導，辛頓受訪時指出，人類面臨的威脅在於，AI可能曲解意思，讓良善的本意變質。舉例來說，若要求一個超級AI解決氣候變遷問題，這款AI第一個想法恐怕是讓人類消失。換言之，設定目標時須非常小心。

辛頓說，假設不同AI開始彼此競爭，由於AI是藉由讀取更多數據的方式變聰明，需要許多資料中心及資源。因此，兩款AI將彼此爭奪資源來演進，人類會被遠遠拋在後頭。許多人會問，何不設置開關，必要時將之關閉？辛頓認為，若AI真比人類聰明，那麼只要還可跟人類對話，AI肯定能說服執掌開關的人相信，將之關閉是很壞的主意。

辛頓學生、也是OpenAI共同創辦人的Ilya Sutskever，2023年11月曾試圖開除OpenAI執行長阿特曼（Sam Altman），最終以失敗收場。對此，辛頓表示，Sutskever非常擔憂安全機制，OpenAI原先使命是就算營利也要把安全擺第一，如今營利卻排在安全前面。2012年AI還無法跟上人類，只能辨識物體及影像，無法理解語言及複雜事物。然而，Sutskever比辛頓還要早改變看法，最後證明他是對的。

辛頓相信，人類肯定會十年內藉先進AI研發出可怕又致命的自動化武器，聯合國（UN）也許會設法控管，就像監管化學武器一樣。他希望AI戰鬥機器人的使用能受到管制，但應要到真的有人用了，聯合國才會出手監管。

（本文由 MoneyDJ新聞授權轉載；首圖來源：Flickr/Collision Conf CC BY 2.0）