30 年內 AI 導致人類滅亡可能性增加，諾貝爾獎得主辛頓重申政府監管

2024 年諾貝爾物理學獎得主、素有「AI 教父」之稱的辛頓（Geoffrey Hinton）表示，AI 有 10%~20% 可能性在未來 30 年內導致人類滅亡。

在英國廣播公司第 4 電台（BBC Radio 4）「今日」（Today）節目，客座主持人、英國前衛生大臣賈維德（Sajid Javid）詢問辛頓對可能出現的 AI 末日和 10% 發生機率是否有變時，辛頓說「沒什麼變，10% 到 20%。」

賈維德馬上說「機率增加了」，辛頓接著說「如果一定要說，你看，我們以前從未和比我們聰明的東西打交道。」

Computer scientist and ‘Godfather of AI’ @geoffreyhinton tells #R4Today guest editor Sir Sajid Javid AI could lead to human extinction within two decades and governments need ‘to force the big companies’ to do a lot of research on safety.

— BBC Radio 4 Today (@BBCr4today) December 27, 2024

▲ 辛頓接受賈維德專訪。

辛頓去年辭去 Google 工作成為媒體的頭條新聞，他更能公開談論不受約束的 AI 開發所帶來的風險，理由是擔心「壞人」利用這項技術傷害他人。他認為，建立 AGI（Artificial General Intelligence，通用人工智慧）或比人類更聰明的系統，可能導致該技術躲過人類控制而構成人類生存威脅。

「因為我們現在所處的情況是，這個領域大多數專家都認為，也許未來 20 年內我們將開發出比人類更聰明的 AI，這是一個非常可怕的想法。」辛頓表示，AI 發展速度「非常非常快，比我預期的快得多」，再次呼籲政府應加以監管。

「我擔心的是，看不見的手無法保證我們的安全。僅僅依靠大型公司的利潤動機，無法確保他們會安全開發技術。」辛頓表示，「唯一能迫使這些大型公司投入更多資源進行安全研究，正是政府的監管。」

• ‘Godfather of AI’ shortens odds of the technology wiping out humanity over next 30 years
• Regulations needed to stop AI being used for ‘bad things’ – Geoffrey Hinton

（首圖來源：University of Toronto）