科幻電影逐漸成真,俄烏戰爭使各國更擔憂 AI 武器

作者 | 發布日期 2022 年 04 月 29 日 19:37 | 分類 AI 人工智慧 , 機器人 , 無人機 Telegram share ! follow us in feedly


科幻電影中不乏有人工智慧反噬人類的警示內容,但似乎無法減緩近年各國發展人工智慧相關技術的趨勢,在俄烏戰爭中多次被運用的網路攻擊、深偽技術和自殺無人機等技術,使各國專家擔憂 AI 軍備競賽將成為下一次大戰的源頭。

AI 技術讓戰爭型態出現質變

從 2010 年代開始,聯合國就針對致命性自動武器(Lethal Autonomous Weapons,LAWs)的規範進行討論,但由於各國對於 LAWs 的定義分歧,直到 2018 年才形成初步共識,規定使用 LAWs 進行殺傷行動,必須經過人類下達最後指令,但卻又將「防衛性質」的 LAWs 排除在外。

日本 NHK 電視台去年即推出 AI 武器專題「2030 通往未來的十字路口」,探討 近年 AI 武器造成的軍事和戰爭革新及影響,其中便談到了 2020 年亞塞拜然與亞美尼亞戰爭,是人類史上首次兩國之間大規模使用無人機進行的常規戰爭。

亞塞拜然透過大量土耳其製無人機,在戰事中取得優勢,戰勝仍將資源投注在傳統武器的亞美尼亞,使全世界見識到無人機在大規模戰爭中帶來的影響。

2 月底爆發至今的俄烏戰爭,俄羅斯也運用 AI 進行網路攻擊和深偽技術,短暫癱瘓烏克蘭部分基礎建設,假造澤倫斯基總統的投降演說,並首次動用卡拉希尼可夫公司開發的 KUB-BLA 自殺無人機(烏軍則使用美軍彈簧刀自殺無人機),都是正規戰爭中首次運用的戰術。

▲ 俄羅斯在戰爭前期製作烏克蘭總統澤倫斯基的 Deepfake 影片,成為這項技術首次的實戰運用。(Source:影片截圖)

人類對 AI 武器的疑慮

戰爭爆發後,聯合國在 3 月於日內瓦召開新一輪 LAWs 的規範會議,但由於俄羅斯遭歐洲國家制裁無法出席,會議並未形成任何新的共識。

近期洛杉磯時報和華盛頓郵報等媒體也撰文指出, AI 武器帶給人們的疑慮,主要在於自我意識(Self-awareness)產生的後果,和缺乏明確規範將提高戰爭機率兩個因素。

大部分科幻電影中強調的災難,都來自於高速發展的 AI 產生自我意識,進而決定傷害人類的假設,而 Google 執行長皮查伊(Sundar Pichai)就曾指出,除了醫療相關的發展外,其他所有領域的 AI 開發,都應受到更嚴格的規範,盡可能排除 AI 自我意識出現的可能性。

軍事、國際法和國際關係學者則普遍認為,AI 是人類軍事史上繼火藥和核武之後最重大的轉捩點,而當熱兵器和核武分別在 14 和 20 世紀誕生後,都造成極為龐大的傷亡。

因此國際社會若無法在 AI 武器能造成大規模殺傷前,先擬定法規加以限制的話,新武器帶來的技術優勢吸引力,將升高軍備競賽的速度與規模,並提升戰爭意願,冷戰以來的核威懾效應會快速遞減。

結論

雖然烏俄戰爭中傳統武器仍然佔據重要角色,而俄羅斯在戰場上的表現,也證明了貪腐和制度上的缺陷,往往會抵銷技術或帳面數據上的優勢。

但由於美中俄等強權國家,近年在 AI 武器上的開發不遺餘力,國際間仍需要盡快針對這項新技術擬定規範,避免重蹈幾世紀以來的覆轍。

(首圖來源:AeroVironment