霍金、馬斯克聯署禁用!憂心人工智慧武器淪為殺人工具

作者 | 發布日期 2015 年 07 月 30 日 11:20 | 分類 機器人 , 自動化 follow us in feedly

2015 國際人工智慧聯合會議(International Joint Conference on Artificial Intelligence, 簡稱為IJCAI)於阿根廷首都布宜諾斯艾利斯舉行,會上超過千位科學家與企業家簽署公開信,為督促聯合國禁止開發與使用自主武器(autonomous weapons)。




此封公開信獲得廣大聯署,其中包含物理學家史蒂芬·霍金(Stephen Hawking)、美國豪華電動車製造商特斯拉(Tesla Motors)與航太運輸服務公司 SpaceX 執行長伊隆·馬斯克(Elon Musk)等諸位巨擘結合,目的是對人工智慧所帶來的威脅發出警告;霍金也曾在 2014 年 12 月接受 BBC 訪問時指出:「人工智慧發展完成將可能導致人類滅絕」。

不同於核子武器,自主武器沒有那麼昂貴、原料取得也相對容易,因此自主武器未來將隨處可見,且軍事強國也可能大量生產。加州大學柏克萊分校人工智慧教授斯圖亞特·J·羅素(Stuart Russell)也表示,價格可負擔的殺手機器人不再是遙遠的科技。

信中也警告,自主武器能夠在無人控制的情況下瞄準並射擊目標,若不當使用恐將引發「第三次世界大戰」;即使自主武器在合法規範下製造,亦可能成為「明日的 AK-47 自動步槍」,淪為恐怖分子用來挾持或暗殺老百姓的武器。

深知人工智慧的可怕,馬斯克於 2015 年 1 月曾捐贈 1000 萬美元給未來生命研究所,針對人工智慧的負面影響進行 37 個專案研究,目的在於確保人工智慧系統價值觀與人類相同,避免發生如《魔鬼終結者》般可能導致的問題。

事實上「半自主武器」早已存在,不過僅有部分自主功能,無法對目標物發動攻擊。而根據紐約時報報導,英國、以色列及挪威目前已部署自主飛彈與無人機(drones),可用於攻擊敵人雷達、坦克或軍艦。丹佛大學倫理學教授 Heather Roff 在哈芬登郵報(The Huffington Post)上曾發表看法,他認為半自主與自主之間的界線其實已經越來越模糊,且正在慢慢縮小。

 

(首圖來源:達志影像) 

發表迴響