繼霍金之後,Elon Musk 再示警:人工智慧災難 5 年內爆發

作者 | 發布日期 2014 年 11 月 18 日 14:38 | 分類 尖端科技
the-terminator-198411118

毫無節制地發展人工智慧(artificial intelligence,AI),後果可能不堪設想,且災難可能最近幾年就會爆發!



AI 發展迅速恐造成嚴重後果

身兼美國豪華電動車製造商特斯拉(Tesla Motors)、航太運輸服務公司 SpaceX 兩家公司執行長以及美國太陽能板公司 SolarCity 董事長的 Elon Musk 上週末再度對人工智慧的危險性提出警告,認為這種科技的發展腳步非常快速,而且只有英國人工智慧公司 DeepMind 等相關業者的內部人才知道速度究竟有多快。

CNBC 17 日報導,Musk 同時指出,人工智慧勢必會導致非常危險的事件,且五年內、最多十年就可能發生。Musk 強調,這絕對不是「狼來了」,他是對整個事件有相當的理解才會對大家示警。

Musk 是在知名科學交流網站 Edge.org 一篇名為「The Myth of AI(人工智慧的迷思)」的文章底下留言,但他在留言送出不久後立即將之刪除。

Musk 發言人在回答 Re/code 詢問時表示,該篇留言的確是 Musk 所寫,但這原本是要寄送給 Edge 網站創辦人 John Brockman 的私人電子郵件,並非公開的評論。該名發言人並透露,Musk 之後會在部落格撰寫一篇較長的文章來討論這個話題。

Musk 6 月 18 日在接受 CNBC 專訪時就曾指出,他在 DeepMind 被 Google 併購前曾是該公司的股東之一,另外也投資了舊金山人工智慧軟體業者 Vicarious。Musk 說,投資 Vicarious 的目的並不是在追求報酬,他只是想藉此追蹤人工智慧的發展程度。Musk 當時警告,就像電影「魔鬼終結者」演的一樣,人工智慧發展到最後可能會有嚴重後果。

 

可能難以被人類掌控

霍金與加州大學柏克萊分校人工智慧教授 Stuart Russell、麻省理工學院宇宙學家 Max Tegmark 以及麻省理工學院物理系教授 Frank Wilczek 5 月份就曾聯合在英國獨立報(The Independent)發表文章警告,AI 短期內的影響端賴背後掌控的人而定,但長遠來看,AI 能否被操控,才是問題的核心。

霍金等人指出,強尼戴普主演的最新電影《全面進化(Transcendence)》描述了一個逐漸失控的 AI,其實這並非危言聳聽,因為 AI 未來可能會比金融分析師還聰明、比科學家更具創意、比人類領袖更能操縱人心、甚至還有機會研發出人們完全無法理解的武器。

霍金並警告,世界文明是人類智慧的產物,但當這種智慧被 AI 的工具放大時,產生的結果實在難料,唯一能確定的就是,戰爭、疾病與貧窮會是大家最先消滅的問題。就在最近,全球各地的軍隊已開始考慮導入能夠自選並殲滅目標的自動化武器系統(聯合國與人權觀察組織已開始呼籲禁用這類武器);中期來看,人工智慧甚至可能轉化整個經濟型態,帶來巨大的財富與嚴重的混亂。

(MoneyDJ新聞 記者 郭妍希 報導)

首圖來源:Escapist Friday: The Terminator (1984) 

發表迴響