馬斯克:世界各國的 AI 競賽,可能會導致第三次世界大戰

作者 | 發布日期 2017 年 09 月 05 日 14:40 | 分類 AI 人工智慧 , 尖端科技 follow us in feedly

北韓近日的氫彈試爆,讓許多人憂心起第三次世界大戰會否來臨,但特斯拉執行長馬斯克(Elon Musk)對此有不同想法,他認為從「對人類文明的威脅」的角度來看,人工智慧(AI)發展仍舊是最大的問題。



馬斯克近日在推特發文表示,人類文明存在的風險清單上,北韓的威脅程度應該比較低,在他看來,各國都在竭力爭取 AI 競爭的優勢,才是最有可能導致第三次世界大戰的原因。

許多人認為,馬斯克這系列推特發文,便是在對俄羅斯總統近期的宣言發表評論。

就在日前學生演講時,普丁(Putin)少見的透露了對 AI 發展的想法,他認為 AI 影響的並不只俄羅斯,而是全人類的未來,因為他相信 AI 領域的領導者,也將具有支配這個世界的能力。

因此普丁建議,各個國家應該互相分享關於 AI 的知識,以避免有人獲得壟斷地位,「一旦有人獲得壟斷地位,情況將會變得十分嚴峻。」

那麼從目前的情況看來,究竟會是哪個國家在這場競爭中獲得優勢呢?高知特(Cognizant)的策略負責人 Malcolm Frank 指出,以目前的情況看來,美國、中國、印度在 AI 領域的領先遠遠超乎其他國家。

但馬斯克認為,不論是哪些國家取得領先,其他國家也會用盡一切手段迎頭趕上。「政府並不用遵守一般的法律,他們可以取得任何公司開發的 AI 產品,只要有那個必要。」

這並非馬斯克第一次呼籲政府應該制定 AI 相關法律,來保障公眾安全,在過去很長一段時間,馬斯克一直試圖警告人們關於 AI 發展的危險性,但很顯然的影響力並不夠。

「於是我想說,好吧,看來為了確保 AI 的開發方向不會偏離正途,我們也得投入研究了。」

(Source:shutterstock)

在那之後,馬斯克建立了兩個新企業來減緩他對 AI 發展的「焦慮」,一個是研究人機介面的 Neuralink,另一個則是非營利的研究機構 OpenAI。

在 OpenAI 近期用遊戲訓練的過程中,AI 也確實出現潛在的危險舉動──原先只要得到最高分通過終點就可獲勝的遊戲,AI 卻開始不斷追求得高分,毫無通過終點的意願,甚至願意為了分數與其他玩家碰撞。

為了避免 AI 再度出現這種搞錯重點的情況,OpenAI 目前正在研究如何在演算法裡置入人工干預成分,確保 AI 系統的安全性。

其實不只是 OpenAI,在 AI 技術的快速發展之下,許多團隊都已知人工智慧的安全性問題,並開始進行研究與改良,像是 Google 旗下 DeepMind、Google Brain 和一些大學研究團隊,就都在對此進行相關研究。

(首圖來源:Flickr/Dow Jones Events CC BY 2.0)

延伸閱讀: