為防範 AI 背叛人類,Google、微軟等巨頭要聯手合作

作者 | 發布日期 2016 年 09 月 06 日 5:33 | 分類 手機 follow us in feedly

從《2001 太空漫遊》到《駭客任務》,電影和科幻作家一直都在提醒我們要警惕人工智慧,因為它們隨時都有可能背叛人類甚至毀滅人類。隨著人類在人工智慧領域不斷取得突破,這種擔憂正越來越常被人們提及。



現在,Google 母公司 Alphabet、Facebook、微軟、IBM 和亞馬遜這 5 家在人工智慧領域積極布局的科技巨頭也意識到了這個問題,他們正打算為人工智慧制定一套成熟的道德標準。

pingwest 配圖

根據《紐約時報》的報導,這 5 家公司近期舉行了一場會談,在人工智慧對勞動市場、交通和戰爭等方面的道德倫理標準展開了討論。他們還打算成立一個相關的行業協會,這個協會的目的是確保人工智慧有利於人類而不是傷害人類,但參會者還沒有確定具體的協會名稱。

雖然科技巨頭們都在積極研究人工智慧,但警惕人工智慧統治人類的呼聲也不絕於科技界。例如在今年 6 月份舉辦的 Code Conference 上,特斯拉和 Space X 的創始人艾隆·馬斯克就曾說過,按照人工智慧的發展,未來人類在智力上將被遠遠拋在後面,並淪落為人工智慧的寵物。

2015 年 7 月,馬斯克還資助了未來生命研究所(Future of Life Institute)1,000 萬美元,該機構主要評估和分析人工智慧帶來的風險。

隨後史蒂芬‧霍金也在一場電視節目裡聲稱矽谷某處的一些實驗室正在醞釀一個邪惡的計畫,而人工智慧將會以比人類更快的速度進化,它們的目標是人類無法預測的。

「一旦機器達到了一種可以自我進化的關鍵階段,我們就無法預測它們的使命是否和人類一樣了。」霍金說。

對此,Google 董事長 Eric Schmidt 回應稱,人工智慧將會以人類的福祉為發展方向,而且將會有一個系統來組織人工智慧向不對的方向發展。「我們都看過那些科幻電影。」他說,「但是在現實世界中,人類肯定知道如何在人工智慧變得危險的時候關閉它的系統。」

不僅是科技公司和民間組織想要讓人工智慧在道德和法律上走向正規化,政府機構也參與到了這場討論中。今年 5 月,美國政府在西雅圖舉辦了第一次關於 AI 法律法規的白宮探討會。

本次探討會的主題是「政府應不應該對人工智慧進行管理」,但會議並沒有就此議題得出結論,更不用說有什麼具體的監管措施出爐了。

因此,在政府沒有做出具體的動作之前,科技公司們已經開始行動了──他們決定自己制定框架,讓人工智慧研究能夠進行下去,並確保它不會傷害人類。

參與本次行業討論的微軟研究人員 Eric Horvitz 曾在史丹佛大學創辦過一個叫「人工智慧百年研究」的協會,該協會最近發表了其 2016 年的研究報告。

在這份名為「2030 年的人工智慧與生活」的報告中,作者認為人工智慧「很可能受到監管」。報告稱:「研究組達成的共識是,試圖監管人工智慧的努力常受到誤導,因為我們沒有對人工智慧這一概念的明確定義,因此在不同領域,我們需要考慮不同的風險。」

這份報告還建議政府機構提升對人工智慧的專業認識,並加強在人工智慧領域的公共和私人投資。

一份關於本次會議的備忘錄顯示,這 5 家公司將於 9 月中旬宣布建立監管人工智慧的行業組織。有知情人士表示,Alphabet 的子公司 Google DeepMind 要求以獨立的身分參與此行業協會。

該協會將以全球網路倡議(Global Network Initiative)等人權組織的模式組建,但更加關注言論自由和隱私權問題。

(本文由 PingWest 授權轉載;首圖來源:shutterstock)

延伸閱讀:

發表迴響