DeepMind 成立 AI 新部門,欲處理 AI 社會和倫理問題

作者 | 發布日期 2017 年 10 月 07 日 0:00 | 分類 AI 人工智慧 , Google , 網路 follow us in feedly

據外媒 The Verge 報導,近日,Google 旗下 AI 研發公司 DeepMind 宣布成立一個 AI 新部門,主要負責研究 AI 帶來的倫理問題和社會問題,如自動化帶給未來經濟的影響等。



據了解,新部門的主要目標是幫助技術人員將倫理應用於實踐,幫助社會預測 AI 的影響,並對其影響給予引導,確保 AI 造福人類。2016 年,DeepMind 開發的 AI 系統在圍棋棋盤上打敗世界頂尖選手,因而名聲大振。

DeepMind 為新部門命名為 DMES(DeepMind Ethics & Society:倫理和社會)。新部門將於 2018 年開始就這些課題目標去研究。目前,該部門已有 8 名全職員工。不過,按照 DeepMind 的計畫,該部門的員工規模將在一年時間內增至 25 名左右。

為了壯大團隊,DeepMind 還從外部學術機構和慈善機構聘請一些顧問,為新部門提供諮詢服務,包括哥倫比亞大學發展學教授 Jeffrey Sachs、牛津大學 AI 教授 Nick Bostrom、氣候變化活動專家 Christiana Figueres。

DMES 聯合主管 Verity Harding、Sean Legassick 在公告部落格表示,這些專家不只精通專業技術,還可以帶來多樣化的思考。同時,他們還表示,DMES 將幫助 DeepMind 探索和了解 AI 帶給現實世界的影響。「如果 AI 技術要服務於這個社會,那麼,必須經受社會的優先事項和關注重點的重塑。」

據了解,新部門屆時還將與有著類似研究目標的學術團體合作,如紐約大學 AI Now Institute 和劍橋大學未來智慧研究中心(Leverhulme Centre for the Future of Intelligence)等。

事實上,2014 年 DeepMind 被 Google 收購時曾承諾要建立一個「AI 倫理委員會」。與新部門不一樣,該委員會主要用以監管公司所有 AI 研究活動。不過,自收購以來該倫理委員會並沒有多大作為。特別是 2016 年,DeepMind 與英國國民健康服務局(NHS)合作時,受到大眾的大肆批評,這讓其進一步認識 AI 倫理問題的重要性。

2015 年,DeepMind 和倫敦 3 家醫院達成合作,處理其中 160 萬名患者的診療數據。2017 年,該行為被英國數據監督機構判定為非法,因為該公司沒有通知個人他們的數據已被使用。DeepMind 後來表示,他們低估了「NHS 的複雜性和患者資料的規則」,並聘請新的獨立倫理審查員來監督未來任何交易。

雖然 DMES 的成立主要是基於 DeepMind 考慮和重視 AI 帶來的倫理問題,但目前為止,該公司的內部倫理審查員依然籠罩著神祕面紗。據了解,新部門將與 DeepMind 產品部門並行營運。未來,新部門聘請哪些審查員、多久進行一次會議、主要討論哪些要點、又有哪些形式……關於這些問題,只能在未來慢慢尋找答案。

(本文由 雷鋒網 授權轉載;首圖來源:DeepMind) 

關鍵字: , , , ,