Google AI 七項原則發表一年,AI 業務掌門人傑夫‧迪恩談技術與道德的距離

作者 | 發布日期 2019 年 07 月 15 日 7:45 | 分類 AI 人工智慧 , Google , 開放資料 follow us in feedly


從 DeepFake 的 AI 換臉風波,到 DeepNude 的「一鍵脫衣」,越來越多人意識到人工智慧技術被濫用的陰暗面,察覺這些技術與惡的距離。

近日,Google AI 業務負責人傑夫‧迪恩(Jeff Dean)在亞太地區的公開活動,講述這些年來 Google 利用人工智慧和機器學習技術做了哪些造福社會的事,並再次談到對人工智慧技術應用的原則和底線。

這距離 2018 年 6 月,Google CEO 桑達爾‧皮查伊(Sundar Pichai)宣布使用人工智慧的 7 項原則以及 4 條底線,也過去一年了。

基於道德原則,超過 100 個計畫被審查

迪恩展示印度學生團隊使用開源機器學習框架 TensorFlow 開發的空氣品質監測 App。

App 藉助 TensorFlow Lite 及機器學習模型,用戶只需拍一張空氣照片就可以得到當地的即時空氣品質。

▲ 迪恩放了自己幾十年前的懷舊畢業照。

相比之下,迪恩表示,30 年前自己的畢業論文就是與神經網路訓練有關,直到如今,機器學習相關技術才逐漸廣泛應用。他認為導致變化的重要原因是硬體進步。

▲ 迪恩認為硬體進步是人工智慧技術廣泛使用的原因。

目前 Google 在人工智慧領域大部分業務聚焦在機器學習。透過輸入像素、音檔、文字檔等資料,電腦已可做到「看、聽、說、理解」。

Google 在人工智慧技術的道德規則,主要體現在 7 項原則及 4 條底線。

人工智慧應該遵守的 7 項原則:

  1. 對社會有益。
  2. 避免製造或加深不公平偏見。
  3. 開發時測試以確保安全。
  4. 對人類負責。
  5. 隱私原則。
  6. 堅守對卓越科學的追求。
  7. 使用時考慮首要用途、技術的特徴及適用性、使用規模 3 個因素。

4 條底線是:

  1. 對將產生或導致傷害的整體性技術,我們會確保利大於弊,並做好確保安全的相關限制。
  2. 不會將 AI 用於製造武器及其他將會對人類產生傷害的產品。
  3. 不會將 AI 用於收集或使用用戶資訊,以進行違反國際公認規則的監視。
  4. 不會將 AI 用於違反國際法和人權的技術開發。

迪恩早期曾大幅提高 Google 搜尋的品質,後續是 Google Brain 業務的負責人,並在 2018 年開始掌舵 Google AI 業務。除了有一大堆「Jeff Dean 有多神奇」的事跡,他也是地球上在人工智慧領域最有影響力的人物之一。

身為 Google AI 掌門人,迪恩表示基於這套原則,已審查超過 100 個計畫,並培訓數千名 Google 員工關於機器學習的公平性。

用戶隱私安全方面,迪恩提及自家「Federated Learning」,這項技術會將初始資料保留在終端,並建立資料庫。Android 手機的 Gboard 鍵盤應用,就使用了這技術。

我們相信,人工智慧可幫助解決這個時代最困難的社會和環境問題──如醫療、災害預測、環境保護、農業或文化保護。

迪恩認為,讓人工智慧技術更公平公正,不僅需要看到技術對現階段的影響,還要考慮對未來的影響。

為了讓技術服務人類,Google 還開始「AI for Social Good」專案,點關注「科研與工程」(Research & Engineering)、「幫助他人解決重要問題」(Empower)。

Google 的 AI 能力,解決了哪些社會問題?

Google 的 AI 能力已融入搜尋、信箱、輸入法等產品的角落,同時也在醫療、農業、環保等不同領域發揮作用。

這次 Google 展示多個計畫,以及 4 個透過 TensorFlow 藉助 Google AI 能力,在保護熱帶雨林、垃圾分類、偵測農作物蟲害、轉錄古代文獻等方面有貢獻的外界計畫。

▲ 洪水預測模型示意圖。

準確率高達 75% 的洪水預測模型,是 Google 今年初公布的新成果。這個模型建立在相當有限的資料量上,也使用早期預測地震餘震、衛星影像、量化火災等研究基礎。

有效的災害預警可大幅降低人員傷亡和財產損失,洪水預警模型將進入 Google 的公用警報程式,在搜尋、地圖、新聞等產品預警用戶。

Google Health 產品經理 Lily Peng 講述人工智慧在肺癌篩檢、移轉性乳腺癌、糖尿病眼底檢查這 3 個領域取得的成就。

肺癌是最常見的癌症之一,占全球死亡率 3%。Google 目前建立的機器學習模型,透過分析 CT 掃描結果,預測病患的肺部惡性腫瘤。

結果顯示,Google 現有模型偵測到的肺癌病例,比放射科醫生增加 5%,同時減少 11% 以上假陽性病例。

用於偵測乳腺癌病人淋巴結切片的模型,已能發現 95% 癌症病變,高於專業病理學家 73% 偵測率。

眼底病變檢查也已在印度等國家投入使用。

科技公司的新一輪技術競賽,重點之一就是健康醫療領域,Google 則是將 AI 技術的優勢與醫學影像結合。

另外,Google 與美國國家海洋和大氣管理局(NOAA)共同研究瀕危物種座頭鯨,處理分析 19 年來收集的音軌資料,目前已可做到從海洋雜訊辨識座頭鯨的叫聲,製作鯨魚活動的軌跡地圖。

產品經理 Sagar Savla 講述 Live Transcribe 透過語音辨識(Speech Recognition),為聽障人士提供超過 70 種語言的即時自動轉錄對話功能。

Euphonia 計畫也正在構建語音辨識模型,幫助因殘障、疾病有語言障礙的患者,讓機器理解他們說話的方式,用語音幫這些患者「說話溝通」。

Google 曾以「Impact Challenge」計畫,向全球徵集使用 AI 幫助解決社會問題的方案。

其中印尼 Gringgo Indonesia 基金開發了拍照就能辨識可回收垃圾的應用,其中一個特點就是會在每個辨識出的垃圾上,標出回收後的價值。

除了印尼朋友需要這個應用,中國尤其上海及後續 45 個開始垃圾分類的城市,也對這類應用有強烈需求。

▲ Rainforest Connection。

Rainforest Connection 計畫也入選「Impact Challenge」名單。創始人 Topher White 從 5 年前開始,將舊手機改造成熱帶雨林「千里耳」,監測伐木車和電鋸的聲音,提早警告護林員。近年已開始使用 TensorFlow 更深入分析音訊資料。

此外,還有一個印度的研究所正在構建 AI 模型,用於自動偵測和計算農作物的病蟲害數量。這個應用讓印度棉花農民透過手機拍照,辨識出害蟲,進而控制農藥使用量。

日本學者 Tarin Clanuwat 博士訓練了一個模型以辨識日本古籍的草書,並將這些字元轉錄為現代日語。據悉這個模型能偵測約 2,300 字元,平均準確率為 85%。

上面這些無論 Google 正在研發的計畫,還是外界利用 Google AI 能力的計畫,都離不開 TensorFlow。

TensorFlow 為全球影響力最大的機器學習開源平台之一,目前擁有超過 4,100 萬下載量。

(本文由 愛范兒 授權轉載)