300 多位學者聯名上書、多名員工離職,會讓 Google 停止與美國國防部合作嗎?

作者 | 發布日期 2018 年 05 月 15 日 16:45 | 分類 AI 人工智慧 , Amazon , Facebook follow us in feedly

對 Alphabet 或 Google 管理層來說,不得不考慮的嚴重問題是:該如何處理已與美國國防部在 Project Maven 達成的合作關係。



Google 食言了?

Project Maven 是美國軍方 2017 4 月主導建立的專案,也稱為演算法戰跨職能團隊(AWCFT)。Maven 的工作是「加速國防部整合大數據和機器學習技術」。據該中心助理研究員 Greg Allen 介紹,首要工作是幫助軍方有效處理空中無人機每天收集的大量影片。

按照美國國防部的計畫,Project Maven 成立 6 個月就可以執行;為了滿足迫切時間要求,國防部依靠自身顯然不夠,於是轉而尋求學界和業界的人工智慧專家合作,以彌補軍方和矽谷之間的技術差距。根據總監 John Shanahan 的說法,Maven 將為整個國防部點燃「人工智慧的火焰前線」。

據報導,自 2017 12 月以來,Maven 已部署至與伊斯蘭國的對抗。

外界普遍認為,身為 TensorFlow 開發者,Google 有參與合作,不僅為國防部提供機器學習應用的 TensorFlow API 介面,還動用工程師資源提供幫助。這合作今年稍早候曝光之後,引起大量爭議,許多 Google 員工表達抗議。

2017 年秋天,還擔任 Alphabet 董事長的 Eric Schmidt 在一次談話說起科技圈與軍方合作的擔憂。「技術社群普遍擔心軍事和產業結合,會用做不正當殺人武器。」同樣也是國防創新委員會成員的他補充,「我不會在軍隊提供 Alphabet 的東西」。

不過隨著 Eric Schmidt 2018 年初卸任 Alphabet 董事長,Google 似乎食言了。不少媒體認為,為了爭取國防部雲計算業務的訂單,Google 參與了國防部 Project Maven;儘管 Google 已宣稱與軍方的合作和戰爭沒有關係,但還是引起員工和業界關注。

這事件持續發酵,目前最新動向是:大約有 12 Google 員工要離職,以表達抗議。

Google 員工聯名信和辭職

據外媒 Gizmodo 報導,讓這些離職 Google 員工感到沮喪的,不僅是人工智慧在戰爭無人機使用的倫理問題,還有 Google 的政治選擇及對用戶信任的影響。許多人已在一份內部檔案表達了將離職的決定,這份檔案也在 Google 內部分享。

不過,究竟這些人辭職會不會對 Google 管理層造成影響,是值得討論的問題。

早在 2018 4 月初,大約有 3,100 多名 Google 員工簽名,向 CEO Sundar Pichai 提交一封信,要求立即取消參與 Project Maven,並要求 Google 起草並公開清楚的政策:Google 和合作方不會開發用於戰爭的技術。

這些員工在信中表示:

Google Project Maven 的相關參與計畫將不可挽回地毀滅 Google 的品牌和吸納人才的能力。越來越多 AI 可能偏激化和武器化的恐懼中,Google 爭取公眾信任方面顯得力不從心……這協定將使 Google 聲譽面臨威脅,並使 Google 站在核心價值觀的對立面。

這些員工的痛心疾首似乎沒能對 Google 的決定造成什麼影響。Gizmodo 報導稱,Google 並沒有停止 Project Maven 的工作,並被外界認為是美國國防部的雲端計算工程──The Joint Enterprise Defense Infrastructure──競標者之一。也就是說,Google 之所以堅持參與國防部計畫,可能是為了爭取雲端計算方面的相關利益。

不過,這事件的複雜之處在於:Google 之前聲明只是為 Project Maven 提供一些開源軟體。既然是開源軟體,那麼即使 Google 不參與,國防部照樣可以自行下載使用,並用於軍事。

另外,Google 參與 Project Maven 的消息曝光初期,Google 一位發言人曾表示公司正在起草一份關於機器學習使用政策和防護安全措施,但據知情人士了解,起草還未開始。

更大的輿論壓力

如果說,內部員工的聯名信和辭職抗議不足以讓 Google 管理層考慮改變決定,Google 本次還面臨更大的外界輿論壓力。

2018 4 19 日,就在 Google 員工發出聯名信半個月之後,來自 GoogleAmazonMicrosoft IBM 等科技公司的員工發表一封聯合請願信,稱科技公司不應該參與與戰爭有關的商業,因此 Google 應該中止與美國國防部的合作。

不僅如此,GoogleAmazonIBM Microsoft 等科技公司嘗試與美國國防部達成的商業協定將失去用戶信任,科技公司擁有大量用戶敏感資料,不應該參與某國的軍事活動。雖然並不完全是指 Google,但考慮到 Google 在人工智慧領域的地位及爭議,毫無疑問首當其衝。

這還不夠,Google 員工的抗議和上述科技公司員工的請願得到人工智慧學界、電腦學界和倫理學界專家學者的支持。

5 15 日,國際機器人武器控制委員會(ICRAC)向 Alphabet CEO Larry PageGoogle CEO Sundar Pichai、Google Cloud CEO Diane Greene Google Cloud 首席科學家李飛飛發出一封公開信,再次要求 Google 停止與國防部的 Project Maven 合作,承諾不開發軍事科技,並保證不將搜集的個人資料用於軍事行動。

另外,這封信還呼籲 Google 宣誓不會參與或支持自動武器開發、製造、貿易和使用,並支持禁止自動武器。

到目前為止,已有 364 名專家學者聯署,且數量還在不斷增加。

隨著內部和外部輿論壓力增加,Google 和 Alphabet 陷入某種腹背受敵的道德和輿論困境,這可能是比失去國防部訂單後果更嚴重的困境,甚至會引發嚴重的信任危機。可以想見,Google 將不得不回應;但這並不意味著 Google 會完全聽從輿論,停止與美國國防部 Project Maven 的合作。

至於人工智慧技術在道德和倫理面臨的困境,恐怕不是 Google 一家公司的問題,也不僅是 IBMAmazonMicrosoft 等相關廠商的問題,這將無可避免地成為整個人工智慧時代的長期性爭議。

(本文由 雷鋒網 授權轉載;首圖來源:達志影像)

延伸閱讀: