海外 AI 圈鬧翻天了!Google 黑人女性 AI 倫理研究員「被離職」引發軒然大波

作者 | 發布日期 2020 年 12 月 07 日 14:09 | 分類 AI 人工智慧 , Google , 人力資源 Telegram share ! follow us in feedly


Google 惹上麻煩了。

12 月 6 日,Google 「倫理人工智慧團隊」(Ethical AI Team)的技術聯合負責人 Timnit Gebru 在個人 Twitter 推文稱:「我突然被 Google 人工智慧負責人 Jeff Dean 開除,個人公司帳戶也被公司關閉。」

她表示,解雇原因是她寄信給 Google Brain)同事,內容涉及 AI 倫理,批評 Google 不負責任的多樣性、公平性和包容性 AI 運作。她的上司 Jeff Dean 對此火速處理,只用一封信就開除她。

此事立刻引起網友熱議,眾多 Google 員工和學術界科學家都紛紛站台支持 Timnit Gebru。包括由 Google 現任及前員工聯合創立的「 Google Walkout For Real Change」組織,已在 Blog 發起連署運動,以示對 Timnit Gebru 的支持:

截至發稿,已有 1,200 多名 Google 員工和 1,500 多名學術界簽署請願書,要求復職 Gebru。

歧視女性人權?Jeff Dean 表示不背鍋

先來認識一下事件主人公。

Timnit Gebru 是 Google 頂尖人工智慧研究人員,致力於解決人工智慧演算法的偏見問題,同時還從事數據挖掘領域工作。

(Source:TechCrunch, CC BY 2.0, via Wikimedia Commons)

同時她也是著名的技術多樣性倡導者,並聯合創立名為「Black in AI 」的黑人研究人員社群。她一直直言批評科技公司對待黑人員工的方式。甚至她曾與 LeCun 發生爭執,在 AI 圈小有名氣。

美國時間 12 月 3 日晚上,Google Ethical AI 團隊聯合負責人 Timnit Gebru 發推表示被 Google AI 負責人 Jeff Dean 火速開除。

到底是因為什麼 Timnit Gebru 被開除?

根據 Reddit 爆出的 Gebru 與 Dean 信件,事件起因是 Gebru 想發表論文,但被 Google 內部否決、要求撤稿,Gebru 嘗試溝通無果,控訴 Google 不尊重邊緣族群的人權。

(Source:Reddit

郵件談到,Gebru 近日在寫之前由 Katherine 和 Daphne 撰寫的論文。

她們寫論文時,發現一個令人失望的現象:Google 過去一年解雇約 14% 女性員工。Gebru 進一步了解,解雇 14% 女性同時,Samy 又增聘 39% 能力不太出色的員工。

基於數據懸殊,Gebru 建議 Google 女性:停止手邊的工作,因為她們的工作並不為人重視。

同時近期關於黑人的調查,Gebru 也發現群體間瀰漫的憤怒情緒,但只能如往常保持沉默。所以在 Gebru 看來,她的論文被否定也是原因一部分。

信件結尾,Gebru 呼籲 Google 女性群體向領導層反應,並思考如何施加外部壓力,如寫信給 Congressional Black Caucus 等組織。

Jeff Dean 很快回應:並沒有歧視女性的原因。

不合格的原因是這篇論文忽略太多相關研究,如論文討論大模型對環境的影響,卻忽略其他研究顯示的大模型更優秀的性能。論文挑起語言模型偏見性的憂慮,卻沒有考慮近期減輕環境負擔的研究。

Jeff Dean 信件表示,並沒有執意開除 Gebru,只是尊重她本人的決定。

Jeff Dean 提到,對 Gebru 的論文提出意見後,Gebru 也有回信,內容是讓她提交一些資訊,包括論文評審內容、每個人的身分及其他確切回饋。Gebru 表示如果不滿足她的要求,她就會離開 Google 並停止相關工作。我們接受並尊重她的決定。

儘管如此,網友對此回應似乎依舊不相信。

一個重要原因是 Gebru 女性黑人的特殊身分。

2016 年 AI Now Institute 的報告發現,Google AI 研究人員有 10% 是女性。Google 的 2020 年多元化報告顯示,約有三分之一 Google 員工為女性,3.7% 為非裔美國人,5.9% 為拉丁裔,0.8% 為美洲印第安人。

Google 員工和科學家發起聲援 Gebru 活動

以上眾多因素影響下,吃瓜群眾似乎不在乎孰對孰錯的問題,轉而關注更多人權及種族主義等更嚴重的問題。

事件持續發酵後,引起 Google 員工和科學家高度重視,不少科學家紛紛轉發新聞並表態支持 Gebru。

包括由 Google 現任及前員工聯合創立的「 Google Walkout For Real Change」組織,在 Blog 發起了連署運動,以示對 Timnit Gebru 的支持。

(Source:Google Walkout For Real Change

不僅如此,此組織還向 Google 高層提出以下要求:

  • 要求 Jeff Dean 和 Megan Kacholia 以及其他參與審閱論文的人員解釋拒絕發表的原因。
  • 要求更多公眾參與,需要社會問責,確保未來 Google 的研究還值得信任。
  • 要求 Google 承諾誠信研究和學術自由,支持促進實施 Google 人工智慧原則的研究。

截至發稿,有 1,200 多名 Google 員工和 1,500 多名學術界人士向 Google 發起挑戰。

從 2018 年至今,此組織已在 Google 內部進行多次大規模的抗議活動,並取得很多場勝利,包括迫使 Google 放棄中國特供版搜尋引擎,即「Dragonfly 專案」;對 Android 之父性騷擾事件處理結果不滿,舉行大罷工等等。

另外 2 日美國國家勞資關係委員會(National Labor Relations Board)指控 Google,稱 Google 監視員工,阻止員工分享對工作的不滿,甚至報復員工。這也同樣引起此組織的關注。

問題來了,這次 Google 會妥協嗎?

(本文由 雷鋒網 授權轉載;首圖來源:shutterstock)