海外 AI 圈鬧翻天了！Google 黑人女性 AI 倫理研究員「被離職」引發軒然大波

Google 惹上麻煩了。

12 月 6 日，Google 「倫理人工智慧團隊」（Ethical AI Team）的技術聯合負責人 Timnit Gebru 在個人 Twitter 推文稱：「我突然被 Google 人工智慧負責人 Jeff Dean 開除，個人公司帳戶也被公司關閉。」

她表示，解雇原因是她寄信給 Google Brain）同事，內容涉及 AI 倫理，批評 Google 不負責任的多樣性、公平性和包容性 AI 運作。她的上司 Jeff Dean 對此火速處理，只用一封信就開除她。

此事立刻引起網友熱議，眾多 Google 員工和學術界科學家都紛紛站台支持 Timnit Gebru。包括由 Google 現任及前員工聯合創立的「 Google Walkout For Real Change」組織，已在 Blog 發起連署運動，以示對 Timnit Gebru 的支持：

We stand with @timnitGebru. We call on Google Research to strengthen its commitment to research integrity and to unequivocally commit to supporting research that honors the commitments made in Google’s AI Principles. Sign the letter: https://t.co/hf91oDZ0Ew

— Google Walkout For Real Change (@GoogleWalkout) December 4, 2020

截至發稿，已有 1,200 多名 Google 員工和 1,500 多名學術界簽署請願書，要求復職 Gebru。

歧視女性人權？Jeff Dean 表示不背鍋

先來認識一下事件主人公。

Timnit Gebru 是 Google 頂尖人工智慧研究人員，致力於解決人工智慧演算法的偏見問題，同時還從事數據挖掘領域工作。

（Source：TechCrunch, CC BY 2.0, via Wikimedia Commons）

同時她也是著名的技術多樣性倡導者，並聯合創立名為「Black in AI 」的黑人研究人員社群。她一直直言批評科技公司對待黑人員工的方式。甚至她曾與 LeCun 發生爭執，在 AI 圈小有名氣。

美國時間 12 月 3 日晚上，Google Ethical AI 團隊聯合負責人 Timnit Gebru 發推表示被 Google AI 負責人 Jeff Dean 火速開除。

到底是因為什麼 Timnit Gebru 被開除？

根據 Reddit 爆出的 Gebru 與 Dean 信件，事件起因是 Gebru 想發表論文，但被 Google 內部否決、要求撤稿，Gebru 嘗試溝通無果，控訴 Google 不尊重邊緣族群的人權。

（Source：Reddit）

郵件談到，Gebru 近日在寫之前由 Katherine 和 Daphne 撰寫的論文。

她們寫論文時，發現一個令人失望的現象：Google 過去一年解雇約 14% 女性員工。Gebru 進一步了解，解雇 14% 女性同時，Samy 又增聘 39% 能力不太出色的員工。

基於數據懸殊，Gebru 建議 Google 女性：停止手邊的工作，因為她們的工作並不為人重視。

同時近期關於黑人的調查，Gebru 也發現群體間瀰漫的憤怒情緒，但只能如往常保持沉默。所以在 Gebru 看來，她的論文被否定也是原因一部分。

信件結尾，Gebru 呼籲 Google 女性群體向領導層反應，並思考如何施加外部壓力，如寫信給 Congressional Black Caucus 等組織。

Apparently my manager’s manager sent an email my direct reports saying she accepted my resignation. I hadn’t resigned—I had asked for simple conditions first and said I would respond when I’m back from vacation. But I guess she decided for me 🙂 that’s the lawyer speak.

— Timnit Gebru (@timnitGebru) December 3, 2020

Jeff Dean 很快回應：並沒有歧視女性的原因。

不合格的原因是這篇論文忽略太多相關研究，如論文討論大模型對環境的影響，卻忽略其他研究顯示的大模型更優秀的性能。論文挑起語言模型偏見性的憂慮，卻沒有考慮近期減輕環境負擔的研究。

I understand the concern over Timnit’s resignation from Google. She’s done a great deal to move the field forward with her research. I wanted to share the email I sent to Google Research and some thoughts on our research process.https://t.co/djUGdYwNMb

— Jeff Dean (@?) (@JeffDean) December 4, 2020

Jeff Dean 信件表示，並沒有執意開除 Gebru，只是尊重她本人的決定。

Jeff Dean 提到，對 Gebru 的論文提出意見後，Gebru 也有回信，內容是讓她提交一些資訊，包括論文評審內容、每個人的身分及其他確切回饋。Gebru 表示如果不滿足她的要求，她就會離開 Google 並停止相關工作。我們接受並尊重她的決定。

儘管如此，網友對此回應似乎依舊不相信。

一個重要原因是 Gebru 女性黑人的特殊身分。

2016 年 AI Now Institute 的報告發現，Google AI 研究人員有 10% 是女性。Google 的 2020 年多元化報告顯示，約有三分之一 Google 員工為女性，3.7% 為非裔美國人，5.9% 為拉丁裔，0.8% 為美洲印第安人。