Google AI 工具禁止性別特定代名詞,減少偏見風險

作者 | 發布日期 2018 年 11 月 29 日 8:15 | 分類 AI 人工智慧 , Google follow us in feedly

AI 經過大量數據輸入做深度學習之後,出現性別或種族歧視的問題,最近受到科技界關注,並推出不同的方法來避免問題發生。Google 就為了減少偏見風險,在新的 AI 工具禁止使用性別特定代名詞。



這次改動的 AI 工具,是 Gmail 內的自動完成功能。透過自動完成功能,使用者輸入文字時,系統會預測使用者下一句輸入的句子,進而快速完成郵件。不過 Google 發現,系統會自動使用男性代名詞(Him、He 等)來完成句子,例如輸入「我下星期會跟投資者見面」時,系統會建議「你要不要一起去見他(Him)?」顯示對性別的偏見。

有鑑於此,現在 Google 在這工具禁止一切性別代名詞,改用中性代名詞甚至其他表達方式。雖然看起來並非大變化,不過政治正確對歐美商家而言相當重要,科技界也因此非常重視這個問題。自動輸入的代名詞問題可能影響較小,不過如人臉辨識或求職資料分析等,性別和種族偏見就帶來很大問題。

Google 表示,目前要避免風險,就只能趨於保守,即使使用者可能發現功能表現不太理想,也總比給予錯誤的建議好。

(本文由 Unwire Pro 授權轉載;首圖來源:pixabay