亞馬遜發現招聘用人工智慧系統歧視女性,決定棄用

作者 | 發布日期 2018 年 10 月 15 日 8:15 | 分類 AI 人工智慧 , Amazon , 人力資源 follow us in feedly

人工智慧系統雖然方便,但運作方式是根據輸入數據來學習,因此一直有研究指出這些系統未必能免除偏見。最近亞馬遜(Amazon)就宣布棄用對女性有歧視問題的招聘用人工智慧系統。



Amazon 的機器學習團隊自 2014 年以來,就在開發用來審核應徵者履歷表的自動化系統,讓尋找合適人選更簡單。有這樣的系統對已相當自動化的 Amazon 而言並不令人意外。這個系統可為應徵者自動打分數,從一星到五星,就像 Amazon 平台商品,讓人事部快速篩選不合適的人。據消息人士透露,Amazon 原先的目標是要利用人工智慧系統把招聘過程盡量自動化,放入 100 個履歷表後,就自動提供 5 個最合適的人選聘用。

不過這個系統 2015 年被發現分析軟體開發者和其他技術職位的應徵者時,會出現性別偏見。造成這問題的原因,是 Amazon 投入的數據來自 10 年來的聘用紀錄,由於大部分獲聘的都是男性,造成系統直接反映此情況,即履歷表出現「女性」一詞會扣分。雖然 Amazon 嘗試改變系統以減少偏見,但無法確保問題不再出現。

結果去年 Amazon 就棄用這個實驗性系統。Amazon 指,這個系統從來不是決定招聘與否的主要準則。這次事件也證明,要完全去除人工智慧系統對性別和種族的偏見,可能比想像中複雜。

(本文由 Unwire Pro 授權轉載;首圖來源:shutterstock)

關鍵字: , , ,