Facebook AI 系統大出包!竟把黑人誤標註為「靈長類動物」

作者 | 發布日期 2021 年 09 月 06 日 14:44 | 分類 AI 人工智慧 , Facebook Telegram share ! follow us in feedly


Facebook 的 AI 系統出現離譜失誤!根據《紐約時報》報導,Facebook 系統竟然誤將黑人男子辨識成「靈長類動物」,Facebook 已經道歉並禁用主題推薦功能。

英國小報《每日郵報》(Daily Mail)2020 年 6 月 27 日上傳一支影片,關於幾名黑人、白人以及警察發生爭執的內容,但 Facebook 系統卻自動詢問是否「繼續觀看有關靈長類的影片?」

Facebook 發言人表示,「這顯然是無法令人接受的錯誤」,在意識到發生什麼事情後,公司立即禁止主題推薦功能,並調查原因,防止這種行為再次發生,「雖然我們已經對 AI 系統進行改進,也知道它並不完美,還有很多進步空間必須改進,也想向那些可能看到冒犯建議的人道歉」。

雖然人類的確可以說是「靈長類動物」,但這起事件的確是 AI 性別或種族偏見的最新例子,根據最近的研究顯示,臉部辨識技術可能對有色人種產生偏見,通常更難辨識他們,或者辨認時更常出包,這也導致黑人受到歧視或逮捕的事件頻傳。

2015 年,Google Photos 曾把黑人的照片標籤為「大猩猩」,Google 表示非常抱歉,也立即修復這個問題;由微軟與 Bing 開發的人工智慧聊天機器人 Tay,在與上萬名網友互動、演化後,開始出現種族歧視的言論,或者發文歧視黑人、墨西哥人等,最終被迫下線;Facebook 去年則研究使用 AI 訓練的演算法,看是否存在種族偏見。

(首圖來源:Flickr/Book Catalog CC BY 2.0)