機器學習鬧出不好笑的種族笑話,Google 為將黑人標成大猩猩道歉

作者 | 發布日期 2015 年 07 月 02 日 18:39 | 分類 Google , 網路 follow us in feedly
Google-Photo-Android-Play

前陣子 Google 才在五月底時,在 Google I/O 大會宣佈將 Google 相簿從 Google Plus 分離成為獨立服務。但是 Google 相簿的其中一項強大功能-自動標籤功能出問題了。一位電腦程式工程師 Jacky Alciné 在推特上抱怨 Google 相簿的機器學習功能,將他與一位女性朋友的合照,該名女性朋友標為大猩猩了。




Google 的工作人員-Chief Social Architect Yonatan Zunger在批評出現一小時之後,看是那裡出問題,趕緊出面解決苦主的問題。Google 調整演算法解決誤判問題,但仍然有誤判,仍有兩張照片被錯誤標成大猩猩。最後 Google 團隊解決了 Jacky 的問題,不再有人被誤認成大猩猩。不過問題只是暫時解決,Google 相簿團隊仍在努力找尋終極解決方式,希望能徹底解決臉部是暗色系肌膚的照片,被誤判的狀況。

2015-07-02-diri noir avec banan on Twitter-Google Photos

這不是 Google 相簿第一次出問題。Yonatan 在推特討論串提到他們先前曾發生類似問題。Google 相簿曾將照片中的人臉全部辨識成小狗了。

這次出錯的功能是 Google 相簿的智慧搜尋功能,只要使用者輸入像是「飛機」等字眼,演算法會自動找出畫面中有飛機的照片。或者輸入某一個時間區間,則會自動將那段時間照片歸檔。

Google 相簿這次出包,與 Google 推出產品的習慣有關。Google 常常將仍在 beta 階段的產品釋出,直接面對消費者,常常有一堆 bug,研發團隊趕緊一一修復。Google 相簿依賴的技術-機器學習,有時候沒辦法 100% 確定能夠辨識照片中的物品,有時候會需要猜測,也就造成誤認黑人女性為大猩猩的爭議。這次事件還挑動美國敏感的種族神經,讓事情更加複雜化。

2015-07-02-Google-photo-search-car

▲ 筆者搜尋汽車,結果發現混了奇怪的東西,像是樂高推出的黑武士 LED 燈、路牌以及郵筒。

類似的爭議也在其他家運用機器學習技術的網站,像是 Flickr 曾把二戰集中營辨識成運動中心,將黑人辨識為猩猩。

看來即使是號稱人工智慧和機器學習領導廠商的 Google,仍然有出大紕漏的時候。Google 相簿號稱的強大功能,需要研發團隊好好努力調校演算法了。

(首圖來源:Google Play 截圖)

發表迴響