美國政府研究確認臉部辨識技術有偏見

作者 | 發布日期 2019 年 12 月 31 日 7:30 | 分類 AI 人工智慧 , 尖端科技 Telegram share ! follow us in feedly


臉部辨識技術雖然有不少應用場景,但普及時也引起愈來愈多爭議,特別是用以執法時的偏見問題。最近美國政府委託公營機構研究,確認此技術確實會有偏見問題。

美國政府委託國家標準暨技術研究院研究了臉部辨識技術,主要針對執法機構在刑事調查時會用到的「單對單」配對應用,結果發現辨識非裔和亞裔容貌時的誤判率,是辨識白人容貌的 10~100 倍。其中非裔女性誤判率最高,如果用做執法,可能會導致這些族群的人備受困擾。

NIST 測試來自 99 個開發者的 189 個演算法,得出的結果自然引起關注。報告中有含中國商湯科技的演算法,被點名批評誤判率在所有配對中相當高,例如判斷索馬里人的時候誤判超過 10%。不過商湯科技堅持這是個別案例,問題已經修復,測試無法反應產品表現。

演算法正義聯盟(Algorithmic Justice League)創辦人 Joy Buolamwini 表示,這次報告是對堅持人工智慧沒有偏見之人的全面反擊,認為需要正視這個問題。

(本文由 Unwire Pro 授權轉載;首圖來源:shutterstock)