亞馬遜無限期禁止警察使用人臉辨識系統 Rekognition

作者 | 發布日期 2021 年 05 月 19 日 18:05 | 分類 AI 人工智慧 , Amazon , 資訊安全 Telegram share ! follow us in feedly


去年,當喬治・佛洛伊德事件發生後,亞馬遜馬上宣布,停止授權全美警察使用自家開發的 Rekognition 人臉辨識系統,直到執法單位能夠提出有效防止執法過當的措施為止。但一年過去了,情況改善有限,因此亞馬遜 18 日宣布將無限期停止警方使用這套系統。

Rekognition 系統推出後,美國許多執法單位向亞馬遜購買這套系統,用來進行嫌疑犯的追蹤。但人臉辨識系統自 2016 年出現之後,便在各國引發相當大的爭議。主要問題在於,許多設計系統的新創公司,對於人臉資料庫的搜集來源並非合法。

例如 2020 年美國的 Clearview AI 公司,就是利用掃描 Facebook、YouTube 等數百萬個網站的人臉,建構超過 30 億張臉部影像,提供給執法單位辦案,而被多家科技企業告上法院。並且還被駭客盯上,資料庫遭駭入,大量個人資料因此外洩。

使用 AI 進行辨識的系統,也容易有辨識錯誤的問題,尤其針對有色人種的辨識錯誤率,更是比白人高上數倍。美國每年都會有數起因為 AI 辨識錯誤,而被關入監獄的無辜案例。

尤其到了去年五月,發生佛洛伊德事件後,針對警察暴力的示威暴動席捲全美,因此亞馬遜馬上在 6 月初宣布,將暫緩警方使用 Rekognition 系統一年,直到國會通過人臉辨識系統的相關法律。

▲ 2020 年 5 月 25 日在明尼蘇達州,遭警察用膝蓋壓制頸部死亡的 George Floyd。(Source:George Floyd

但一年時間過去了,除了少數幾個州議會自行通過的禁令之外,美國國會仍然沒有通過任何的人臉辨識相關規定。因此,Amazon 決定將無限期延長限制警方使用這套系統。

美國民間組織「公民解放聯盟」(American Civil Liberation Union,ACLU),長期批評執法單位使用人臉辨識系統,侵害人民的隱私權甚至人身安全。在得知 Amazon 的這項決定後,表示歡迎。

「現在拜登政府和國會就必須得好好考慮,不管是哪家公司,推出多好的系統,都應該徹底禁止執法單位使用這種技術,才能確保美國人民不被警察濫權威脅」,ACLU 「言論、隱私與科技」計畫副主任 Nathan Freed Wessler 表示。

▲ ACLU 「言論、隱私與科技」計劃副主任 Nathan Freed Wessler。(Source:Nathan Freed Wessler

台灣警方目前尚未使用 AI 人臉辨識系統進行調查工作,但 2019 年台北市政府,及台鐵公司,皆一度考慮使用人臉辨識系統,隨即引發大量爭議而作罷。因此這種技術的未來,還需要世界各國政府,與社會間更多的討論。

(首圖來源:亞馬遜