美國藥局零售巨頭祕密使用臉部辨識系統達 8 年,重點針對有色人種

作者 | 發布日期 2020 年 08 月 06 日 8:45 | 分類 AI 人工智慧 , 尖端科技 Telegram share ! follow us in feedly


近日路透社公布調查顯示,美國第三大連鎖藥局 Rite Aid 在全美 200 家商店祕密使用臉部辨識系統,大部分用在有色人種居住的低收入社區。

據悉,他們使用此技術超過 8 年,直到最近才停止。

Rite Aid 是美國東海岸最大連鎖藥局,總部位於賓州,全美有約 2,500 家商店,出售處方藥及保健藥品、化妝用品、家庭日用品等多種商品。

三分之一商店並未設置相關標語

Rite Aid 會拍攝並在後台直播每個進入商店的人,創建獨特的臉部輪廓。當顧客走到商店另一部臉部辨識相機前,新圖像就會添加到顧客個資。

當員工看到有人犯罪或有可疑動作時,會在後台搜尋匹配,經過經理批准,才會將此人添加到「可能從事潛在犯罪活動的人」監視名單。

當顧客再次走進使用這項技術的 Rite Aid 商店時,安全監管員將新採集的圖像與「可能從事潛在犯罪活動的人」名單匹配。若匹配成功則會發送警報到安全員手機。相關人員確認無誤後,會要求顧客離開商店。

安全管理人員補充說,10 天後就無法取得圖像,除非此人在商店的行為列入監視名單。

Rite Aid 證實了臉部辨識程式的存在和範圍,並稱使用臉部辨識技術目的是防止竊盜和暴力犯罪,保護員工和顧客免受暴力侵害,不涉及種族歧視。

雖然 Rite Aid 表示會告知顧客,進入商店時有相機掃描臉部並辨識,但調查發現,至少三分之一商店並未設置相關標語。且 Rite Aid 拒絕透露哪些商店設有臉部辨識功能相機。

路透社調查發現,紐約和洛杉磯的 75 家 Rite Aid 商店,有 33 家商店有臉部辨識相機。

臉部辨識相機很容易辨認,通常掛在商店入口附近和化妝品通道的天花板上。大多數長半英尺,呈矩形,標有型號「iHD23」或有供應商首字母「DC」的序號。

75 家商店裡,較貧困地區比高收入地區的商店使用臉部辨識的可能性更高。在黑人和拉丁裔居民等有色人種占比最大的地區,店裡有臉部辨識系統的可能性是其他社區的 3 倍以上。

Rite Aid 聲明表示已關閉所有臉部辨識相機。相關人員稱,「鑑於技術實用性越來越不確定,其他大型科技公司似乎正在縮減或重新考慮臉部辨識投入」。

近年來深受財務虧損困擾的 Rite Aid 並不是唯一採用或嘗試臉部辨識技術的零售商。

2018 年,部分美國零售商成立旨在測試反犯罪技術的聯盟──零售防損研究委員會(Loss Prevention Research Council),將臉部辨識技術視作「有發展前途的新工具」。美國有幾家零售商決定採用臉部辨識技術,此技術可以幫助增加銷量,減少損失。

美國第二大零售商 Home Depot 向路透社表示,在至少一家商店測試臉部辨識能否減少竊賊,但已在 2020 年停止實驗。此外,CNBC 報導顯示,截至 2019 年初,美國知名家裝產品零售公司 Menards 在至少 10 個地點試用臉部辨識系統。沃爾瑪也在少數商店試用。

維吉尼亞州獨立的 7-11 老闆告訴路透社,從 2018 年開始試用軟體,但後來放棄。他們發現這個系統很大程度準確,但對用戶不友善,且維護成本太高。此系統在網路廣告稱月費為 99 美元。

美國政府機構的研究表明,當受試者膚色較深時,臉部辨識演算法更容易出錯。

一位顧客回憶 2016 年 9 月在 Rite Aid 商店被誤認為潛在扒手的經歷。顧客認為因是有色人種才被錯認。

Rite Aid 使用的技術由 DeepCam 提供,稍早使用的則是 FaceFirst 技術。使用過 2 個系統的安全管理人員表示,儘管有時會失誤,但 DeepCam 的匹配更準確。

從 2013 年開始,隨著 Rite Aid 在費城、巴爾的摩等地部署 FaceFirst 技術,發生過嚴重誤辨。

事件發生一週提交給加州消費者事務部的訴狀,受害者在 2016 年 9 月在某 Rite Aid 商店時,一名經理命令他離開。據起訴書稱,這名經理曾收到 2013 年在另一家 Rite Aid 商店拍攝的圖像,顯示受害者偷東西。

但顧客看到經理提供的照片時表示,除了他們都是黑人,兩人長得一點都不像。

「臉部辨識技術絕不能放大歧視與種族不平等」

臉部辨識技術在美國引起高度爭議,因公共和私人部門使用越來越多,包括執法部門和零售商。公民自由倡導者警告說,這可能會導致騷擾無辜個人、任意和歧視性逮捕、侵犯隱私權。

2019 年 5 月,舊金山通過臉部辨識禁用法令,禁止城市工作人員購買和使用臉部辨識技術,成為全球首個禁止臉部辨識的城市。隨後,奧克蘭和薩默維爾市也通過臉部辨識禁令。

舊金山關於監視技術的行政法規《停止祕密監視條例》中,針對臉部辨識技術特別指出,「臉部辨識技術危害公民權利和公民自由的傾向,大大超過聲稱的好處,這項技術將加劇種族不平等,並威脅我們不受政府長期監控的生活能力」。

佛洛伊德事件後,臉部辨識使用爭議再次引發討論,美國多家科技公司公開宣布放棄這項技術。

亞馬遜宣布禁止出售美國警方臉部辨識軟體 Rekognition 一年後,IBM、微軟相繼宣布停止提供美國警方臉部辨識技術,並反對用於大規模監視和種族定性。

儘管承諾細節和條款不同,如亞馬遜、微軟表示暫時停止,IBM 則完全退出臉部辨識技術出售,但這 3 家公司都要求美國華盛頓特區監管技術。

「技術可提高透明度,幫助警察保護社區,但絕不能放大歧視與種族不平等。」IBM 首席執行長克里希納給美國國會議員的公開信講到。

美國公民自由聯盟(ACLU)高級政策分析師傑伊‧史丹利(Jay Stanley)表示,對於監控技術引發的公民自由擔憂,正確的回應是「不要偷偷使用」。

(本文由 雷鋒網 授權轉載;首圖來源:shutterstock)