挑戰業界底線?大華監控攝影機被指在西方市場推銷膚色分析

作者 | 發布日期 2023 年 08 月 04 日 8:20 | 分類 AI 人工智慧 , 中國觀察 , 生物科技 line share follow us in feedly line share
挑戰業界底線?大華監控攝影機被指在西方市場推銷膚色分析


美國監控技術業研究機構說,中國大華公司承認監控鏡頭產品自帶「膚色分析」功能,並銷售產品至歐洲,引發人權運動人士的擔憂。

大華歐洲銷售監控鏡頭可辨識膚色

總部設在美國的監視器技術業研究機構IPVM本週報告,指中國監視鏡頭生產商大華在歐洲銷售幾款監視器含膚色辨識分析功能。

IPMV給美國之音的報告顯示,大華智慧物聯綜合管理平台(ICC平台)應用程式設計介面(API)人體特徵指引包括膚色類。大華產品平台「數據字典」,膚色屬性有黃、黑、白和未辨識四種定義。報告還說,大華中國市場推廣智慧園區解決方案產品,人員布控類也提到膚色。

▲ 大華「ICC開放平台」膚色分析功能介紹。

報告作者之一、IPVM調查記者查理斯·羅萊(Charles Rollet)解釋:「影片分析是如果開啟功能,鏡頭會自動辨識行人膚色,只要鏡頭有拍到。這代表鏡頭會猜測或試圖確定這些人……皮膚是黑白或黃色。」

有膚色監控分析功能的大華監視攝影機有在德國、法國和荷蘭銷售。

IPMV:大華不再否認

大華承認產品有膚色分析功能,甚至表示這是監控領域的基本功能。IPMV認為大華以前長期否認,現在態度轉變。

大華給IPVM的聲明說,大華不會「針對任何特定種族、族裔或民族群體建立解決方案」,「對可觀察特徵如身高、體重、頭髮和眼睛顏色及膚色等,是智慧安全解決方案的基本功能」。

基於人工智慧的監控特徵日趨廣泛,如辨識人是否戴口罩、辨識和統計車子品牌和顏色等。但觀察人士表示,西方膚色分析有爭議已久,以膚色區分族群是許多社會經濟領域的禁區,監控應用辨識膚色可能造成人權與民權弊端,不是西方市場監控產品的主流功能。

羅萊說:「膚色分析很不尋常,因是充滿爭議和道德問題的領域。」

大華之前一直否認監控產品有種族辨識和膚色分析功能。美國官網大華都表示,「從未開發辨識或以其他方式針對特定種族群體的產品或解決方案」。

不過大華早在2020年就受指控產品有辨識維吾爾人的功能。2021年2月IPVM和《洛杉磯時報》報導大華攝影機提供中國警方監控系統就有「維族人員即時警報」。IPVM曾於2018年發表統計報告,自2016年,海康威視和大華共獲新疆政府10億美元合約。

美國部分禁用

美國政府將大華等中國監控設備企業都列入禁止交易黑名單。聯邦通訊委員會(FCC)2022年認定,海康威視、大華等科技企業產品對美國國家安全構成威脅,禁止這些公司產品在美國銷售。禁止交易範圍限於「公共安全、政府設施安全、關鍵基礎設施的實體安全監控及其他國家安全目的」領域,並非全面銷售禁令。

歐洲儘管大華監控產品銷售未面臨美國FCC黑名單阻礙,但歐盟6月通過《人工智慧法》草案修訂,計劃全面禁止公共場所使用臉部辨識。德國籍歐洲議會議員斯文加·哈恩(Svenja Hahn)提案投票前對政治新聞網站Politico說:「我們知道中國使用臉部辨識監控人民,這技術在民主國家沒有立足之地。」

分析:膚色辨識可能助長歧視

西方國家辨識種族的AI軟體也不斷發展,集中商業市場行銷。《華爾街日報》2020年報導,美國化妝品公司露華濃(Revlon)曾使用AI新創Kairos的辨識軟體,分析各種族消費者如何使用化妝品,但引發研究員對導致種族歧視的擔憂。

美國政府一直禁止醫療、銀行等部門基於種族區分客戶。IBM、Google和微軟限制提供執法部門臉部辨識服務。美國維權網站「禁止臉部辨識」(Ban Facial Recognition)統計,美國24州、縣、市級政府禁止政府機構臉部辨識監控。俄勒岡州波特蘭市、紐約市和巴爾的摩甚至限制私人公司使用臉部辨識。

民權運動人士認為,種族辨識技術容易出錯,可能對監控對象造成不利後果。羅萊說:「如果鏡頭晚上拍攝,或周圍有陰影,可能會錯誤分類。」

華盛頓智庫戰略與國際研究中心(CSIS)科技法規研究員陳智美(Caitlin Chin)說,監控系統納入膚色考量,幾乎是缺乏人性的做法。與西方科技企業不同之處在於,西方臉部辨識主要用於商業,但中國科技企業往往樂於協助政府機構監控大眾。

她說:「這非常沒有人性,從人權角度看也非常令人擔憂,部分原因是這技術有錯的話,可能導致抓錯人,也可能造成歧視。我認為這種僅憑膚色分類人的功能幾乎不可避免導致有些人被歧視。」執法和監控人民方面,深皮膚族群更常受監視:「大華鏡頭透過膚色更容易分類人。」

美國民權組織公民和自由聯盟給IPVM的聲明說:「影片分析有可能導致更普遍監控;膚色分析為工具的一部分,將確保種族歧視成為(監控)的一部分。維吾爾人監測分析是中國政府壓迫基礎設施的一部分,歷史清楚提醒我們,醜惡後果也可能在民主國家發生。」

(本文由 美國之音 授權轉載;首圖來源:大華技術