貝佐斯頭疼,是否要把臉部辨識技術賣給警方?

作者 | 發布日期 2018 年 06 月 19 日 18:00 | 分類 AI 人工智慧 , Big Data , 生物科技 follow us in feedly

AI 技術不斷發展的大趨勢面前,幾乎所有科技巨頭都要面臨愈加嚴苛的道德評判和輿論──之前不得不接受美國國會聽證的 Facebook 如此,被迫放棄與國防部合約的 Google 也是如此。



現在,輪到另一個巨頭了,這次是電商老大亞馬遜。

當臉部辨識被警方使用

事情不是突然發生的,而是長期醞釀。

2016 年,亞馬遜推出一款臉部辨識工具 Rekognition,能辨識圖像和影片,分類內容, 比如人物面孔、場景、文字、物體等;當然,背後還是亞馬遜強大的人工智慧技術和 AWS。技術本身看起來沒什麼問題,且帶來很多好處,問題在於實際應用場景會引起人們的不同反應;比如說警察部門。

的確,亞馬遜 Rekognition 已用於美國相關政府部門,亞馬遜官網的介紹頁面Rekognition 用於 Washington County Sheriff’s Office in Oregon(華盛頓郡警長辦公室),當然該頁面介紹的是正面案例:利用該工具成功捕獲商店扒手。

2017 6 月,亞馬遜在官方部落格發表一篇來自警長辦公室分析師撰寫的文章,介紹如何利用 Amazon Rekognition 辨識案件嫌疑人。

文章提到兩個案例:第一個案例,銀行監控鏡頭捕捉到失竊信用卡用來領現的影像,但光線和角度問題,辦案人員無法人工辨識,透過 Amazon Rekognition 則達成 95% 的人物符合度。另一個案例是,利用 Amazon Rekognition,辦案人員成功在 Facebook 找到一名使用假名發表內容的個人。

文章最後強調利用 AWS 進行人臉辨識的便利性,並表示 Amazon Rekognition 已成為警長辦公室辨認嫌疑人的有利工具,並希望它成為法律案件臉部辨識的標準工具。

當然,除了上述案例,Amazon Rekognition 也用於其他警察相關機構,比如說奧蘭多警察局。亞馬遜聲明也提到,不少機構利用這項技術找到被拐騙人員和走失兒童。另外,其實 Amazon Rekognition 也有很多非執法類的商業用戶,比如 Pinterest C-SPAN

亞馬遜面臨的輿論

即使如此,Amazon Rekognition 與美國執法部門合作的負面輿論效應漸漸發酵,尤其涉及隱私層面,已有不少機構和個人對亞馬遜表達不滿。

2018 5 月下旬,美國公民自由同盟(American Civil Liberties Union,簡稱 ACLU)和其他隱私保護團體,要求亞馬遜停止對警察機構售賣 Amazon Rekognition,原因是執法部門可能會利用這技術,簡單地構建能辨識並即時監控任何人行蹤的系統。

ACLU 表示:

人們應當自由地走在街上,而非處於政府眼皮下。在美國社區進行臉部辨識威脅了這樣的自由……臉部辨識並不是中立技術,不管亞馬遜如何部署。它使大規模監控自動化,威脅到人們在政府監視之外的私人自由,並準備放大刑事司法系統的偏見和不平等。

根據 ACLU 得到的郵件顯示,華盛頓郡警長辦公室只需花 400 美元就可以把 305,000 圖片導入有 Amazon Rekognition 技術的辨識系統,每個月付 6 美元就能持續使用這項服務。但警長辦公室並不認為威脅到 ACLU 所提的自由,一位發言人表示:

其實我們並沒有大規模搜集資料,且也沒有把鏡頭裝在每個街角。我們希望民眾知道我們在幹什麼,以及我們如何利用它處理犯罪問題──它是什麼,它不是什麼。

顯然包括 ACLU 在內,眾多關注個人隱私的美國民眾並不買帳──他們不僅擔憂這項技術的應用已用於某些領域,也在擔憂用於隱私侵犯的潛在可能性。不過他們發給亞馬遜的信並沒有得到明確的回應。

事情在上週五(6/15)進一步發酵。將近 20 家亞馬遜股東機構寄信給亞馬遜 CEO Jeff Bezos,擔憂亞馬遜 Rekognition 用於執法部門會有的問題和影響。

股東聯合信寫到:

亞馬遜股東擔心這種政府監視設施技術,不僅可能對全國和其他利益相關者構成隱私威脅,且可能提高公司面臨的實質性風險,為股價帶來負面影響,並為股東增加金融風險。

當然,這些股東也在擔心,Rekognition 可能違反女性、有色人種、移民及其他邊緣化群體的權利,這些人特別容易成為警方關注的目標。

截至目前,亞馬遜還沒有公開回答股東的問題。

(本文由 雷鋒網 授權轉載;首圖來源:亞馬遜