Google 不作惡,亞馬遜員工公開信請願:我們也不要

作者 | 發布日期 2018 年 10 月 20 日 8:00 | 分類 Amazon , Google , Microsoft follow us in feedly

18 日消息,亞馬遜臉部辨識工具 Rekognition 由於與美國警方合作,受到員工反對。一名員工在 Medium 平台匿名發表公開信,對公司與警方的合作表示擔憂。



事情起源是 15 日,亞馬遜 CEO 貝佐斯在 Wired 會上為美國國防部 JEDI 雲端合約辯護時,強調「做出可能不受歡迎的決定(如與軍方合作)是商業領袖工作的一部分」。僅過一天後,這封員工公開信就在各大媒體傳開了。

這封信這樣說:

我們知道貝佐斯意識到這些擔憂,現在正在進行全產業對話。在舞台上,他承認高科技的產品可能被濫用,甚至被獨裁者剝削。但不是有意義的解釋,亞馬遜將採取行動以防止自己的技術被濫用,貝佐斯建議我們等待社會的「免疫反應」。

如果亞馬遜等待,我們認為傷害將很難還原。

關於 Rekognition 計畫

進一步探究「Rekognition」計畫,根據公開資料顯示,Rekognition 是強大的即時臉部辨識系統,可利用警察身上的鏡頭和市政監控系統,追蹤逃犯、被販賣人口等對象。這項技術是亞馬遜 2017 年 11 月正式推出。

主要功能是:即時分析串流影片、人物辨識和追蹤、臉孔辨識、臉孔分析、對象場景和活動偵測、影片偵測、名人辨識等。

▲ Rekognition 在社交媒體尋找失蹤人口。

查詢當時發表 Rekognition 新聞稿時,摘取以下這段說明文字:

現在可對有數千萬個面孔的集合執行即時臉部搜尋。這表示搜尋延遲減少了 5~10 倍,同時允許儲存比以前多 10~20 倍的臉部集合。對於公用安全應用程式而言,此更新有助於即時辨識數百萬個面孔的集合,進而做出需要立即回應的判斷和舉動。

目前,這款技術主要在幫助 Marinus Analytics 公司打擊人口販運(註:Marinus Analytics 是美國一家授權執法部門技術的創業公司)。藉助 Amazon Rekognition,使用 Marinus Analytics 的調查人員可在幾秒鐘內搜尋數百萬條紀錄,以便找到受害者,進而採取快速有效的行動。

簡而言之,執法人員可使用失蹤兒童的照片、社交媒體照片或社會工作者的照片,並將其與 Traffic Jam 的資料庫其他人員比較,如果他們的照片用來在網路當作交易等廣告資訊發表,將透過符合照片幫助執法人員找到受害者。

但是,這項技術有被「擴大化利用」的風險。

根據之前華盛頓郵報進一步報導,一位警長每月支付 6~12 美元用於存取 Rekognition,這使得該部門能根據即時鏡頭掃描追蹤對象的大頭照。據悉,Rekognition 能在整個城市的攝影機網路執行即時臉部辨識。

Rekognition 計畫總監 Ranju Das 透露,整個奧蘭多市都有經過授權的攝影機。這些攝影機將資料串流傳送 Kinesis 串流,亞馬遜再即時分析這些資料並搜尋他們擁有的臉部集合。也許當警方想確定這個城市的市長是否在某個地方,或他們想要追蹤的某個其他人,這都可以做到。

公民自由引發社會聯盟關切

對 ACLU(美國公民自由聯盟)而言,這種能力引發重大的公民自由關注。該組織聲明說:「透過自動化大規模監視,像 Rekognition 這種臉部辨識系統威脅到公民自由,對目前政治氣候下已被不公正對待的社群構成特殊威脅。人們應該在沒有被政府監視的情況下自由走在街上。

之前 2018 年  月 22 日,ACLU 寫給貝佐斯的信也闡述這種關切。

▲ 2018 年 月 22 日,ACLU寫給貝佐斯的信。

可見,剛在員工加薪問題引發部分員工牴觸情緒的亞馬遜,又因為員工的反對遇上一件麻煩事。

據了解,這是技術員工不到一週內發出的第二封匿名信。上一封,來自微軟。

12  日,一名微軟員工也同樣在 Medium 表達對該公司參與 100 億美元 JEDI 國防部雲端合約的擔憂。

這是一個祕密的 100 億美元計畫,目標是打造川普政府監管的「更致命的」軍事力量。Google 員工對這點看得很清楚,於是發起抗議並最終迫使公司結束投標,而我們看得也很清楚。

在美國的科技大公司,鼓勵員工表達意見一直是傳統。以下整理近些年因為「員工反對」而被迫中止的一些項目或計畫:

  • Google員工聯名反對 Google 參與國防部 AI 計畫Maven」,導致 Google  放棄續簽;員工反對 Google 參與中國審查版搜尋引擎的開發,高層離職抗議並爆料;員工反對 Google 參與 JEDI 國防部雲端計算合約,Google 只能宣布結束競標。
  • 微軟:員工反對微軟競標 IEDI 雲端合約,稱不符合 AI 倫理原則;員工反對公司提供 ICE 服務。(註:ICE 是美國移民海關執法部門)
  • Salesforce:參與移民政策,最終在員工反對與批評聲中與美國海關和邊境保護局中斷技術合作。
  • 蘋果:因為保密措施極其嚴格,甚至影響員工正常生活,也曾遭遇員工抱怨。2017 年,蘋果共計抓到「29 名洩密者」,其中 12 名已被逮捕。
  • Facebook:由於 Facebook 一位全球政策高層 Kaplan 支援最高法院大法官提名人,並出席提名聽證會,數百名 Facebook 員工表示憤怒。員工認為企業遭政治綁架,隨後,Kaplan 在內部論壇為自己唐突出席聽證會道歉。

小結

可見美國的大型科技公司,「員工責任制」正形成巨大的影響力,或超過媒體影響力,推動公司不斷調整決策。即便 CEO 都是全球性的商業領袖,也沒辦法忽視這些意見。

眼下,當亞馬遜員工堅持「不作惡」的理念繼續走下去時,我們並不確定 Rekognition 是否會執行。相比中國,與警方、軍方的合作顯得非常重大且有戰略意義,因為政府的採購是強有力的背書,對技術和流程有十分嚴格的程序,重要的一點是,這種計畫一般都是大單子,動輒上千萬,甚至上億。在中國企業趨之若鶩追求軍事合約當下,旁觀者其實更應該多清醒思考。

公開信全文:

《我是亞馬遜員工。我的公司不應該向警察出售臉部辨識技術》

10 月 17 

當一個公司把新技術引進世界時,有責任思考後果。我工作的亞馬遜公司目前允許全國各地的警察部門購買臉部辨識產品「Rekognition」,我和其他員工要求我們公司立即停止。

幾個星期前,同事寫了一封信給傑夫‧貝佐斯和其他高層,上面有 450 多名員工簽名。這封信還包含要求將 Palantir 公司踢出 AWS,並規定對員工進行道德監督。Palantir 是 ICE 大部分遣返和追蹤程式的軟體公司。

我們知道貝佐斯意識到這些擔憂,現在正在進行全產業對話。在舞台上,他承認高科技的產品可能被濫用,甚至被獨裁者剝削。但不是有意義的解釋,亞馬遜將採取行動以防止自己的技術被濫用,貝佐斯建議我們等待社會的「免疫反應」。

如果亞馬遜等待,我們認為傷害將很難還原。

畢竟,我們關注的不是其他公司將來可能造成的危害,而是亞馬遜目前正在設計、行銷和銷售的一套用於危險、大規模監控的系統:Rekognition。亞馬遜網站吹噓說,該系統可以一次性儲存和搜尋數千萬張人臉。執法部門已經開始使用亞馬遜的這項臉部辨識技術,但幾乎沒有任何公眾監督,也沒有對此公開辯論,或有所限制。佛羅里達州奧蘭多市正在透過遍布全市的監控鏡頭的即時視訊訊號來測試 Rekognition。奧勒岡州的一個警察部門目前正在利用 Rekognition,讓現場的警官將照片與資料庫的臉部照片比對。這已不再是假設情況。

如果我們想要領導,我們需要在人與利潤之間做出選擇。

歷史告訴我們,新的強大的監控工具仍然掌握在國家手中,將用於針對沒有做錯事的人;在美國,由於缺乏公用問責制,已導致對有色人種、移民和行使第一修正案權利的人過度干擾和過度監管。在向政府和執法機構提供強大技術的同時,忽視這些緊迫問題既危險又不負責任。

這就是為什麼當 AWS 全球公用部門副總裁 Teresa Carlson 最近表示,亞馬遜「堅定的支援」執法、國防和情報用戶時,我們失望的原因,即使我們不知道他們實際上是利用這工具做什麼。

亞馬遜甚至建議,為警官隨身相機提供 Rekognition 功能,這將把本來做為警察問責的工具變成針對公眾的行動監控裝置。我們為什麼要這樣做?

我們都有權利過生活,而不被政府不斷監控。像我們這樣的公司不應該參與促進威權監督。不是現在,也不是以後。但 Rekognition 支援透過從一幀影片擷取幾十個臉部辨識,並將它們儲存起來供以後使用,或立即將它們與有數百萬張圖片的資料庫比對。

出售這個系統與亞馬遜的價值觀背道而馳。我們把自己視為以用戶為中心的公司。貝佐斯也直接反對不道德的政府政策、穆斯林的禁令。

我們無法以犧牲公眾利益為代價,從那些擁有強大權力的用戶群體中獲利;我們無法忽視業務對公眾利益的損害。我們銷售的 Rekognition 系統是一種有缺陷的技術,它強化了美國現有的偏見。研究表明,臉部辨識技術更容易誤認擁有深色皮膚的人。這一點在最近 Rekognition 的測試中得到明確的證明。這項調查將美國國會議員的照片與資料庫一些臉部照片逐一比對,結果出現 28 項錯誤符合,而在有色人種不正確結果比例特別高。但即使這些錯誤修正了,允許執法部門使用這種軟體仍是不負責任、危險和不道德。現在,產生這種偏見的根源存在於美國更廣泛的社會和司法系統中。臉部辨識技術的使用只會複製和放大美國現有的這種偏見。

美國目前的政治環境使得向政府出售臉部辨識產品的想法更加令人反感。美國警方增加對黑人活動人士的監視力度,川普政府也在繼續全力打擊移民。我們不希望以任何方式為美國政府的超級監視系統做出貢獻。亞馬遜表示已要求 Rekognition 用戶遵守法律,但這只是一種為這項技術的負面使用逃避責任的方式。

Google 員工公開反對公司與美國國防部的 Maven 合約,微軟員工公開反對公司與美國國防部的雲端計算合約 JEDI,我們將跟隨他們的步伐。不管我們對美國軍方的觀點如何,任何人都不應該從「增加軍隊的殺傷力」獲利。

亞馬遜談論了很多關於領導力的價值觀問題。如果我們想要擁有領導力,我們需要在人類利益與利潤之間做選擇。我們可把危險的監視系統賣給執法部門,或我們可以維護正義。但無法兩者兼得。

(本文由 雷鋒網 授權轉載;首圖來源:shutterstock)

延伸閱讀: