防止侵犯人權,IBM 執行長宣布停止開發臉部辨識科技

作者 | 發布日期 2020 年 06 月 09 日 10:41 | 分類 Facebook , Google , 科技政策 Telegram share ! follow us in feedly


IBM 今天宣布停止臉部辨識相關技術的研究與開發,也不再提供分析軟體,IBM 執行長 Arvind Krishna 表示這些相關技術用於大眾監視、種族定性等違背基本人權的用途,已經違背了該公司信任與透明原則。

IBM 執行長 Arvind Krishna 今天寄出一封公開信,收件人是多位美國國會議員,表明公司將停止臉部辨識相關的軟體支援、研究開發和分析應用。

IBM 堅決反對任何臉部辨識科技,被用於大眾審查、種族定性和其他違反基本人權與自由的用途,這與我們企業原則中的信任和透明條款相違背。」Krishna 表示,我們相信現在是開始討論臉部辨識科技運用法規的最佳時機,特別是執法單位如何使用這項科技,迫切需要被規範。

臉部辨識科技在過去十年突飛猛進,與人工智慧技術成熟有絕對關聯,但多數相關技術都由私人企業開發,而欠缺法規管控,在我們享受科技帶來的便利時,它也同時產生了關於年齡、種族、性別的歧視問題,進而損害公民權益,更不用說隱私權問題。

在開發臉部辨識工具的過程中,需要大量的人像資料,才能訓練人工智慧,以提升辨識準確度,問題是,他們從哪裡取得辨識資料呢?答案是,使用者自行發布在網路上的照片,像是我們在 Facebook 上的大頭照、雲端相簿中的公開照片等,無論你我知情與否,我們的大頭照很可能在某一家美國新創公司的資料庫中,被標記上「亞洲」、「男性」、「中年人」等標籤,更糟糕的是,某些資料庫可能還會幫你加上「強壯」、「肥胖」、「相貌普通」的標籤,來提升配對準確度。

Amazon、Facebook 和 Google 等科技巨頭都曾因為這些事情陷入爭議,就連 IBM 自己也曾經在 2019 年,因為自行使用了雲端相簿 Flickr 上將近一百萬張大頭照,建立臉部辨識資料庫而被檢討。雖然當時 IBM 表示,這些照片的權限都是公開的,也明確限制資料庫使用範圍,而且任何人都可以自行選擇不要被加入資料庫,但問題是,誰知道自己的照片被用了呢?

說起臉部辨識的人權問題,又怎麼能忘了中國建立的「天網」。透過超過 2 億支監視鏡頭,搭配臉部辨識科技,無孔不入的監視著所有人民的行動。從好處看,這套系統讓執法單位有機會超快速追捕嫌犯,甚至逃亡多年的通緝犯,也躲不過天網追捕。然而往壞處看,這套強大的工具也是統治者撲滅反對聲音的利器,而這也是 IBM 選在這個時間點發表這份聲明的主因。

美國近來陷入警察執法過當抗爭事件,示威抗議越演越烈,而執法單位則企圖藉由臉部辨識系統,來捉拿「肇事份子」。這個舉動觸怒了美國科技界,除了 Facebook 外的科技巨頭幾乎全都公開支持抗議者,IBM 執行長此時發聲,要求國會詳加檢視所有的警察執法過當案件,並催促國會儘快建立負責任的人工智慧法規(responsible AI),以避免科技再遭濫用。

(首圖來源:IBM

延伸閱讀: