幫照片穿上「隱形斗篷」,最強臉部辨識演算法也失靈!最新 AI 工具 Fawkes 保護照片隱私

作者 | 發布日期 2020 年 08 月 08 日 0:00 | 分類 AI 人工智慧 , 生物科技 Telegram share ! follow us in feedly


社群媒體平台正在洩露你的隱私。

一張自拍照就能辨識出姓名、電話、住在哪裡,這對臉部辨識技術來說,可能不是什麼難事。換句話說,只要能取得照片資料,臉部辨識技術就能輕鬆取得個人敏感資料。

如今,我們在社群媒體大量曝光,取得照片資料也很容易。之前美國臉部辨識公司便建立約有 30 億張影像的超大容量臉部資料庫,均從 Facebook、Venmo、YouTube 等社群媒體取得。

無處不在的臉部辨識技術和未經授權取得資料已對個人隱私造成嚴重威脅。面對這些威脅,芝加哥大學 Sand Lab 團隊提出新思路──或許可為照片穿上「隱形斗篷」!

臉部辨識的剋星 Fawkes

Fawkes 已讓曠視、微軟、亞馬遜等公司的臉部辨識演算法失靈。Fawkes 正是為照片添加防辨識「隱形斗篷」的 AI 軟體,經偵測,已在最先進的臉部辨識技術取得 100% 勝率。

先看一組圖片。

相信很難看出兩組照片有任何差別。其中一張經過 Fawkes 處理,並能誤導任何臉部辨識演算法。

研究人員介紹,Fawkes 軟體對臉部影像進行畫素級的細微變更,肉眼幾乎無法察覺。任何掃描這些影像的演算法都會將這些「高度失真」的圖片視為完全不同的人。

且 Fwkes 處理速度很快,單張影像僅需幾分鐘。

如此說來,經過 Fawks 快速處理的影像,可在不改變原貌的基礎上,隨意分享至各大社群媒體,不必擔心照片被隨意取得或用於非法途徑。

據了解,Fawkes 名稱取自 Guy Fawkes Mask(蓋伊‧福斯克面具)。此面具形象是英國插圖畫家大衛·勞埃德(David Lloyd)以 16 世紀英國陰謀家蓋伊·福克斯的臉為原型創造,最早出現在漫畫《V 怪客》。研究人員表示,透過 AI 技術巧妙地、不可察覺地變更照片以欺騙臉部辨識系統。

研究團隊表示,希望 Fawkes 廣泛部署使用,以降低個資洩露的風險。因此,Fawkes 完全開源,任何人都可下載使用,Windows 和 Macs 系統均有支援。據統計,已下載超過 10 萬次。

Fawkes「隱形斗篷」如何做到

目前 Fawkes 軟體升級到 V0.3 版。V0.3 更新目標選擇演算法,比 V0.1、V0.2 顯著降低偽裝後拍攝偽像的可能性。技術論文已經開放,論文將在 8 月 12~14 日舉行的 USENIX 安全研討會正式發表。

論文說明,研究取得以下幾個關鍵發現。

  • 以肉眼無法察覺的擾動變更影像的特徵空間顯示。
  • 不管追蹤器(Tracker )如何訓練模型,影像偽裝都可為用戶辨識提供 95% 以上保護。
  • 使用微軟(Azure Face API)、亞馬遜(Rekognition)和 Face++ 的最新臉部辨識偵測,Fawkes 模型 100% 成功。

論文明確說明結果,可看到整個系統分為用戶影像和模型驗證兩階段。

前者是基於 Fawkes 演算法生成用戶影像的偽裝版,後者是透過追蹤器(Tracker )從網路資源檢索偽裝影像,並使用它們訓練未經授權的臉部辨識模型。最終可發現模型匯出影像與初始影像並不相同。

Fawkes 演算法整個系統的關鍵,研究人員利用特徵擷取器 Φ 和目標影像 T,處理初始影像偽裝,這些目標影像 T 均來自可公開獲得的資料集(均大於 500K)。

為了確保偽裝影像視覺上與初始影像相似,研究人員採用 DSSIM 衡量兩者差異,實驗結果表示,DSSIM 均小於 0.007(DSSIM 是衡量用戶感知影像失真程度的方法)。

此外,研究人員認為,透過提高用戶特徵擷取器的魯棒性來達成可攜性。這目標需要透過對抗訓練完成。訓練採用擾動資料訓練模型,可使輸入目標影像不那麼敏感。具體來說,對每個特徵擷取器使用 PGD 攻擊(廣泛用於對抗訓練的方法)生成對抗範例,然後將更新後的特徵擷取器用於 PubFig 和 FaceScrub 資料集,生成用戶偽裝影像。

結果表明,每個健壯的特徵擷取器都會產生隱形斗篷(Cloaks),且這些隱形斗篷幾乎完美移轉到追蹤器的模型。可看到追蹤器使用其他特徵擷取器時,隱形斗蓬的保護成功率均大於 95%。

最後為驗證影像實際的偽裝效果,研究人員將經過 Fawkes 處理的影像洩露給基於雲端的臉部辨識系統,包括微軟 Azure Face、亞馬遜 Rekognition 和 Face++。

這些都是頂級臉部辨識系統,廣泛用於美國和亞洲企業、警察、私人實體及政府。結果來看,Fawkes 對影像的保護率達到 100%。

(本文由 雷鋒網 授權轉載;首圖來源:shutterstock)

延伸閱讀: