麻省理工學院做了一件 T 恤,穿上就能在 AI 鏡頭前「消失」

作者 | 發布日期 2019 年 11 月 11 日 8:45 | 分類 AI 人工智慧 , 軟體、系統 follow us in feedly


近日中國發生「臉部辨識第一案」,浙江理工大學一位教授因不滿杭州野生動物世界強制要求年卡用戶註冊臉部辨識,因此將動物園告上法庭。

隨著臉部辨識技術普及,生活中很多時候都不知道自己的臉什麼時候被辨識了。儘管美國舊金山等城市推出臉部辨識禁令,但在更多國家和城市,相關法律政策還沒跟上。

對可能無處不在的臉部偵測系統,除了呼籲完善監管,還能做些什麼?最近西北大學和麻省理工學院的華森人工智慧實驗室(MIT-IBM Watson AI Lab)開發出印有特殊圖案的 T 恤,只要穿上就能躲過 AI 系統的監控,讓一個大活人在監控鏡頭前「消失」。

這是怎麼做到的?其實原理並不複雜,研究人員使用稱為生成對抗網路的方法來欺騙 AI,因為電腦視覺辨識系統依賴大量資料訓練提高辨識準確率,透過同樣方法也能找出可欺騙系統的圖案。

(Source:OpenAI)

早在 2014 年,Google 和紐約大學的研究就證明,物體和臉部辨識演算法容易受到以生成對抗網路為基礎的攻擊。今年 4 月比利時魯汶大學(KU Leuven)的研究人員就透過這原理,用一張貼紙成功騙過 AI 系統。

但這種欺騙 AI 系統的方式有個缺陷,只要圖案角度和形狀變化,就會輕易識破。因為過去都是用硬紙板、停車牌或玻璃款等硬物當載體。

這次麻省理工研發的 T 恤突破點在於,即便衣服圖案隨著人的姿勢變化而變形,一樣能騙過 AI 系統。

研究人員指出,生成對抗網路經常用於欺騙電腦視覺系統,但還難以隨著運動變形的衣服建模,因此他們採用叫「薄板樣條線」(TPS)的資料內插和平滑技術,模型可轉換並建模具重複射(保留點、直線、平面)和非仿射分量的座標。

簡單來說,這項技術讓柔性物體也能模擬剛性物體的對抗性學習,進而欺騙 AI 。

從圖片可看到,這種 T 恤印有黑白棋盤格子樣式的圖案,系統辨識時每個格子之間會出現紅色小點,這就是成薄板樣條線(TPS)轉換的控制點。

研究人員分別在現實和虛擬環境測試這種 T 恤,準確率分別達 63% 和 79%。不過如果在同一畫面出現兩個或更多穿著 T 恤的人,成功率反會降低。

這方式一樣有局限性,只能騙過特定辨識演算法,對 Amazon Web Services、Google Cloud Platform 和 Microsoft Azure 等辨識系統並不能使用。但研究人員表示這只是「邁向對抗性可穿戴裝置的第一步」,為針對 AI 的對抗性干擾提供啟發。

當臉部辨識等 AI 演算法與人類的矛盾日漸突顯,未來這種欺騙 AI 的需求可能會越來越多,甚至成為新職業。

(本文由 愛范兒 授權轉載;首圖來源:shutterstock)