挑戰臉部辨識技術,中美團隊用紅外線投射成功「變臉」

作者 | 發布日期 2018 年 03 月 29 日 21:00 | 分類 AI 人工智慧 , 尖端科技 follow us in feedly

隨著人工智慧(AI)技術持續進步,圖像辨識系統已廣泛存在日常生活,一些裝置也開始運用臉部辨識技術來認證身分,但這項技術的安全性真的無懈可擊嗎?



正如同先前迷幻貼紙、棉花田演唱會圖片的研究,研究人員正試圖透過測試任何潛在的駭客手段,讓圖像辨識技術能更安全。來自中美兩國研究團隊近日在 arXiv 平台公布了一篇論文,詳細介紹他們發現如何欺騙「臉部辨識」應用的細節。

▲ 帽子中放置的紅外線 LED。(Source:Zhe Zhou

其實團隊的概念非常簡單,要欺騙臉部辨識應用,最直接的就是為受辨識者「替換」一張臉。為了達成這點,團隊先運用深度神經網路解讀一些人物臉部圖像,再透過棒球帽連接的微型紅外線 LED,將解讀過的人臉圖像運用無數個紅外線光點投射到受辨識者臉上,達成掩蓋身分的效果。

當然,由於投射的是其他人臉孔,只要概念成功,以臉部辨識系統為身分認證的前提下,讓受辨識者冒充他人身分也可以做到。

為了檢驗這項理論,研究團隊選擇了 4 張隨機照片嘗試欺騙臉部辨識軟體,包含了美國音樂人魔比(Moby)的照片。研究人員實驗發現,只要受辨識者與投射臉孔來源長相有些微相似,欺騙臉部辨識系統的成功率約可達到 70%。

▲ 下方第一列數字指的是受辨識者與投射臉孔來源對象的距離,第二列則是理論上應用後的差距,第三列則是實際差距。(Source:Zhe Zhou

由於紅外線(Infrared)是一種非可見光,人們單憑肉眼無法察覺,同時貼在帽沿內側的 LED 體積也非常小,甚至也可以藏在其他穿戴物裡使用,即使有人類保全也很難察覺系統被欺騙的情況,這讓被利用的可能性又更提升。

當然必須提及的是,這只是一個小型研究,還未經過同行評審,因此可能有些爭議,但基於這些研究結果和測試,團隊認為以身分認證或監控關鍵場景的需求來說,現今的臉部辨識技術距離安全可靠還有很長一段距離。

「相關研究者應該更關注紅外線的威脅性。」

(首圖來源:shutterstock)

延伸閱讀: