如果有「捏臉比賽」,人類只能拿第二名

作者 | 發布日期 2022 年 03 月 26 日 0:00 | 分類 AI 人工智慧 , 網路 , 資訊安全 Telegram share ! follow us in feedly


科幻電影《銀翼殺手》建構出真假難辨的未來世界:人類製造的「複製人」和人類外形一模一樣,除非做情緒測試或找到隱藏的機型編號,根本無法辨認是否為「複製人」。

這種未來世界可能有點遠,但如果只看臉,現在就無法辨認真假人照了。

AI「假臉」跨越恐怖谷

先看一組圖片,有信心一眼認出「假人臉」嗎?以下哪張臉是假的?(答案請見文末,但別急,接下來還有很多臉。)

「假人臉」指的是 AI 合成的人臉,而非真人照,如果你覺得很難判斷真假,別擔心,你不是唯一。加州大學柏克萊分校 Hany Farid 教授多年從事 AI 圖像合成技術,近日發表於美國國家科學院院刊的研究顯示,現在 AI 合成人臉與真人沒有差別,甚至看起來比真人更值得信賴。

研究結果出乎預料。共同參與研究的 Sophie Nightingale 博士稱一開始研究的目的,就是為了以真人對比找到提高 AI 人臉可信度的方法。Farid 認為 AI 圖像合成技術發展和進步速度非常快,比傳統 CG 成像還快。

我們認為,已跨越靜態面孔的恐怖谷效應。

恐怖谷效應是心理學理論,人會對與人相似的物體產生好感,但相似度達一定程度時(如殭屍、人偶),人的反應會轉為極其負面反感。當相似度再上升與真人接近時,人的情緒反應又會恢復正面,還有可能產生移情效應。

從 Farid 實驗結果看,AI 合成人臉很可能已脫離「行屍走肉」階段。如此逼真的人臉是怎麼合成的?生成對抗網路(GANs)是目前最主流的演算法,名字聽起來很艱深,但邏輯並不複雜。

簡單來說 GAN 有「畫家」和「鑑定師」,畫家需畫出盡可能像真人的圖,交給鑑定師評斷。鑑定師評斷前看過非常多真人照,分析人臉特徵,當畫家的畫能騙過閱臉無數的鑑定師後,完美 AI 合成人臉照就誕生了。鑑定師經過不斷學習,準確度會提高,畫家技術也要跟著增長,兩者形成對抗關係,提高合成圖的品質,直到以假亂真。

Farid 實驗採用輝達 Nivdia StyleGAN2 模型,為了研究合成照可信度,研究人員做了三次實驗。

第一次邀請 315 名參與者分辨 128 組(共 800 組)真人照和 AI 合成照,結果參與者平均正確率低於五成,只有 48.2%。第二次邀請 219 位接受培訓的新參與者做同樣測試,並在參與者每次講答案後告知正確與否。

研究人員説明後第二次實驗正確率提升,但也只稍微超過五成,達 59.0%。AI 合成照的真實度並沒有讓 Farid 和 Nightingale 意外,但第三次測驗結果卻始料未及。

第三次由 223 名新參與者為同一批照片的可信賴程度從 1~7 分打分數,結果顯示,AI 合成照可信度竟然比真人照高 7.7%,這微小差距對統計學卻有重要意義。

研究人員認為具一定可信度的 AI 合成照很有可能遭不法分子利用,在社群網路詐騙或引發混亂,需得到社會重視,且合成照技術發展需要約束。問題來了,既然 AI 合成人臉有一定風險,為什麼人們還要投入精力研究?

AI 臉很好,但是把「雙面刃」

2019 年 E3 電子遊戲展,基努·李維驚喜亮相《電馭叛客 2077》活動時瞬間引爆觀眾情緒,本人也宣布將擔任重要角色「強尼銀手」臉模,讓無數玩家引頸期盼。

▲ 惡靈古堡 8 人氣反派蒂米特雷斯庫夫人的臉模 Helena Mankowska。

因在虛擬世界,逼真人臉能給玩家強烈沉浸感,遊戲機能提升,真人臉模代替數位捏臉,成了越來越多遊戲廠商塑造角色的手段。但使用真人臉模代表高昂肖像授權費及動作捕捉成本,對小型工作室來說負擔不起,這時免版權 AI 合成人臉便能派上用場──由並不存在的人扮演虛擬角色,聽起來太合理了。

免費 AI 合成照片計畫 Generated Photo 就與動畫軟體公司 Reallusion 合作,以 AI 合成的人像做動畫、遊戲或廣告 3D 形象,開發者可自由選擇種族、年齡、性別,且不會有版權問題。試想《模擬市民》或《GTA》等 NPC 都是真人臉,沉浸感和臨場感將大幅提升。

除了遊戲,客服類軟體也需要大量真人頭像與客戶溝通,如果將真人頭像換成 AI 人像,既可避免版權糾紛,又能保護個人隱私。雖然 AI 合成照有合理存在意義,但也會對網路照真實性造成衝擊,畢竟誰也不想用交友 App 時對根本不存在的人大獻殷勤。

Farid 認為要解決這問題,唯一辦法就是為每張真人照加入「真實性」認證,其他人瀏覽和使用照片時才能辨認真實性。這聽起來就像《銀翼殺手》的逆向版,電影裡人類在複製人眼球刻上編號,現實則相反標記真人照以對抗「假貨」。目前 Adobe、微軟等已在推廣相關技術。

2021 年 2 月,Adobe、微軟、英特爾、Arm 和 Truepic 等聯合成立「內容來源和真實性聯盟」(C2PA),以打擊假資訊,建立可驗證圖片真實性和溯源的技術標準。驗證法也很直接──將照片拍攝、後製或修圖等資訊用區塊鏈原封不動保留,無論照片怎麼改,都能直接查看原始檔案資訊。

經認證的真人照右上角會多一個「i」小角標,當你點擊它,就可看到相機生成的拍攝日期、地點、鏡頭等詳細資訊,如果有人用 Photoshop 等軟體修過照片,還可退回查看原圖。

C2PA 認證技術能一定程度確保新聞等正式領域照片真實性,但由於成立時間較短,目前只有部分媒體或社群平台使用,想為網路所有內容提供真實性保障還為時過早。也就是說一段時間內,AI 合成照都有可能會是社會安全隱憂,因類似 Nivdia StyleGAN2 等圖像合成模型都可在 Github 等開源平台下載,這麼做真的安全嗎?Farid 認為這需要技術人員平衡利益與風險後慎重考慮。

問題來了,本文有那麼多張臉,到底哪些是真人?

答案是:除了有特別標註的,全是假的。

(本文由 愛范兒 授權轉載;首圖來源:論文

關鍵字: , ,