Deepfake 深偽技術的技術濫用與道德困境,大眾正要開始面對

作者 | 發布日期 2021 年 10 月 23 日 11:00 | 分類 AI 人工智慧 , Facebook Telegram share ! follow us in feedly


備受爭議的 YouTuber 小玉利用 Deepfake 技術,把台灣女性名人實況主的臉套入色情影片並販售謀利,引發台灣 YouTube 圈、實況圈甚至政治圈憤怒,甚至連總統蔡英文都矢言立法杜絕這類問題,讓這從 2017 年開始火紅的技術備受台灣社會關注。

像 Deepfake 這類「移花接木」技術,應用在色情產業由來已久,只要搜尋一些藝人、裸露相關關鍵字,就會看到許多頭被接入色情圖片的明星照,許多知名色情網站也有不少 Deepfake 影片。由於技術越來越成熟、越來越多人使用,因此許多應用早就不限色情影片。

《玩命關頭 7》拍攝期間,主角保羅沃克意外身亡,但為了將剩下戲份拍完,製作組找了保羅沃克的弟弟加入劇組拍攝剩下戲分,並將保羅沃克的臉接在弟弟身上

電影《星際大戰:俠盜一號》有個在《星際大戰》四五六部曲出現的名反派塔金總督也需要出場,但飾演塔金的演員彼得庫欣於 1994 年過世。通常製片公司的傳統方法是另找人飾演過世演員的角色,但為了「連戲」,這次找一個人飾演塔金總督,並將彼得庫欣的臉用動畫技術貼上。之後《星際大戰:天行者崛起》甚至出現年輕版莉亞公主與路克天行者,也都是不同演員出演,再利用電腦動畫技術運算將原版演員的臉接到身上。

A composite of Peter Cushing playing Grand Moff Tarkin in Star Wars and a CGI imitation of his character.

▲ 左邊是真人塔金,右邊是電腦動畫做的塔金。(Source:YouTube

原本這些偽造技術都要昂貴、需大量技巧的 3D 繪圖與建模軟體幫忙,但 AI 技術越來越強大、機械學習能力突破天際時,利用「深度學習 Deep Learning 」「偽造 Fake」,就成為現今所知的 Deepfake。透過 AI 演算法讓臉部偽造越來越容易,也越來越難識破。有個 YouTube 著名 Deepfaker 就做出比原版《星際大戰》電影更好的假影片,還被專門製作星戰特效的光魔工業挖角。

▲ Deepfake 技術比電腦動畫更自然。

Deepfake 的道德與社會爭議

名 TikTok 帳號 Tom Cruise Tiktok,專門上傳名演員湯姆克魯斯的 Deepfake 影片,擁有者利用機器學習技術,讓 Deepfake 程式學習如何更像原版湯姆克魯斯,在 TikTok 引發 Deepfake 旋風,影片更獲得上百萬次觀看數。前陣子 YouTube 流傳歐巴馬痛斥川普是笨蛋的影片,幕後黑手是明星 Jordan Peele 模仿歐巴馬,但利用深度學習技術,讓影片的假歐巴馬臉部與肢體栩栩如生。

上面這些例子,由於製作者很明顯揭露是用 Deepfake 技術合成,雖然我們並沒有被這些影片騙過,但需製作者自我揭露才會發現是假的影片,背後隱含令人不安的訊息:如果這些人願意,都可以做出更危險、對社會更有害的事。

由於工具越來越普及,加上許多開發者會將工具放到網路、臉部資料越來越好取得,因此技術門檻越來越低,許多人只要購買或下載簡單程式工具,就可以自己生成簡單的 Deepfake 影片。雖然現在能找到的大部分工具,並不足以生成以假亂真的影像,但 AI 訓練越來越強大、程式取得越來越容易的現在,這些技術開始影響政治與社會,如以下例子:

今年 3 月,緬甸軍政府發表影片,是仰光省前任首席部長承認曾給翁山蘇姬 60 萬美元與 11 公斤黃金,緬甸軍政府就此證據認定翁山蘇姬貪污並調查。但也有質疑者認為,部長聲音與臉部表情不自然,且影片說明鉅細靡遺,也讓緬甸社群用戶與記者質疑影片的真實性,之一就是認為影片可能以 Deepfake 製作。不管影片是否使用 Deepfake 技術,背後代表許多人的擔憂──會不會因一支假影片就造成社會動盪,甚至偏嚴重的政治影響。

鑑於可能發生的問題,許多人開始研發反制、辨識 Deepfake 的手段。

技術濫用如何防堵?檢測技術發展

比較有趣的是紐約州賓漢頓大學在英特爾資助下進行研究:利用隱形脈搏找出造假影片。所謂「隱形脈搏」就是指每個人照相時,鏡頭都會記錄每個人的「臉色」,隨著心臟將血液傳送身體各處,臉部膚色也會有細微變化,原理類似測手指血氧機。雖然肉眼看不見,但皮膚拍照或影片時,因脈搏產生的膚色變化還是會被鏡頭記錄,但 Deepfake 人臉創建匹配時,通常不會考慮到這層面,會讓臉部與身體「脈搏特徵變化」不同,因此檢測得到不同。

▲ 脈搏會影響人臉膚色變化。(Source:Wenjin Wang

實驗準確率最高可超過 95%,同時一段影片超過 90% 時間都可檢驗到 Deepfake 作假痕跡。透過深度學習其他 Deepfake 工具模式,甚至可有 93.39% 機率辨識出哪個程式生成的 Deepfake 影片。

▲ 脈搏測定法論文展示準確率變化。(Source:論文

社群網站龍頭 Facebook 自然首當其衝受 Deepfake 影響,因此 Facebook 每年都會舉辦 Deepfake 挑戰賽,同時也與密西根州立大學合作,找出可逆向工程 Deepfake 的方法:找出 A.I. 生成模型留下的「數位指紋」。這概念與英特爾資助的「隱形脈搏」研究有共通處──利用 A.I. 學習各種 Deepfake 偽造模式,然後訓練 A.I. 辨識肉眼不可見的細節,揪出可能經 Deepfake 偽造的影片。

每個 Deepfake 生成的模型都有獨特參數,是 Deepfake 工具偽造影片與人臉時的變量,對生成影像的方式與結果產生影響。密西根大學與 Facebook 團隊以汽車比喻:「有點像根據聲音辨識是哪台汽車開過,即使從未聽過汽車資訊。」

但 The Verge 編輯認為,即使這樣,最先進技術也很難全面防堵 Deepfake 技術濫用。部分原因是這領域非常活躍,每天都有很多新技術誕生,現在過濾技術遠遠跟不上。Facebook 去年 Deepfake 大賽,以 10 萬部 Facebook 自製影片為測試範圍,參賽者利用演算法分析完影片後,獲得 82.56% 準確率,但再拿另一組黑盒測試,準確率下降到 65.18%,代表現存世界過濾演算法的發展還跟不上生成偽造影片的演算法。

Deepfake 的道德議題與挑戰

2020 年 2 月,《時代》雜誌用 VR 技術重現著名黑人運動領袖馬丁路德金的華盛頓遊行,雖然並非使用 Deepfake 技術拍攝,但之後騰訊在人工智慧技術白皮書認為,Deepfake 技術可用於類似目的。迪士尼曾在電影使用過世演員的臉放在替身身上的技術,因此《星際大戰》第八集後,飾演莉亞公主的嘉莉費雪意外過世,許多影迷請願不希望迪士尼用這技術「復活演員」去完成未拍完的第九集,後來迪士尼使用未公開片段拍成第九集。

目前使用 DeepFake 創造「未經本人同意」就使用他人臉部的性愛影片,遠多於政治或諷刺操作,但相關技術正在改進,檢測技術追不上 Deepfake 生成技術的當下,甚至會有種「道高一尺、魔高一丈」之感,這類迅速擴大、商業化的偽造技術,同時也擴大有害用途的可能性。大眾很快就會面臨「需要辨識影片是否深度偽造」困境,可能會在短期內迅速擴散、跨過社會某些底線。

小玉 Deepfake 事件發生後,台灣法務部表示將迅速提出修法,保障「未經同意」的人被 Deepfake 技術冒用的權益。但隱藏自己數位足跡的方式也越來越多元化,如果並非像小玉那樣想賺黑心錢,只是單純想靠創造 Deepfake 影片獲得其他利益,也有許多方式掩蓋蹤跡不被抓到。對「抓不到的人」來說,法律作用形同虛設。

當前要務不只是修法或譴責,更重要的是能否引起社會關注,讓更多人投入 Deepfake 過濾器改進與改善,才能大量減少可能引發的社會議題與困境。

(首圖來源:shutterstock)

延伸閱讀: