微軟推出 Deepfake 偵測工具,防假影片攪亂美國大選

作者 | 發布日期 2020 年 09 月 07 日 8:15 | 分類 Microsoft , 數位內容 , 網路 Telegram share ! follow us in feedly


因今年美國總統大選,Deepfake 再次引發關注。

Deepfake 的深度造假能力自不必多說,支援換臉、換頭、對嘴型,逼真程度已達肉眼無法察覺的地步。由於廣泛用於製造假色情影片,學術界、企業界開始聯合發力研發 Deepfake 偵測工具。

近日,微軟推出兩項最新 Deepfake 偵測技術,不過目的是保護美國大選免受假訊息威脅。

Deepfake 偽造政治言論

近幾年,有關政界的假資訊充斥社交網路。

據普林斯頓大學教授 Jacob Shapiro 最新研究結果,2013~2019 年,社交媒體累計發起 96 次政治運動,多為詆毀政客、誤導公眾、激化辯論等。

涉及 30 多國中美國占 26%,其他國家有亞美尼亞、澳洲、巴西、加拿大、法國、德國、荷蘭、波蘭、沙烏地阿拉伯、南非、台灣、烏克蘭、英國和葉門等。

這些運動 93% 為原創內容、86% 誇大的內容、74% 歪曲客觀事實。報告還顯示,關於 COVID-19 大流行的假資訊導致大量人們死亡和感染。

Deepfake 出現和發展,再次為製造假資訊提供更方便的路。YouTube 有關 Donald Trump、Barack Obama、Elon Musk 等名人政客的假換臉影片屢見不鮮。

▲ 川普的臉無縫貼到演員(Alec Baldwin)身上,發表與本人不相關的言論。

影片雖多為網友惡搞,但美國大選在即,難免有人利用這項技術擾局。而 Deepfake 的深度造假能力,以及對政界可能產生的影響,也早有先例:

2018 年,加彭(非洲中西部國家)總統 Ali Bongo 因病消失數月,為了打消外界圖謀不軌的猜測,政府發表一支 Ali Bongo 錄製的新年致辭影片,這支由 Deepfakes 技術合成的影片,差點引發軍方兵變。

2019 年,一段關於馬來西亞經濟部長 Azmin Ali 與男性發生性關係的影片在網路瘋傳(同性性關係在馬來西亞屬違法)。雖然 Azmin Ali 聲稱這段影片是用 Deepfakes 技術假造,是政治陰謀,但國際專家聲稱找不到偽造跡象。

CNAS 技術與國家安全項目主任 Paul Scharre 曾警告,Deepfakes 有極大破壞性,利用它操控選舉只是時間問題。

另外,今年美國因武漢肺炎疫情肆虐,美國大選期間所有活動幾乎都改為線上,無疑為偽造假言論提供許多素材。

微軟近日宣稱最新研發的 Deepfake 偵測工具,可有效幫助用戶辨識假資訊,目前已經與多家媒體合作,保護美國大選期間免受假消息的威脅。

捍衛民主,微軟推出 Deepfake 偵測工具

Deepfake 偵測是微軟「保護民主」計畫之一。該計畫於 2018 年啟動,截至目前陸續推出 Election Guard、Account Guard,Microsoft 365 for Campaigns 和 Election 等多項技術,並廣泛用於政治活動。

除了以上技術,針對 Deepfake 可能帶來的政治威脅,研發了兩項最新偵測技術。

其中一項為影片認證器(Video Authenticator)。Deepfake 廣泛用於影像、音訊和影片造假,其中影片是常用且可信度更高的方式。影片認證器可在影片播放每幀與原圖即時比對,並分析資料,工作原理是偵測人眼無法察覺的深偽、細微褪色或灰階元素的混合邊緣。

(Source:微軟

影片認證器透過 DeepFake Detection Challenge 資料庫測試,資料庫是訓練和測試 DeepFake 偵測技術的領先模型。

今年 Deepfake 挑戰賽,參賽團隊基於此資料庫在辨識虛假準確性最高達 80% 以上,黑盒測試準確率最高達 65%。

但由於資料庫使用有一定限制,影片認證器的訓練是透過建立 Face Forensic ++ 資料集完成。

目前這項技術已與 AI 基金會達成合作,AI 基金會是位於舊金山的商業和非營利性企業,使命是將 AI 力量和保護帶給全世界每個人。透過這種合作關係,影片認證器可供參與民主程序的組織(包括新聞媒體和政治運動)廣泛使用。

不過,影片認證器僅透過 RD2020(Reality Defender 2020)使用,因將指導組織透過任何 Deepfake 偵測技術固有的局限性和道德考量。

除了對偵測已有資訊,微軟另一項技術,是支援從資訊源頭杜絕偽造。微軟部落格寫道:

從長遠來看,我們必須尋求更有力的方法來維護和證明社群媒體資訊的真實性。 目前幾乎沒有任何工具可幫助讀者確信網路看到的資訊來源可靠,且沒有被篡改。今天我們宣布的技術,既可偵測受操縱的內容,又可以向人們保證收看的媒體是真實的。

具體來說,這項技術有兩個組成部分。 第一個是內建於 Microsoft Azure 的工具,使內容製作者向內容片段添加數位函式(Digital hashes,又稱數位雜湊)和證書(Certificates)。函式和證書將內容當成數據儲存在任何網路可傳遞的地方。

第二個是閱讀器,可當成瀏覽器延伸或其他形式,檢查證書並符合函式值,讓人們高度準確知道內容是真的,沒有被變更,並提供關於誰製作的詳細資訊。

此技術由微軟研究院、微軟 Azure 與捍衛民主計畫(Defending Democracy Program)合作開發,並與英國廣播公司(BBC)、加拿大廣播電台和《紐約時報》等多家媒體公司組成合作夥伴關係。

(本文由 雷鋒網 授權轉載;首圖來源:微軟

延伸閱讀: