Facebook 聯手學界徵求好手,舉行 Deepfake Challenge 提升打擊造假影片能力

作者 | 發布日期 2019 年 09 月 06 日 13:04 | 分類 AI 人工智慧 , Facebook follow us in feedly


DeepFake 以假亂真擾亂一般大眾認知,如將名人投像剪接到色情影片之中,或是用來製作謠言在校園當中霸凌同學。儘管 DeepFake 因目前技術限制,仍然在影像接縫或是聲音部分容易漏洩玄機,但 AI 的進步幅度相當大,仍可能有一天製作出一般人辨識不出來的變造影片。這次微軟、Facebook、Partnership on AI 組織中的科技公司,將與學術界合作,共同舉行 Deepfake Detection Challenge,希望在這場貓抓老鼠的競賽當中,能增進偵測方偵測 Deepfake 影片的技術能力。

Facebook CTO Mike Schroepfer 宣布要打擊 Deepfake,並且號召業界和學界共同努力,希望別讓 Deepfake 的技術太過於接近真實,而偵測 DeepFake 的技術反而遠遠落後,造成用 Deepfake 製作的影片在社群平台亂竄,在這個世界上增添更多不實資訊。

Facebook 協助建立訓練偵測 Deepfake 影片的資料集著手進行,由 Facebook 出資請專業演員拍攝演出的片段,不會用到 Facebook 使用者的資料,另外設計競賽 ,鼓勵學界組隊參與,每過一段時間會有分數排行榜,總計一千億美元贊助研究與 Deepfake Detection Challenge 競賽。

Schroepfer 說:「這次競賽的目的,主要是發展讓每個人能有辦法用的,能夠偵測試圖誤導觀看者的 AI 變造影片。Deepfake Detection Challenge 將包括資料集和排行榜,以及獎金和獎品,鼓勵業界發展新發法來偵測和防止經由 AI 變造的媒體用來誤導其他人。」

Schroepfer 還說:「讓社群有自由能運用的資料,以及知情有意願的參與者,還有很少限制的使用條款,這就是為什麼 Facebook 要運用同意演出的專業演員,來嘗試製作真實情境的資料集,進而成為整個競賽的一部分。因此也不會用到 Facebook 使用者的資料。」

參與這次 Deepfake Challenge 的學校單位有加州大學柏克萊分校、牛津大學、麻省理工學院等知名學府,許多參與的教授指出,造假的歷史其實很長遠,到最近才有可能人人有辦法製作以假亂真的不實影片出來。而影片只要不是用拍攝方式錄製,用演算法模擬都是有可能露出破綻。

先前 Facebook 因為被批評太慢處理平台上流竄的 Deepfake 影片,甚至創辦人 Mark Zuckerburg 本人都被用 Deepfake 技術假造談話影片。此時 Facebook 站出來要用競賽形式集合各方資源,也算是有應對不實資訊與 Deepfake 造假的威脅了。

(首圖來源:Facebook)