Google、亞馬遜、Facebook 三巨頭齊上陣,槍口瞄準 Deepfake

作者 | 發布日期 2019 年 12 月 14 日 0:00 | 分類 AI 人工智慧 , Facebook , 數位內容 follow us in feedly


Deepfake 並不是一個陌生的詞,在人們為其所呈現出來的逼真效果驚嘆之餘,它所帶來的負面影響也逐漸蔓延全球。

為了與惡意的 Deepfake 影片對抗,Facebook 在今年 9 月份牽線,聯合學術和企業兩個領域的力量,共同發起以低成本的方式檢測出 Deepfake 影片的挑戰賽。計畫的參與者還包括康乃爾科技校區(Cornell Tech)、麻省理工學院(MIT)、牛津大學(University of Oxford)和柏克萊大學(UC Berkeley)等,以及非營利性研究組織 Partnership on AI──該組織的成員有 Google 、蘋果、亞馬遜、IBM 等大型科技公司。

在本週於溫哥華舉行的 NeurIPS 2019 大會上,這項關於 Deepfake 檢測工具的競賽將正式啟動,競賽到 2020 年 3 月才會結束。Facebook 人工智慧總監、該挑戰賽的負責人之一 Irina Kofman 表示:

看到多個領域的伙伴一起合作是鼓舞人心的,無論是來自企業界還是學術界,我們每個人都帶來了各自領域的見解,因此,我們可以考慮得更廣泛周全。

據悉,從 12 日開始,註冊的參賽者可以下載語料庫來訓練自己的檢測工具。一旦他們完成最終設計,就可以將檢測工具的代碼提交到一個黑盒中驗證。在驗證的過程中,官方系統會根據檢測工具的有效性進行評分。參賽者無需共享自己的工具模型,但他們必須同意開源其工作,只有這樣才能夠獲得挑戰賽的獎勵。

為了這場競賽的順利進行,各大科技巨頭也紛紛貢獻出自己的力量:Facebook 方面表示,他們已經投入超過 1,000 萬美元來鼓勵人們參與競爭;亞馬遜則為參賽者提供可選的模型;Google 旗下的 Kaggle 數據科學與機器學習平台將主辦挑戰賽並負責排行榜(用來評定 Deepfake 檢測系統的能力)的相關事項。

Facebook 首席技術長 Mike Schroepfer 在一篇文章中指出:

Deepfake 技術是基於 AI 技術合成的影片,它的真實性和合法性受到一定的質疑。但截至目前,人們並沒有相應的數據集或基準來幫助檢測 Deepfake 影片。所以,我們希望能找到一個解決方案,幫助人們發現這些被篡改過的影片,進而避免被誤導。

(Source:Facebook AI

為了加快數據集的創立,Facebook 不僅委託研究人員生成逼真的 Deepfake 影片來充當訓練材料,以便於測試檢測工具的效果。與此同時,Facebook 也表示,這些影片邀請一組「多樣化」的付費演員出演,大約 54% 的女性和 46% 的男性。

Facebook AI 研究經理 Christian Ferrer 表示,該數據集(總共包含超過 10 萬個影片)在 10 月份的國際計算機視覺會議上進行測試,而且它不包括任何用戶數據,並且只有已簽訂使用協議的團隊才能訪問。

雖然,目前加州大學柏克萊分校(University of California, Berkeley)和南加州大學(University of Southern California)共同開發的一種工具已經提前發布,它的辨識準確率超過 90%,但與此同時, Deepfake 技術也在不斷變化發展,這也讓檢測變得越來越困難。

紐約大學坦登工程學院電腦工程助理教授 Siddharth Garg 對此表示,「這就像一場貓鼠遊戲,如果我們設計了一個 Deepfake 的檢測器,就等於給駭客一個新的模擬器進行反測試。」

總之,想要打贏與 Deepfake 製作者之間的「軍備競賽」看起來長路漫漫,但這場關於檢測工具的競賽馬上就要全面展開,來自各方的力量將一同抗衡作惡的 Deepfake──我們應該樂觀一點。

(本文由 雷鋒網 授權轉載;首圖來源:pixabay

延伸閱讀: