Deepfake 並不是一個陌生的詞，在人們為其所呈現出來的逼真效果驚嘆之餘，它所帶來的負面影響也逐漸蔓延全球。
為了與惡意的 Deepfake 影片對抗，Facebook 在今年 9 月份牽線，聯合學術和企業兩個領域的力量，共同發起以低成本的方式檢測出 Deepfake 影片的挑戰賽。計畫的參與者還包括康乃爾科技校區（Cornell Tech）、麻省理工學院（MIT）、牛津大學（University of Oxford）和柏克萊大學（UC Berkeley）等，以及非營利性研究組織 Partnership on AI──該組織的成員有 Google 、蘋果、亞馬遜、IBM 等大型科技公司。
在本週於溫哥華舉行的 NeurIPS 2019 大會上，這項關於 Deepfake 檢測工具的競賽將正式啟動，競賽到 2020 年 3 月才會結束。Facebook 人工智慧總監、該挑戰賽的負責人之一 Irina Kofman 表示：
看到多個領域的伙伴一起合作是鼓舞人心的，無論是來自企業界還是學術界，我們每個人都帶來了各自領域的見解，因此，我們可以考慮得更廣泛周全。
據悉，從 12 日開始，註冊的參賽者可以下載語料庫來訓練自己的檢測工具。一旦他們完成最終設計，就可以將檢測工具的代碼提交到一個黑盒中驗證。在驗證的過程中，官方系統會根據檢測工具的有效性進行評分。參賽者無需共享自己的工具模型，但他們必須同意開源其工作，只有這樣才能夠獲得挑戰賽的獎勵。
為了這場競賽的順利進行，各大科技巨頭也紛紛貢獻出自己的力量：Facebook 方面表示，他們已經投入超過 1,000 萬美元來鼓勵人們參與競爭；亞馬遜則為參賽者提供可選的模型；Google 旗下的 Kaggle 數據科學與機器學習平台將主辦挑戰賽並負責排行榜（用來評定 Deepfake 檢測系統的能力）的相關事項。
Facebook 首席技術長 Mike Schroepfer 在一篇文章中指出：
Deepfake 技術是基於 AI 技術合成的影片，它的真實性和合法性受到一定的質疑。但截至目前，人們並沒有相應的數據集或基準來幫助檢測 Deepfake 影片。所以，我們希望能找到一個解決方案，幫助人們發現這些被篡改過的影片，進而避免被誤導。
（Source：Facebook AI）
為了加快數據集的創立，Facebook 不僅委託研究人員生成逼真的 Deepfake 影片來充當訓練材料，以便於測試檢測工具的效果。與此同時，Facebook 也表示，這些影片邀請一組「多樣化」的付費演員出演，大約 54% 的女性和 46% 的男性。
Facebook AI 研究經理 Christian Ferrer 表示，該數據集（總共包含超過 10 萬個影片）在 10 月份的國際計算機視覺會議上進行測試，而且它不包括任何用戶數據，並且只有已簽訂使用協議的團隊才能訪問。
雖然，目前加州大學柏克萊分校（University of California, Berkeley）和南加州大學（University of Southern California）共同開發的一種工具已經提前發布，它的辨識準確率超過 90%，但與此同時， Deepfake 技術也在不斷變化發展，這也讓檢測變得越來越困難。
紐約大學坦登工程學院電腦工程助理教授 Siddharth Garg 對此表示，「這就像一場貓鼠遊戲，如果我們設計了一個 Deepfake 的檢測器，就等於給駭客一個新的模擬器進行反測試。」
總之，想要打贏與 Deepfake 製作者之間的「軍備競賽」看起來長路漫漫，但這場關於檢測工具的競賽馬上就要全面展開，來自各方的力量將一同抗衡作惡的 Deepfake──我們應該樂觀一點。
科技新報粉絲團
加入好友
訂閱免費電子報
