美國國會討論 Deepfake 隱藏風險對應方式

Deepfake 人工智慧「換臉」技術已不是新鮮事，不過隨著技術越來越進步，要達到這效果的門檻變得更低，除色情影片外，如果有圖謀不軌的人利用 Deepfake 製作假新聞加以傳播，則能有效操控輿論。美國國會最近就針對這危機討論，尋求解決辦法。

美國國會的情報委員會最近開會與 AI 專家討論對付 Deepfake 技術的方式，這個問題如果不處理，明年即將舉行的美國總統大選，就有機會利用為操控輿論的工具，讓選民暴露於假資訊中。上次美國總統大選曾出現外國大規模操控輿論的情況，這次也需要嚴防類似事件發生。長遠而言這樣也會導致資訊不被信任。外交政策研究所研究員 Clint Watts 告訴委員會，「如果一個資訊消費者不知道該相信什麼，他們不能從虛構內容得知事實，那麼他們可能相信一切，或不相信任何東西。如果他們什麼都不相信，那就會導致長期冷漠，這對美國具破壞性。」

目前各範疇已開展研究工作打擊 Deepfake。人工智慧研究所所長 David Doermann 博士為去年 DARPA 媒體取證團隊的負責人，他和研究人員開始透過追蹤不規則眼球運動和 Allen Institute for Artificial Intelligence 合作，使用深度檢測演算法 Grover 偵測 Deepfake 的 AI 系統，聲稱準確率達 92%。委員會呼籲科技公司應該致力探索在資訊平台阻止 Deepfake 內容流通的方法，競選團隊也不應使用這技術宣傳。未來他們將考慮更多主動式預防，希望可防範未然。