沒有想像嚴重,MIT 研究指出 Deepfake 當政治宣傳工具效果不明顯

作者 | 發布日期 2021 年 11 月 20 日 18:11 | 分類 AI 人工智慧 , 網路 , 資訊安全 Telegram share ! follow us in feedly


自從 AI 深度偽造影片技術出現後,各國普遍擔心這項技術用作資訊戰或混合戰爭工具,但麻省理工學院近日研究,透過受試者觀看偽造影像及偽造文字稿,比較兩者的影響力,發現影片對受試者的認知判斷與文字沒有太多差異。

美國參議院從 2019 年開始,就由共和黨籍 Rob Portman 與民主黨籍 Gary Peters 兩名參議員,推動深度偽裝影片專門法案(Deepfake Taskforce Act),認為 Deepfake 影片將很快成為新型態的國家安全威脅。

「由於 Deepfake 技術出現,眼見為憑這種傳統認知變得越來越不可靠。」Portman 參議員表示,偽造的影片或圖片經過網路,可一瞬間欺騙全世界。

麻省理工學院(MIT)為了驗證 Deepfake 影片對人們的認知影響,發起研究,將 7,600 名受試者分為兩組,一組觀看隨機知名政治人物發表政策的 Deepfake 影片,另一組受試者則觀看同樣內容的文字稿,並用問卷調查兩組受試者,是否相信政治人物發表過影片裡的政策,以及是否認同政策內容。

研究顯示,看過影片的受試者,相信政治人物確實發表過政策的比例,的確高於只閱讀文字稿的人,但若比較兩組之間對於政策內容的認同度,影片和文字組的受試者幾乎沒有差別。

「即使影片的確比文字更容易令人相信真有其事,但不代表 Deepfake 影片真能改變人們想法。」論文主筆之一的 Adam Berinsky 教授表示,雖然 7,600 人規模的測試結論,比起全美國廣大選民來說仍屬小眾,但以研究團隊的計算模型來看,影片之於文字稿的微小優勢,放大到全國後,因受眾種族、社經背景多元性更高,差距會比實驗數據更小。

不過研究團隊仍然強調,Deepfake 影片比其他形式假訊息仍有不可取代的優勢,就是觸及率高,但政治人物的 Deepfake 影片雖然觀看數累積較快,影響力卻不見得比文字版假新聞高。

(首圖來源:影片截圖)