研究：中國用 Deepfakes「虛擬主播」大外宣

8 日研究顯示，新 Deepfakes 宣傳影像在網路流傳，而播報新聞的「主播」看起來很真實，但其實是人工智慧捏人，認為與中國政府有關。

總部位於美國的研究公司Graphika（格拉菲卡）報告，指這些虛擬主播是為「狼新聞」（Wolf News）的虛構新聞媒體，由人工智慧軟體創建，且社群媒體流傳的影像，似乎在幫忙宣傳中國共產黨。

Graphika情報副總裁傑克·史塔博（Jack Stubbs）告訴法新社（AFP）：「這是我們第一次看到與國家相關行動，使用人工智慧產生的虛構片段製作欺騙性假新聞。」報告分析一段影像，自稱Alex的男主播批評美國對困擾許久的槍枝暴力無作為。另一段影像女主播強調美中「大國合作」的重要性。

人工智慧進步引發全球對此技術遭濫用或傳播假資訊的擔憂，人工智慧可平空創造假影像，或顯示某人開口講出從未說過的話。

去年Facebook母公司Meta表示，刪除烏克蘭總統澤連斯基（Volodymyr Zelenskyy）敦促公民放下武器向俄羅斯投降的合成假影像。

中國沒有立即回覆Graphika報告。幾週前北京政府剛推出《互聯網資訊服務深度合成管理規定》，上個月實施新規定，要求提供深度合成服務的企業取得客戶真實身分，還要求標記Deepfakes合成內容，以避免「公眾混淆或誤認」。中國政府警告，Deepfakes合成技術被「不法人員」用來「危害國家安全和社會穩定」。

Graphika報告稱幾乎可肯定地說，這兩位「狼新聞」主播是用倫敦人工智慧新創公司Synthesia技術創建。Synthesia沒有立即回應法新社置評請求，公司軟體可「根據真實演員的影像片段」創建虛擬形象。

Graphika表示，追蹤稱為「垃圾偽裝」（spamouflage）的親中假訊息活動時，在Twitter、Facebook和YouTube等平台都發現假影像。

斯塔布斯說：「垃圾偽裝是親中國影響力行動，主要傳播低品質的政治垃圾影像。」

他說：「儘管有用到複雜技術，但最新影像看來大同小異，顯示操作影響力時使用Deepfakes等模型造假的局限性──它們只是日益先進工具箱內的工具之一。」

（本文由 美國之音 授權轉載；首圖來源：Pixabay）