低成本高收益，AI 合成名人假影片橫行 YouTube

在 YouTube 上，名為「Cheapfake」的 AI 名人影片正引發熱議，這些影片以低成本的方式創造出虛構的名人故事，吸引了大量觀眾。根據 WIRED 的調查，約有 120 個 YouTube 頻道利用生成式 AI 技術製作這類影片，這些影片通常以名人為主角，並將他們置於虛構的情境中，激發觀眾的情感反應。

例如，一段名為「Mark Wahlberg Kicked Off The View After Fiery Showdown With Joy Behar」的影片，展示了演員馬克·華伯格（Mark Wahlberg）在一個虛構的脫口秀中與主持人佐伊·貝赫爾的激烈對話。儘管這段影片的內容完全是虛構的，卻吸引了46萬名觀眾觀看，並引發大量的評論和討論。這些影片的製作方式簡單，通常僅使用靜態圖像和AI語音合成，背後的技術由OpenAI、11 Labs和Google等公司提供支持。

心理學家西蒙·克拉克（Simon Clark）指出，這些影片利用了情感訴求的修辭技巧，讓觀眾放棄批判性思考，進而更容易被誤導。這些頻道的名稱如「Starfame」、「Media Buzz」和「Celebrity Scoop」等，故意模糊了與真實內容的界限，並在描述中隱藏了AI生成的警告。

YouTube在今年7月15日更新其政策，試圖打擊使用生成式AI製作的內容。儘管如此，這些政策並未明確提及生成式AI，僅要求內容必須是創作者的原創作品。YouTube的發言人表示，所有上傳的內容必須遵守社群準則，並強調不允許使用誤導性做法的頻道存在。

WIRED的調查還發現，37個被標記的頻道已被刪除，這些頻道大多沒有AI聲明，或使用了誤導性的頻道名稱。這些影片的故事情節通常遵循可預測的模式，將名人塑造成英雄，與左派的脫口秀主持人對抗，這種明顯的政治元素使其更具爭議性。

隨著生成式AI的興起，這類內容的製作變得更便宜和容易，許多頻道開始專注於引發爭議的話題，以獲取更多的觀看次數和收入。牛津大學的數據倫理學教授桑德拉·瓦赫特（Sandra Wachter）指出，這種以激怒觀眾為目的的內容是YouTube商業模式的核心，因為這類內容能夠有效地吸引觀眾的注意力。