擔心 Deepfake?還是先擔心斷章取義的短影音吧

作者 | 發布日期 2020 年 01 月 06 日 16:56 | 分類 數位內容 , 社群 , 網路 follow us in feedly


當 Deepfake 這種技術開始被普通人所運用時,它的威力也開始顯現。約 96% 為色情內容,這對那些莫名成為色情內容主角的人造成了困擾,而當它被用在選舉等政治領域時,它的威力也絲毫沒有減弱,但對於大多數人來說,Deepfake 中涉及到的人工智慧還是太遙不可及了。要打擊「假」影片,還是先關注一下影片剪輯軟體做出的「假」影片吧。

美國前副總統拜登最近的悲慘遭遇就與影片剪輯造假有關。在那個「假」影片中,剪輯者斷章取義地讓這位總統候選人看起來像一個種族主義者:「我們的文化不是從非洲國家或亞洲國家引入的,我們的法律文化源於英國。」這段「假」影片的標題是「拜登宣稱美國的歐洲身分:我們的文化不是從某個非洲國家引入的。」

群眾的憤怒被這條 Twitter 點燃了,20 秒的短影片迅速獲得百萬的點擊量,且該影片還在迅速傳播。民眾在這條 Twitter 下面把拜登稱為白人至上的種族歧視者,說他是右翼,瘋狂地辱罵他、抨擊他。但在評論區仍有不少用戶表示,這段影片刪掉了拜登的部分內容,漏掉了重要的上下文,這使得拜登的意思被完全曲解了。CNN 的記者 Daniel Dale 就表示這是一個「假」影片:

一段斷章取義的拜登影片在 Twitter 上流傳。拜登進行十多分鐘的演講,講述他反對家暴和性侵的歷史,他反覆將其描述為一個「文化問題」,認為這可以追溯到寬鬆的英國法律歷史。他講了一個過去英國法官容忍丈夫毆打妻子的故事。幾分鐘後,他回到了他的論點,即美國人對虐待婦女的縱容是從幾個世紀前的英國人的縱容中衍生出來的。

從這個角度來說,拜登的真實意圖和影片剪輯者想要表達出的意思完全相反,但大家不會花時間去看更長的影片,一一驗證消息來源,他們常直接將對方定義為種族主義者。我們現在更應該擔心這類任何人都能「做」出的影片,透過斷開前後文、忽略語境、斷章取義,它可以讓每個人的影片都成為被痛批的政治不正確影片。而當每個平台都在用新的技術手段和營運手段來減少 Deepfake 影片的時候,平台對這類斷章取義的影片卻「束手無策」。Twitter 的發言人就表示,拜登影片的熱門推文並未違反公司的規定,他們正在制定一項新的政策來處理被操縱的影片。雖然缺少具體的限定原則,但 Twitter 仍會將其界定為被操縱的媒體內容,只是我們不清楚,Twitter 的新政策是否也能限制這類斷章取義的影片。

(Source:Facebook AI

Deepfake 的神奇之處在於無中生有,將你沒有做過的事情用影像來「證明」,它甚至能在真實的影片之上改變你的嘴形和表情,完全改變你想表達的狀態和原意。而斷章取義的影片則不同,因為那些話都是你真實說出來的,你沒辦法拍桌子告訴其他人你沒說過,你很難讓別人知道你的原意被曲解。圍觀群眾哪有那麼多的時間呢?他們把你定義為種族歧視者就走了。不管是哪種「假影片」,對我們來說都很可怕。

政治學家 Emily Thorson 就表示,人總是容易受到錯誤訊息的影響。

我認為,現在真正的挑戰在於社群媒體等新技術的即時性、範圍和易傳播性。在什麼情況下,人們更容易接受錯誤訊息?弄清這個,會引出一些有趣的領域。我們知道語境很重要,但認知、語言、社會和其他因素也會發揮作用。

(本文由 愛范兒 授權轉載;首圖來源:pixabay