製造憤怒情緒、模擬爭論,美研究員:俄網軍利用演算法來散布假新聞

作者 | 發布日期 2017 年 11 月 02 日 16:00 | 分類 Facebook , 社群 , 網路 follow us in feedly

網路出現後,訊息傳播的方式改變許多,這些改變在社群媒體出來後又變得更巨大,各地新聞都能及時傳播到每個角落,這原本是一件好事,直到人們想出另一種方式運用網路。



CNET 報導指出,過去幾年間,人們逐漸學會如何將熱門話題轉化為傳播錯誤訊息的工具。就像可愛的寵物影片一樣,這些釣魚者(trolls)已經搞懂人們在社群網路希望分享什麼,並利用這種傾向來散布憤怒和假消息。

這些瑣碎的行為比起談話節目影響更大,最近 Facebook 和 Twitter 便面臨許多批評,關於他們如何失去了對平台的控制力,許多美國民眾都認為,假新聞的快速傳播和越來越複雜的網路環境影響了 2016 年的美國總統大選。

牧羊人、牧羊犬與羊群

對於假新聞的散布,美國智庫大西洋理事會(Atlantic Council)DFRLab 的國防和國安分析師 Ben Nimmo 解釋,宣傳者的目標是讓訊息廣為散布,要做到這樣最好的辦法便是利用人群。

一旦透過多人散布,在社群演算法的「協助」下,這些資訊便會成為一種主題標籤(hashtags),讓人感覺這些虛假消息是一種主流。

「你不能告訴 100 萬個人要怎麼做,但你可以找到 10 個人,並讓他們把這些消息傳出去。」

Nimmo 一直在追蹤假新聞的傳播,以及這些組織如何宣傳,他在這些研究中,發現病毒式的訊息傳播可分成 3 個階段:

牧羊人帳號(Shepherd accounts)

這類型帳號會由高度活躍和具影響力的人管理,主要負責開啟熱門話題,像是一個已知由俄羅斯支持的推特帳號 @TEN_GOP,過去就偽裝成田納西州的保守組織,刻意引發群眾對特定問題的憤慨。

@TEN_GOP 在推特約有 11.5 萬名追隨者,他會與高調參與討論的網友互動,像是美國國安局(NSA)前顧問 Michael Flynn 和政治顧問 Roger Stone 都是對象之一。

牧羊犬帳號(Sheepdog account)

牧羊犬帳號也是由人管理,他們主要負責將文章轉發出去,並積極加入討論,讓人們認為這些並非刻意製造的議題,而是非常正常的「大勢所趨」。

羊帳號(Sheep accounts)

羊帳號則是機器人,負責透過轉發或按下喜歡替文章推波助瀾,這些數字讓旁觀者相信這些不實消息確實是一個議題。然後在不久之後,這些不實消息便會真的成為一個議題。

(Source:pixabay

這些攻擊並不總是成功,因為社群媒體開始學會如何找出羊群。

推特在 2014 年開始便實施類似措施防範羊帳號製造熱門話題。發言人透露,去年系統每週都會找到 320 萬個可疑帳號,現在每天則會發現近 13 萬個牧羊人帳號。

但相較機器人,人為的趨勢仍難以確認,推特表示,該如何確定非機器式的合作非常棘手,誤認的風險也非常高。與此同時,背後的釣魚者也會更謹慎,游移在成功與不成功邊緣,確保不實消息被炒熱的同時又不被抓住。

「如果你做太多,你會被發現,但如果你做太少,病毒式傳播的效果便無法出來。」

喜歡生日快樂、也喜歡爭論的演算法

假新聞的傳播問題早已不是一天兩天,曾在國務院擔任數位戰略研究助理的 Moira Whelan 指出,他們過去就注意到類似情況,也通知 Facebook 正視這個問題。

在過去,俄羅斯的網軍常會用垃圾訊息塞滿大使館的臉書評價,試著淹沒真正人群的意見,但這些舉動在 2014 年突然停止。Whelan 注意到,他們的新戰術轉向假新聞與模擬爭論。

如果假消息是為了誤導人,假爭論便是為了分化人群並分散注意力。透過散布憤怒的情緒,俄羅斯網軍能掩蓋一些真實消息,同時讓人們進一步分成團體互相爭執。

Whelan 解釋,Facebook 的演算法對「生日快樂」、「恭喜」等文字會產生反應,但同樣對爭執也會,於是俄羅斯人便會模擬這些爭論,藉此讓文章的曝光度提升。

「我們試著讓 Facebook 注意這個問題,但他們似乎不太重視。」

Facebook 對此並未做出任何評論。但對過去曾在 Facebook 任職、協助開發動態消息(News Feed)關鍵功能的 Lior Abraham 來說,演算法如此被人利用是他從未曾想過的。

Abraham 強調,當初他協助開發動態消息,目的是為了促進人們與朋友、家人的交往,而不是用來政治宣傳。過去 Facebook 會將故事和照片列為優先,但在隨著演算法逐漸調整為更多人工智慧(AI)操作、更少人力參與,優先選項也就隨之改變。

即使如此,將優先選擇的重點放在參與度,讓爭論躍升到人們關注的最前排,Abraham 幾乎不能明白這是為了什麼。

「這和當初我們創造社群的初衷相違背,你只是在分化更多團體。」

有趣的是,其實網軍這些宣傳運動之所以能在社群媒體取得成功,是因為他們採用與企業相同的策略。

他們會使用像是 Facebook 的 CrowdTangle 類型的廣告分析工具,來追蹤流行和熱門貼文,和多數負責社群媒體發文的編輯相同,他們也會替文章安排時間,讓貼文穩定發出。

但和新聞媒體不同的是,這些網軍有非常不公平的優勢,那就是成千上萬的機器人帳號等著推動這些文章的關注度。

(Source:Flickr/The Public Domain Review CC BY 2.0)

「如果你的公關部門每個人都轉發你的貼文,那是很好的宣傳,但大概只有 35 人,而這些網軍卻有 3 萬個以上帳號幫忙宣傳。」

如果你也注意到你的臉書動態變得負面,那便是演算法試著透過爭論促進參與,但隨著機器人大軍入侵,網路生態變得越來越複雜,你很難判斷爭吵的對象是否真的存在。

哥倫比亞大學陶氏數位新聞中心的主管 Jonathan Albright 認為,網軍正在使用和過去垃圾郵件寄送者相似的手法來傳遞這些資訊,當他們看到消息受到人群關注並引發憤怒情緒時,他們就會試著將其框進政治性描述。

「他們真的很努力在推動憤怒和消極的情緒。」

日前的網路安全聽證會,維吉尼亞州議員 Don Beyer 公開強調,網路安全不再只是保護人們的數據免於盜竊,也必須防範類似的虛假宣傳活動。

「這也是為了維護我們的民主。」

(首圖來源:shutterstock)

延伸閱讀: