內部員工揭祕,TikTok 如何審核內容

作者 | 發布日期 2020 年 06 月 15 日 15:54 | 分類 數位內容 , 社群 , 網路 Telegram share ! follow us in feedly


由於增長、合規等諸多因素,內容審核對任何網路內容產品來說,都是很難但卻逃不過的事,更別提 TikTok 這由中國公司開發營運、全球爆紅的短片平台。

TikTok 短時間內受到諸多考驗和打擊,許多都和內容審核有關。

去年大批用戶詬病 TikTok 對未成年用戶隱私和使用體驗保護不力,甚至放任戀童癖肆虐;今年初有媒體爆料 TikTok 要求審核員擋下破牆爛瓦或呲牙咧嘴等「視覺不美好」的內容;最近美國平權運動大爆發,又有用戶指責 TikTok 屏蔽遊行相關內容……如果不改進,TikTok 的全球擴張將面臨更多風險。

躲不過,那就正面對決。面對這些質疑,TikTok 決定採用開誠布公的姿態面對。

今年 3 月,TikTok 宣布在加州洛杉磯辦公室內開設全球第一家開放「透明度中心」(Transparency Center),為媒體及數據隱私、內容審核專家提供導覽參觀,讓大眾直接全面了解 TikTok 內容審核。不過由於疫情,這座透明度中心的開放計畫也受到影響。

近日,筆者詢問字節跳動現任和離職員工,了解更多關於 TikTok 透明度中心的營運,以及內容審核機制的細節。

標籤決定一切

根據知情人士透露的情況,參觀者在 TikTok 透明度中心將可看到內容安全的關鍵流程,也能夠親眼目睹人工內容審核員的工作。

以直播內容為例,每位內容審核員將面對一塊螢幕,上面會有多條(最多同時 9 條)內容截圖。這些出現在審核員螢幕的內容,來源有兩種:

  • 第一種是機器抽幀分析直播影片,分析截圖可能包含的高風險內容,然後送到人工螢幕,審核員主要基於抽幀結果二次分析。
  • 第二種是用戶舉報及其他管道,人工操作也類似。

了解 TikTok 內容審核機制的消息來源透露,審核員看到內容之前,機器已進行不只一道預先審核。最基礎的就是分析內容品質,如垃圾內容、競爭對手內容,把這些品質明顯最低的內容以「不推薦」處理,結果就是不會出現在非關注用戶的頁面。

同時機器還會藉助預先設計的模型高級分析。這步自動化操作主要針對明顯嚴重違法的內容,如兒童色情、宣揚恐怖主義等。一旦內容模型驗證成功,就不是簡單的「不推薦」了,而是直接下架。

進入人工審核階段後,審核員的主要工作是查看機器提交的截圖或直接看即時影片,標記各種標籤。

較早的 1.0 版本的 TikTok 審核機制,主要的標籤是「推薦」和「不推薦」;現在 TikTok 內容審核系統升級到 2.0 版,標籤多樣性顯著提升,除了推不推薦,還有「兒童色情」、「裸露」、「性」、「仇恨言論」、「宣揚暴力」、「宣揚恐怖主義」等諸如此類大量新標籤。內容被打上不同標籤,造成的結果不同。

一旦影片打上較嚴重的標籤(包括機器自動標記和後續的人工核查/手動標記),將會自動觸發標籤預先設定的操作。

某些標籤關聯較輕,結果可能是不推薦;至於兒童色情和宣揚恐怖主義這類標籤,關聯的就是下架,結果是直接下架。如果自動處理後,影片熱度達到特定值,還會召回人工再看一遍,確認處理是否合適。

簡單來說,就是標籤決定一切。

這套新的內容審核機制,顯著提高內容標籤的數據價值,幫助 TikTok 掌握平台內容生態動向。

類似的內容審核思路,以 YouTube 為代表的其他頂級內容平台也在採用(事實上,TikTok 的思路就是來自 YouTube)。

前幾週,有美國用戶宣稱自己在黑人平權運動遊行現場的 TikTok 直播內容被平台阻擋,此後,包括路透社等新聞機構都做了事實核查,發現並非如此。

TikTok 當時並沒有阻擋遊行內容,巧就巧在當時平台搜尋話題故障,包括 #BLM、#Cat 等許多話題搜尋都無法顯示影片播放量。

根據多位消息來源透露,TikTok 目前所有內容審核功能,都是逐案進行,並沒有針對如此大規模活動即時、全話題等級屏蔽的先例。

規則和審核操作完全本地化

現任員工透露,具體的內容審核原則,會根據審核對象所在地不同的法律、法規、文化和習俗,採用不同的審核尺度。

比如在美國大麻使用已在少數州合法,全國 35 個州醫用合法,如果有這些州用戶的 TikTok  影片出現對應藥品,內容審核就會遵守所在州法律的條文,而其他州用戶的類似內容則會判定為違規。

同理,諸如仇恨言論、平權、宗教等爭議話題,TikTok 都會參考各個國家不同的法律法規文化習俗,制定針對性的內容審核標準。

字節跳動現任員工透露,未來 TikTok 的內容審核工作也會完全本地化,意味著:美國的審核團隊負責美國本土上傳和直播內容,甚至在美國會設立多間透明度中心、多批審核團隊,分別審核不同州的內容;印度團隊按照印度法律審核印度內容;新加坡的團隊審核新加坡的內容。

TikTok 的計畫是,所有內容審核工作都由本地團隊執行。一些重要的國家或地區市場,也會逐步開設自己的透明度中心,讓當地大眾一覽平台內容審核的全貌。不過目前新中心的開設計畫並未啟動,畢竟美國第一座中心還未完全落實。

一方面為了合法營運,最小化公司面臨的海外監管和輿論風險,另一方面也是為了一家中國科技公司史無前例的國際化大計,字節跳動最近幾年多次大刀闊斧人力和內部技術改革,拆分團隊、設立防火牆,以及 TikTok 升級內容審核系統,都是改革的一部分。

TikTok 還在今年 3 月宣布成立 7 名外部專家組成的內容審核委員會,包括法律、技術、民權運動和政策等專家。

其中一名委員 Dan Schunur 接受科技媒體 TechNode 採訪時曾表示,他對 TikTok 主動接受批評、展開合作、做出改變,而非躲避問題感到印象深刻。

(本文由 PingWest 授權轉載;首圖來源:shutterstock)