Facebook 篩選優先審查內容 3 大指標判斷

作者 | 發布日期 2020 年 11 月 17 日 22:45 | 分類 Facebook , 社群 , 網路 Telegram share ! follow us in feedly


Facebook 今天舉行線上說明會,介紹如何運用人工智慧(AI)處理平台上的有害內容,目前 Facebook 會依照傳播性、嚴重性和違反內容政策的可能性,來篩選需要優先審查的內容。

Facebook 表示,十多年前開始審查 Facebook 上的內容時,仰賴用戶檢舉他們認為不適當的內容,這些內容將交由 Facebook 的全球營運團隊審查,若有發現違反規定的內容就會移除。目前 Facebook 在全球約擁有 1 萬 5,000 名內容審查員,負責審查超過 50 種語言的內容。

然而,Facebook 的營運規模不斷成長,仰賴社群檢舉已不是有效率且永續的方式。隨著科技不斷演進,Facebook 的內容審查方法也不斷轉變。Facebook 指出,近年來科技在內容審查逐漸扮演更重要的角色,會在違反社群守則的內容被任何人看到前自動移除。

隨著技術不斷進步,現在 Facebook 能夠依照幾個因素來判斷內容審查的優先次序,包括傳播性、嚴重性、違反內容政策的可能性。

以傳播性為例,Facebook 表示,目前正被快速分享且可能違反社群守則的內容,審查優先次序將高於無人分享或點閱的內容。

在嚴重性方面,可能導致實際傷害的內容例如自殺、自殘或兒童性剝削,Facebook 審查優先次序將高於傷害性較低的內容,例如垃圾訊息。

此外,如果有跡象顯示,某些內容可能與違反 Facebook 政策的內容相似,審查優先次序將高於看似從未違反 Facebook 政策的內容。

Facebook 指出,內容經過優先次序篩選後,就能優先處理嚴重性最高的內容。這也代表 Facebook  全球營運團隊的審查員能有更多時間處理需要人員判斷的複雜內容,而非科技就能判別的低嚴重性檢舉內容。

不過,Facebook 也強調,雖然科技在內容審查上的角色越來越吃重,Facebook 仍然運用「科技+社群檢舉+人員審查」的方式,來偵測及審查可能違反社群守則的內容,這是因為傳統上科技對於內容的理解能力不如人類。

(作者:吳家豪;首圖來源:pixabay

關鍵字: