Facebook 篩選優先審查內容 3 大指標判斷

Facebook 今天舉行線上說明會，介紹如何運用人工智慧（AI）處理平台上的有害內容，目前 Facebook 會依照傳播性、嚴重性和違反內容政策的可能性，來篩選需要優先審查的內容。

Facebook 表示，十多年前開始審查 Facebook 上的內容時，仰賴用戶檢舉他們認為不適當的內容，這些內容將交由 Facebook 的全球營運團隊審查，若有發現違反規定的內容就會移除。目前 Facebook 在全球約擁有 1 萬 5,000 名內容審查員，負責審查超過 50 種語言的內容。

然而，Facebook 的營運規模不斷成長，仰賴社群檢舉已不是有效率且永續的方式。隨著科技不斷演進，Facebook 的內容審查方法也不斷轉變。Facebook 指出，近年來科技在內容審查逐漸扮演更重要的角色，會在違反社群守則的內容被任何人看到前自動移除。

隨著技術不斷進步，現在 Facebook 能夠依照幾個因素來判斷內容審查的優先次序，包括傳播性、嚴重性、違反內容政策的可能性。

以傳播性為例，Facebook 表示，目前正被快速分享且可能違反社群守則的內容，審查優先次序將高於無人分享或點閱的內容。

在嚴重性方面，可能導致實際傷害的內容例如自殺、自殘或兒童性剝削，Facebook 審查優先次序將高於傷害性較低的內容，例如垃圾訊息。

此外，如果有跡象顯示，某些內容可能與違反 Facebook 政策的內容相似，審查優先次序將高於看似從未違反 Facebook 政策的內容。

Facebook 指出，內容經過優先次序篩選後，就能優先處理嚴重性最高的內容。這也代表 Facebook  全球營運團隊的審查員能有更多時間處理需要人員判斷的複雜內容，而非科技就能判別的低嚴重性檢舉內容。

不過，Facebook 也強調，雖然科技在內容審查上的角色越來越吃重，Facebook 仍然運用「科技＋社群檢舉＋人員審查」的方式，來偵測及審查可能違反社群守則的內容，這是因為傳統上科技對於內容的理解能力不如人類。

（作者：吳家豪；首圖來源：pixabay）