幾億人都得遵循的 Facebook 社群守則,因 metoo 爭議而修正

作者 | 發布日期 2019 年 06 月 19 日 13:30 | 分類 Facebook , 社群 follow us in feedly


不少人會因為貼文或回應用詞有色情、暴力或是霸凌等情事,而被 Facebook 移除,甚至帳號遭凍結。儘管不能讓上億 Facebook 用戶都滿意,Facebook 社群守則仍配合時代演進,和各方意見回饋而適度修正,像是 metoo 事件時用戶分享受害經驗的貼文,敘述內容微露骨就遭 Facebook 以違反社群守則移除,如今已修正能在 Facebook 訴說過往被害經驗。

metoo 爭議導致修正社群守則

Facebook 內容政策主管(Content Policy Manager)Sheen Handoo 談到 metoo 的爭議,許多人因為分享被性騷擾的經驗,有比較露骨的敘述,因而貼文被移除。受害者走出傷痛有個重要的過程是正視發生的事情,能夠訴說當時發生什麼事情對受害者是相當大的一步,但往往因敘述的內容違反社群守則,而遭到移除的命運。

在 metoo 爭議 Facebook 以社群守則為依歸,移除相關貼文,引發使用者不滿。Facebook 聽取各方看法,召集專家、學者,一起重新審視社群守則,最後社群守則順應各方期待而修正。如今如果是訴說自身被性騷擾的過往,Facebook 會允許這類貼文。

Handoo 說 Facebook 希望社群守則能符合人身安全(safety),表達自由(voice),平等公正(fairness)三原則進行。爭議發生時,由各方專家、學者一起開會,適度的調整社群守則。

▲ Facebook 社群守則的適用範圍,貼文、貼圖、留言有涉及這些狀況 Facebook 都會介入處理。

Facebook 社群守則 24 小時全年無休運作

Handoo 解釋 Facebook 各地的重要辦公室,都有社群內容的審查員,主動或是被動處理不同的狀況。由於社群網站一天 24 小時、一週 7 天都在運作,社群內容審查員採輪班方式運作,不會有時段人力較少的情形。內容審查員組成上人員有不同文化背景,說不同的語言,而中文是 Facebook 用戶當中相當重要的語言,內容審查員當中也有懂中文的人。像是以台灣為例,假若有人檢舉貼文,一定有理解在地脈絡,台灣出身的人負責把關。

Handoo 指出,AI 辨識裸露內容的正確性相當高,成人色情素材可以達到 96.8% 的辨識率,兒童色情素材則是 99.2%,效果不錯,但相當諷刺的是,如果好的效果卻引發爭議。在越戰期間美軍用燒夷彈攻擊村莊,小女孩光著身子逃出來的經典照片,再次出現 Facebook,卻因為有大量裸露被 Facebook 刪除,不少人抗議,也是另一個社群準則被挑戰案例。

▲ Facebook 依據社群守則公佈的執行報告,即便有大量類別能靠程式偵測的情形,仍需要內容審查複核。

內容審查員的工作吃力不討好

Handoo 說他們會給予接觸大量暴力、色情內容、言辭霸凌內容的審查員,有心理諮商的資源。但先前外媒的報導內容審查員有相當高比例得到創傷症候群,另一項 Facebook 未說明的事情,就是內容審查員的工作條件,有不少篇報導提到是採外包簽約型式進行。

Facebook 這類社群平台耗費巨額資源,有相當大編制的內容審查員,仍然收效不佳,並且飽受批評,這是 Facebook 等社群網站的罩門。特別是霸凌在不同文化有不同的面貌,難以透過 AI 自動化偵測糾出來。而目前中國或是俄羅斯運用網路言論變身為針對他國的攻擊武器,而且與網路霸凌性質類似,需要瞭解當地文化的人判斷,但事件往往處理起來相當棘手。

(圖片來源:科技新報)