機器學習提高內容審查效率,YouTube 三個月撤除近 830 萬部違規影片

作者 | 發布日期 2018 年 04 月 24 日 19:10 | 分類 Google , 數位內容 follow us in feedly

YouTube 為遏止使用者濫用自家平台上傳暴力和極端主義內容,已採行多項措施嚴加管控並加速移除違規內容。今(24)日稍早 YouTube 公布最新數據顯示,2017 年第四季已移除近 830 萬部違規影片,其中由機器學習技術所標記出的不當內容就占達八成。




先前 YouTube 因未能有效防制暴力極端內容,損害品牌與社群形象也引發輿論抨擊,甚至遭到各國政府施壓。YouTube 在過去一年多來針對不當內容積極採取行動,除了制定更嚴謹的政策與管理措施加以因應,也擴編審查團隊加強內容把關,並透過機器學習技術大量標記可能含有違規內容的影片,務求快速有效地將不當影音內容刪除。

機器學習技術經過不斷學習與精進,現在無論是針對數量較少的暴力極端主義影片,或是數量龐大的垃圾內容,都能夠快速精準標記後送交審查。據最新公布的《YouTube 社群規範執行報告》指出,2017 年 10 月至 12 月期間已有近 830 萬部影片遭移除,其中有八成約近 670 萬部違規影片為機器學習技術所標記;而由機器學習所標記的影片中,又有 76% 在還未有任何觀眾觀看前就被移除,證明執行速度更快又有效率。YouTube 提到,這些遭到移除的影片多為垃圾內容或成人內容。

▲ YouTube 在 2017 年第四季移除近 830 萬部違規影片,當中有近 670 萬部是由機器學習技術所標記(Source: YouTube

不過,YouTube 並沒有因為採用機器學習技術而精簡審查人力,反而增加人手,強調真人審查與機器學習技術兩者缺一不可。YouTube 表示,現已聘雇所需的最大人力處理違規內容,也聘請熟悉暴力極端主義、反恐和人權領域的全職人員;另將持續跟超過 150 個學術單位、政府合作夥伴和非政府組織交流,並與更多全球各地的兒童安全機構建立夥伴關係。

(首圖來源:YouTube)

延伸閱讀: