憂成不當影音溫床,YouTube 明年出動萬人審查內容加強把關

作者 | 發布日期 2017 年 12 月 08 日 20:52 | 分類 Google , 數位內容 , 電子娛樂 follow us in feedly

YouTube 無疑是影音創作者揮灑創意的絕佳舞台,卻也有不肖使用者濫用其開放性,上傳暴力激進主義、虐童等不當影音內容,甚至經過包裝以規避演算法審查,造成 YouTube 審查疏漏而備受輿論抨擊。為嚴格篩檢不當內容,YouTube 計劃 2018 年出動 1 萬名審查人員加強把關。




YouTube 之所以大動作採取防制措施,原因是平台上有大量不當影音內容違規上傳,除了涉及暴力激進主義外,還有許多兒童裸露、虐童等不雅內容,結果引來戀童人士留言猥褻,更有許多企業廣告遭自動置入在這些不當內容當中,使品牌形象受損而引發抗議。日前有超過 250 個企業撤除廣告共同抵制 YouTube,其中包括美國電信公司 AT&T、Verizon,還有百事可樂(Pepsi)、沃爾瑪(Walmart)、嬌生(Johnson & Johnson)、星巴克(Starbucks)、奧迪(Audi)等大廠。

不僅如此,就連兒童版 YouTube Kids 平台也出現許多不當內容,表面以卡通或教育形式包裝,實質上充滿暴力猥褻。YouTube 每分鐘都有超過 400 小時的影片內容上傳,在如此龐大的內容量下進行審查相當具有難度,執行長 Susan Wojcicki 近日發文表示,YouTube 在過去一年針對暴力激進的不當內容採取行動,除了測試新系統以因應不斷出現與演進的威脅,在平台內容管理和廣告分紅獎勵制度上也加強規範,並投資於機器學習先進技術,效法審查人員篩檢內容。

機器學習演算法自今年 6 月導入後,經過不斷學習與調整,在標記暴力激進內容方面有了顯著的進展。YouTube 藉由演算法移除了超過 15 萬支暴力激進影片,所標記的內容量相當於 18 萬人每週工作 40 小時的程度。Wojcicki 指出,目前遭到移除的暴力激進影片當中,有 98% 為機器學習所標記,未來也會針對兒童不宜的影片內容以及仇恨言論採取類似做法,並持續加快機器學習篩檢速度,務求在最短時間內將違規影片下架。

不過,光靠機器學習演算法也不容易辨別表裡不一的影片,難免有漏網之魚情況發生,不只有害兒童身心、造成民眾觀感不佳,也影響廣告主及 YouTube 自身品牌形象。Wojcicki 表示,明年將出動至少 1 萬名審查人員加強內容把關,畢竟人類能視不同情況嚴加判斷,將有助於訓練機器學習在審查判斷上愈來愈精準,目標就是要比不肖使用者快一步,使違規影音內容難以出現或存留在 YouTube 平台上。

(首圖來源:YouTube)

延伸閱讀: