Facebook 出包的同時,曝光系統如何以 AI 標記用戶的圖像內容

作者 | 發布日期 2019 年 07 月 04 日 12:45 | 分類 AI 人工智慧 , Facebook , 社群 follow us in feedly


您昨晚也碰到 Facebook、Instagram 無法正常顯示圖片、影片的狀況嗎?雖然今早 Facebook 已修復系統,但也讓用戶們看到了自己上傳的照片或影像是如何被 AI 人工智慧標記內容。

約從台灣時間 3 日晚上 8 點開始,包括 Facebook、Instagram、WhatsApp 等社群平台都傳出災情,部份貼文無法正常顯示圖片、影片,呈現一片空白,又或無法在訊息中查看檔案。直至 4 日早上 8 點左右,Facebook 才透過官方帳號說明狀況解除,所有用戶的功能應已恢復正常。

這次災情發生在加載的圖片、影片無法顯示,也意外地讓用戶們看到自己上傳的照片或影像是如何被 Facebook 與 Instagram 利用視覺系統與機器學習加註標籤。

在原本應顯示圖像的左上角,出現以文字來敘述該圖像的一些內容,例如有幾個人、哪些寵物、人的表情、當下場景、甚至辨識出用戶與朋友的身份,實際則像是「大頭貼照,圖像可能包含:一個人」、「圖像可能包含:人們微笑、人們跳舞,婚禮以及室內」、或者只有「圖像可能包含:貓」。

自 2016 年 4 月以來,Facebook 已表明利用人工智慧「讀取」用戶的圖像,該功能稱之為「自動替代文字」(automatic alternative text),是利用機器學習技術識別 Facebook 上的圖像,幫助盲人與視障族群以文字描述圖像中的內容。

事實上,除了於 Facebook 的使用行為以及動態以外,還有許多用戶的生活資訊就隱藏在上傳的圖像當中,例如用戶是否有養寵物、嗜好為何、喜歡去哪度假等等,然而目前仍不清楚 Facebook 是否也將這些資訊用於廣告標記。

截至今年 3 月底,Facebook 的月活躍用戶數達 23.8 億,全球有這麼多人頻繁地使用這項社群服務,藉由這次事件也看到 Facebook 進行數據蒐集與運作的幕後花絮。近年來深度學習的演進徹底改變了機器視覺(Machine vision),線上的圖像內容如同文字一樣容易讀取;然而一旦某些內容變得清晰可見,也就更能存取、分析其數據。唯有碰上這種系統發生異常狀況時,用戶才意識到這件事正悄悄地進行著。

(首圖來源:Flickr/Anthony Quintano CC BY 2.0)

延伸閱讀: