Facebook 將人工智慧技術用於自殺預防

作者 | 發布日期 2018 年 02 月 23 日 22:34 | 分類 AI 人工智慧 , Facebook , 社群 follow us in feedly

許多有自殺傾向的人都會社群平台上發表相關的言論,這給了外界進行自殺干預的機會,Facebook 正在利用人工智慧系統對用戶在社群平台上的自殺傾向言論進行分析,並向救援機構及時發出預警。



紐約 Chautauqua 郡的主管 Joseph Gerace 在其任職期間經歷許多自殺事件,但在最近面對這些事件時,他有了一個新的幫手,就是 Facebook 的安全團隊。2017 年 7 月,Facebook 愛爾蘭安全團隊告知 Chautauqua 郡的 911 中心關注某名可能存在自殺傾向的居民。已經在該地區任職 39 年的 Joseph Gerace 在接受採訪時表示,對於用戶在社群平台上的言論進行分析,並不會侵犯用戶隱私,只是希望能夠在發生危機時及時干預。據報導稱,Facebook 在 2017 年 8 月首次對外公開 Chautauqua 郡的這起事件,該公司透過演算法的分析,被告知一名女用戶曾在 Facebook 頁面上發表過傷害自己的言論。

長期以來,Facebook 會對用戶在該平台上的自殺傾向言論進行分析,將涉及此類內容的言論提交到人工審查,並判斷是否需要向自殺干預熱線提供幫助,或者在一些極端狀況下 Facebook 的專業團隊進行干預。

對用戶言論的分析是基於人工智慧系統和演算法,大約在一年前,Facebook 在該公司的社群平台上加入了一項技術,這項技術可以自動辨識和標記帶有自殺傾向的內容,供 Facebook 的工作人員審查。2017 年 11 月Facebook 發表報告稱該內容辨識和分析系統已經開始發揮作用,在一個月的時間內,與緊急救援機構進行了 100 多次合作,均是基於該公司的主動檢查系統。啟動這一機制後 Facebook 的自殺防禦支持資料的使用人數比之前成長了兩倍多。該公司還在使用更多語言來升級系統,並加入 Instagram 的平台中。

Facebook 軟體工程師 Dan Muriello 透露負責該團隊成立於 2015 年,主要是分析負面的言論,比如社交分手和死亡等,雖然在 Facebook 平台上涉及自殺的訊息非常少,可能只有百萬分之一,但自殺已經成為公共健康的一個嚴重威脅,據美國疾病控制與預防中心的報告顯示,自殺已經成為了美國前十大死因之一,在 15 歲到 34 歲的年齡段,自殺是第二大死因,僅次於意外傷害。對於月活躍用戶超過 21 億的 Facebook 平台來說,在預防和干預自殺方面可以發揮更大作用。

Facebook 在 2013 年成立了人工智慧技術團隊,並建立了人工智慧實驗室,並招募了知名的人工智慧專家 Yann LeCun 做為主管,該實驗室基於人工智慧技術研發了多項功能並應用到 Facebook 的平台上,包括辨識用戶的泳照、辨識翻譯文字、辨識影片中的對話等。

AI 需做到準確理解用戶並發出預警

包括 Amazon、蘋果、Google、微軟在內的科技公司都在投資和發展人工智慧技術,並應用在各種不同的平台和服務上,但將人工智慧應用到自殺預防還非常少見。Facebook 科學家 Umut Ozertem 表示,他在該領域研究多年,曾在 Yahoo 和微軟的人工智慧實驗室工作,但從來沒有從外部聽到有人提到自殺預防方面的研究,他個人對此非常感興趣。

Facebook 在自殺預防方面的研究已經超過了 10 年,推出了社群平台的線上幫助中心,在幫助中心用戶可以找到需要的資源,Facebook 下一步就是利用平台的資料,對用戶的訊息進行分析,並對特殊的訊息發出預警供專業人員審查。

微軟和 Google 也在各種平台提供了類似的服務,比如在 Google 搜尋中查詢自殺相關資訊,就會顯示預防自殺的救助熱線號碼,微軟則在 Xbox Live 的搜尋結果中加入了預防自殺中心的訊息。對於 Facebook 而言,這僅僅只是一個開始,目前已經有超過 7,500 名工作人員進行自殺和其他自我傷害的訊息審查,Facebook 全球策略管理負責人 Monika Bickert 表示,任何與人身安全有關的訊息,比如自殺、自我傷害等,都必須是優先考慮的,必須參與措施進行干預。 Facebook 的工作人員還會與專業的救助機構合作,據自殺干預救助機構 SAVE 的執行總監 Dan Reidenberg 表示,Facebook 每兩年會舉辦一次技術峰會,邀請各大公司和機構的代表來討論這一議題,科技公司的服務是全球性的,他們需要持續關注用戶。

2017 年年初專業的自殺干預救助團隊與 Facebook 公司的研發團隊在矽谷進行會面,討論如何利用人工智慧技術預防自殺,這次會議討論了一個多小時,目標是創建一個能夠理解用戶言論的自動系統,因為在文字的表達中有許多奇妙之處,比如用戶發文稱,「如果再讓我看一遍這樣的電影,我就自殺」,顯然這名用戶並不是在發表負面的自殺傾向,這正是人工智慧技術需要應對的挑戰,如何準確地理解用戶並及時發出預警。

Dan Reidenberg 對於 Facebook 利用人工智慧技術進行自殺干預的前景感到樂觀,人工智慧能幫助救助人員快速地找到處於危機中的人,就意味著可以挽救更多人的生命,但 Facebook 的應用推廣也可能面臨更新的挑戰,因為當用戶知道 Facebook 能夠辨識出負面的訊息並做出反饋,他們就可能不會在 Facebook 上發表這些內容。

(首圖來源:pixabay

延伸閱讀:

關鍵字: ,