微軟 AI 新聞編輯新登場,搞混明星惹議

作者 | 發布日期 2020 年 06 月 20 日 12:00 | 分類 AI 人工智慧 , Microsoft , 軟體、系統 Telegram share ! follow us in feedly
前年舊檔


最近,微軟公司宣布要讓 AI 新聞編輯取代旗下的約聘新聞編輯,沒想到,AI 編輯才剛上任未滿 1 個月,馬上出包,引發人們對 AI 新聞能力、整體臉部辨識科技的疑慮。

新的編輯,新的未來

5 月底,微軟公司宣布打算用「AI 新聞編輯」,取代旗下數十名每天負責選稿、配圖的約聘新聞編輯。消息傳出後,立刻引起許多人的關注,大家從未料到「AI 取代人類」的時代居然來得這麼快。

然而,「AI 新聞編輯」上任不滿 1 個月就立刻捅出婁子,誤認 2 名知名女歌手,引起對方的不滿,更讓人們開始疑惑:為何臉部辨識科技在辨識有色人種時特別容易失敗?

文章轉載  利潤對分

在微軟的分工中,約聘新聞編輯主要負責挑選重要新聞,視情況重新下標、調整格式、配圖,最後發布於微軟自己的新聞網站上,微軟會將部分刊登新聞獲得的廣告利潤分給引用的媒體做為回報。

約聘編輯的工作  AI 新聞編輯也可以

AI 新聞編輯上任後,分配到的也是類似的工作,只是全數改由演算法分析,重新下標、配圖,將通通交給 AI 負責而非人工判斷。

▲ 圖為一名看報紙的男子。在微軟中,這些約聘新聞編輯主要負責選稿、調整格式等簡單的編輯工作。(Source:Unsplash

我真的被取代了……

一名被解僱的編輯說道:「我花許多時間閱讀自動化和 AI 最終將取代人類的工作,現在就發生在我身上:AI 搶走我的工作了。」

但凡企業,就要升級

在微軟眼中,解僱這些編輯不過是公司例行性升級、進化的一個過程。微軟的發言人出面表示:「就像所有的公司一樣,我們也會定期改善公司,例如:在特定領域擴大投資、每隔一段時間重新調整人力配置。這次本公司的決定並非出於受疫情影響而做的決定。」

▲ 混合甜心 4 人一起出席 NBC 電視台在紐約舉辦的《今日秀》(左起:席爾沃、尼爾森(Jesy Nelson)、賓諾克、愛德華茲(Perrie Edwards))。(Source:達志影像)

遵守嚴格編輯規則不容易

然而,並非所有人都像微軟公司一樣看好用 AI 新聞編輯取代人類編輯的決定。一名匿名編輯表示,他認為公司的決定得冒一點風險,因為編輯們在編輯新聞時必須遵守一套非常嚴格的編輯守則,對於 AI 來說未必是件容易的事。

舉例來說:避免讓血腥暴力、不恰當的內容出現在首頁、使用者一打開瀏覽器就會看到的位置,這對年輕的使用者來說尤其重要。

新手 AI 編輯配圖出包

今年 6 月初,AI新聞編輯選擇一篇英國樂團混合甜心(Little Mix)的成員席爾沃(Jade Thirlwall)分享自己過去遭遇種族歧視經驗的新聞時,卻誤將同樂團的成員賓諾克(Leigh-Anne Pinnock)誤判成席爾沃放入新聞,引發席爾沃不滿。外界也質疑,微軟的 AI 編輯系統在辨識有色人種上是不是表現特別差?

▲ AI 新聞編輯出包後,席爾沃馬上在自己的 Instagram 上發文表達不滿。(Source:Unsplash

「MSN,加油好嗎!」

事發後,席爾沃馬上在自己的 Instagram 上抱怨:「MSN(註:MSN 是微軟的新聞平台)如果你們打算複製貼上別家內容正確無誤媒體的新聞,拜託確認一下你們能正確分辨混合甜心不同成員的照片好嗎?」

她接著補充:「這種爛事反覆發生在我和賓諾克身上,已經變成一個笑話了……這件事讓我覺得被冒犯,你們居然沒辦法從僅 4 個人的樂團中,區分 2 個有色人種的女生究竟誰是誰,加油好嗎!」

微軟:演算法沒問題,新功能測試中

對於 AI 新聞編輯出的紕漏,微軟方面表示,近期他們正在測試讓 AI 新聞編輯選擇示意圖的新功能,這回配圖錯誤與 AI 新聞編輯本身演算法設計並沒有關聯。

▲ 目前人類擁有的臉部辨識科技尚無法百分百準確比對,特別是在有色人種辨識上容易出錯。(Source:shutterstock)

AI 臉部辨識大測驗

不過,這也印證了人們一直以來的擔憂:現有的臉部辨識技術在遇上有色人種時,似乎特別容易犯錯。

2018 年,美國公民自由聯盟(American Civil Liberties Union,ACLU)就對亞馬遜提供一般人付費使用的臉部辨識服務 Rekognition 做了一項測試:ACLU 從公開管道蒐集 25,000 張嫌犯照片做為臉部辨識的資料庫,使用預設的設定,一張一張的讓 Rekognition 比對國會兩院的議員和資料庫裡的照片,並檢視最終成果。

有色人種特別容易出錯

最後,總共有 28 名國會議員被誤判。然而,即便現實中有色人種國會議員的比率只占了 20%,在誤判的議員中,有 40% 的議員是有色人種。

這就引起部分人的疑慮,因為美國警方同樣也使用亞馬遜提供的這套 Rekognition 臉部辨識服務,目前越來越多場合也能看到臉部辨識科技的身影,會不會使用過程中,反而不知不覺侵犯了有色人種的權利?(註:目前,亞馬遜已經因 Rekognition 在有色人種臉部辨識方面的問題,暫停提供這套系統給美國政府使用。)

可能侵犯他人權利

加州眾議員戈梅茲(Jimmy Gomez)是其中一名被誤判的議員,ACLU 對 ReKognition 的測試結果,引起了他的注意。

他指出,自己無意於和亞馬遜做對,但表示:「如果新科技可能對人們的隱私、自由權甚至性命產生深遠的影響時,就會引發不少疑慮。」

▲ 或許是受到開發臉部辨識科技工程師多為白人影響,現有的臉部辨識科技在面對白人臉譜時成功率也比較高。(Source:Unsplash

資料庫裡白人多

美國喬治城大學法律中心(Georgetown Law School Center)的隱私與科技領域資深助理加維(Clare Garvie)表示,其中一個原因可能是出在工程師建立 AI 的臉部辨識資料庫時,提供的白人照片比有色人種多而導致。

工程師天生的限制

另外一個原因,可能來自於工程師本身。一份研究顯示,人們在辨識另一個種族的成員時,準確度會比辨識同一個種族的成員差,臉部辨識服務可能也受到類似結果的影響。

考量到大部分科技公司的工程師仍以白人男性居多,即使無意為之,他們開發出的臉部辨識服務在辨識白人的準確度,無形中也比其他種族高。

▲ 美國白宮。目前人們的臉部辨識科技上存在疑慮,這也讓政府的適度介入管制顯得更重要。(Source:Flickr/jasleen_kaur CC BY 2.0)

肌膚偏黑、化妝都會影響準確度

其他原因包括面對黝黑的皮膚時,電腦比較難比對皮膚的顏色、女性如果化妝隱藏皺紋或是改變髮型,都會增加正確辨識的難度。

政府管理就是最好的管理辦法

對此,不少公民團體就呼籲政府適度立法介入以保護人們的權益。

微軟總裁史密斯(Brad Smith)在部落格上寫道:「控管政府使用新科技最有效的辦法,就是政府自行、主動控管如何使用。如果對未來一項新科技在社會中廣泛使用有疑慮,最有效的管理方法就是交由政府制定規範管理。」

(本文由 地球圖輯隊 授權轉載;首圖來源:達志影像)

關鍵字: , , ,