Google Arts & Culture 軟體遭指種族偏見,演算法成罪魁禍首?

作者 | 發布日期 2018 年 01 月 23 日 9:55 | 分類 app , Big Data , Google follow us in feedly

上週,一款名為 Google Arts & Culture 的應用軟體突然紅了起來。



據了解,該應用軟體原本是 Google 文化學院(Cultural Institute)2016 年發表的產品,其中涵蓋了全球 70 多個國家和地區的 1,000 多家藝術博物館藏品資料。輸入你能想到的任何字眼,應用軟體能幫你搜尋到與之相關聯的作品,除了對作品背景的介紹,藝術愛好者還可以選擇喜愛的大師,並按照年份,瀏覽該大師的作品。為了讓大眾「走進」這些博物館,這款應用軟體甚至還加入了 360 度全景影片模式。

儘管功能強大,但你可能沒想到,發表一年後,現在因為自拍功能,這款應用軟體在上週成為 iOS 和 Android 免費應用軟體下載第一名。

具體來說,用戶將自己的自拍照上傳應用軟體,應用軟體自動找出與用戶相像的藝術作品。不過根據 Google 一名發言人稱,該功能目前只在美國部分地區上線,還沒有計劃在其他地區上線。

(Source:高曉松的微博)

好玩的自拍功能吸引眾多用戶,但也暴露出問題。

一名 Digg News 的編輯 Benjamin Goggin 注意到,很多有色人種發現,與他們自拍相匹配的藝術作品相對有限。有的人發現,與他們匹配的作品帶有固定的偏見,如有色人種常常是奴隸、僕人等,而女性則是色情小說角色。

Google 發言人表示,「這種局限性是由其平台涵蓋的作品數量導致。歷史作品往往無法反映世界的多樣性,我們正努力將更多元化的藝術作品導入平台。」

與此同時,這項自拍功能引起的種族問題也讓各大媒體紛紛報導,如 Bustle、BuzzFeed、Marketwatch 等。毫不奇怪,這也引起了許多隱私問題。上傳自拍照前,應用軟體會出現一條警訊,Google 告訴使用者,不會把自拍資料做為他用,只用來找匹配的藝術品,並不會儲存照片。

據了解,Google Art & Culture 在 2011 年還被選為 Google Art Project(Google 藝術計畫),當時一推出便被指責是歐洲中心主義。原先 17 家合作博物館多位於華盛頓特區、紐約或西歐,人們指責博物館覆蓋的範圍太小。於是,Google 迅速擴大博物館範圍,正如前文提到的,如今已涵蓋 70 個國家和地區的 1,500 家文化機構。

然而從 Google Art & Culture 收藏的地圖來看,美國和歐洲仍占據主導。Google 正在努力呈現多樣性的藝術家、藝術作品和風格,但如果不瓦解歐洲中心主義,數世紀的人種偏見便不會消失。

2015 年,梅隆基金(Mellon Foundation)在美術博物館館長協會和美國博物館聯盟的協助下,發表了首份針對美國博物館人種多樣性的調查。調查結果顯示,博物館 84% 的管理職位均由白人擔任,博物館初級職員中少數族裔也較少,梅隆基金表示,這說明如果博物館希望未來領導者人種夠多樣性,現在需要積極培養年輕人才。另外,藝術院校的女生多於男生,但當代藝術展仍然是男性主導。

如果上述是歷史遺留的問題,那麼現在演算法不僅沒有緩解問題,還將問題惡化了。

因為演算法無法讓使用者免受種族偏見,反而吸收和學習,放大並且傳播偏見,同時打造出技術不受人類偏見影響的錯覺。臉部辨識演算法已證明能造成傷害,例如,兩名黑人用戶發現他們的照片貼上「大猩猩」的標籤。Google 已為此道歉,遮蔽了程式中的「大猩猩」、「黑猩猩」、「猴子」的圖片分類。

演算法的準確度與基準資料庫一致,而這些資料庫則反映資料收集者的偏見,不管有意還是無意。來自 MIT 的畢業生 Joy Buolamwini 正在研究該問題,他之前曾創辦演算法正義聯盟(Algorithmic Justice League)防止偏見被程式碼植入軟體,這將對種族定性和公民權利帶來巨大的影響。2017 年,在 TED 演講中,黑人 Buolamwini 講述當她戴上白人面具時,一些帶有機器視覺的機器人如何快速辨識她的經歷。

人臉辨識演算法的偏見與彩色電影的發展遙相呼應。1950 年代,柯達向照片實驗室發送女模特兒卡片,以說明他們校準的膚色。所有模特兒都稱為雪麗,之後幾十年所有的模特兒都是白色人種。這意味著,黑人形象常常被曲解,或是未能真正描述。

如今,透過 Google Art & Culture,Google 正在挑戰種族偏見和短視思維,因為利用 Google 技術的產品可超越地理、語言和文化的局限,這是其他媒體無法做到的。應用軟體的自拍功能不僅是愚蠢的模仿,但要認識到局限性,這也意味著面對藝術歷史,藝術作品收集過程中的偏見,並告訴用戶這事實的存在。

(本文由 雷鋒網 授權轉載;首圖來源:App Store

延伸閱讀: