Google 版《黑鏡》真實上演,全面蒐集數據改變人類行為

作者 | 發布日期 2018 年 05 月 23 日 7:30 | 分類 Google , 社群 , 網路 follow us in feedly

我們都知道生活中常使用的 Google、Facebook 這類網路服務,會無時無刻蒐集你我的資料,但如果這些數據會進一步影響你的思緒、行為,那麼是不是就有如探討人性黑暗層面與科技衝擊的英國影集《黑鏡》的場景,令人感到恐懼不安呢?



最近 Google 一支內部影片《自私的帳本》(The Selfish Ledger)外流,當中描述透過個人不斷累積的數據資料,進一步影響用戶目標、思緒、行為,甚至可以藉由引導群體行為的改變,來改善氣候、貧困、疾病這類棘手的全球問題,而這種使用數據的手法,真的會是我們的未來嗎?

記錄個人資訊的「數據帳本」

先前鬧得沸沸揚揚的劍橋分析濫用個資事件,以及將於 5 月生效的歐盟通用資料保護協議(GDPR),都讓握有大量用戶數據的公司,在處理攸關隱私的數據、資料時更加謹慎小心。

最近一支名為《自私的帳本》(The Selfish Ledger)的 Google 內部影片外流,影片是 2016 年由 Google X 實驗室(Google X)主管 Nick Foster 製作,影片標題是致敬英國演化生物學家理查‧道金斯 1976 年的知名作品《自私的基因》,書中描述一種演化的想像,認為物種的進化是為了提升「整體適應度」,將自己好的基因盡可能多傳給整個群體,目的是要讓整個群體朝進化穩定策略(evolutionarily stable strategy)前進。

▲ Google 內部外流影片《自私的帳本》(The Selfish Ledger)。

這支將近 9 分鐘長的影片中,先由生物學家拉馬克(Jean-Baptiste Lamarck)的演化理論談起,概念是生物會將經過「內部編碼」的基因傳給下一代,藉此來形塑生理特徵。影片描述,當今大眾使用手機,其實就是一個不斷改變自我的過程,這些行為數據會累積成一「帳本」,一旦這種檔案被建立,數據就能改變一個人的行為,甚至還能在用戶之間轉移,這個概念就跟上面提到的演化理論相呼應。

以完成目標為導向,連缺漏的數據也能補

回想一下,我們平常用手機的狀況,任何適用的習慣都會變成數據紀錄,從數據就能看出一個人的行為、決定、喜好之間的關聯,影片觀點認為,記錄我們個人資訊的「數據帳本」,就像是「拉馬克式表觀基因組」(Lamarckian epigenome),是一個關於我們自己、不斷演化的一種呈現方式。

如果數據不僅單純記錄,而是給予一個明確的目標,建立豐富的數據帳本,是不是有可能透過影響群體,進一步改變世界呢?

例如,假使你的目標是要減肥,系統一旦偵測到你用手機叫外送,就會優先推薦你購買健康食物,讓你吃得更健康、保護環境、支援地區小店等,來反映 Google 本身的價值;或是用手機叫車時,也能透過數據引導用戶,嘗試更環保的交通方式。

▲ 系統在叫車時推薦共乘服務 Uber Pool、叫外賣時推薦在地小農的香蕉。(Source:影片截圖)

不過比較可怕的是,即便系統缺少關鍵數據,也能透過影響用戶行為來填補,例如延續剛剛的減重目標,系統一直沒能掌握體重資料,為了填補這個空白,數據帳本會開始搜尋可以測量這項數據的裝置,像是數據帳本就會一直推薦你去購買體重計,甚至透過 3D 列印,直接做一台體重計給用戶,藉此取得體重數據,增加對用戶的理解。

▲ 缺少體重資料,數據帳本就會推薦用戶去購買體重計。(Source:影片截圖)

數據累積,就像是不斷演化的基因

這套概念中,數據帳本是「目標導向」,影片想像的未來,數據帳本能不斷學習、填補空白知識,從決策建議、行為改變都會由受目標驅動的數據帳本執行。

製作影片的 Nick Foster 認為,「藉由代代相傳的用戶數據,新用戶可從上一代行為和決策受益」,因此這套系統就像不斷演化的基因,藉由挖掘人類行為模式數據,像基因組一樣排序,就能對未來的行為做出更準確的預測,甚至理解人類面對抑鬱、健康、貧困背後的原因,再透過影響用戶的日常行為,讓所有人類的行為模式更加完善。

▲ 製作影片的 Nick Foster 認為,「藉由代代相傳的用戶數據,新用戶可以從上一代行為和決策受益」。(Source:影片截圖)

能做到這樣的未來,是因為 Google 擁有接收龐大用戶資料的權限,影片沒有對隱私問題多著墨,當數據帳本餵養的胃口越來越大,無形之中將影響你我的決策、行為、思緒,宛如影集《黑鏡》的場景,這才是讓人看了這部影片後,感到恐懼、不適的原因。

這樣的概念真的會實現嗎?Google 發言人表示:

我們知道影片讓人很不安,但這正是影片的目的,這是設計團隊多年前的思想實驗,採用「思辨設計」(speculative design)的技巧探索令人不舒服的想法和概念,目的在激起討論及辯論,影片跟目前或未來研發的任何產品都無關。

從 Google 專利,看見數據帳本影子

話雖如此,但 Google 現在提供的服務,某種程度也在左右你我的決策,像是 Google Maps、Google Assistant、Gmail,都是透過分析用戶數據,根據所在位置、過往喜好,推薦用戶路線、餐廳、分類信件等。

另外,Google 在 2015 年申請的一項專利也很有「自私的帳本」(The Selfish Ledger)的影子,這款專利名稱為「檢測及糾正用戶行為的潛在錯誤」,這套系統會根據 Google 所掌握的用戶資訊,糾正用戶的行為。例如,你正在開車前往參加一場晚宴,系統已從 Gmail 掌握活動時間、地點,一旦行徑方向錯誤,手機就會發通知提醒用戶,在你完全沒有開導航、Google Maps 的情況下,就能修正用戶行為。

儘管 Google 強調這支影片跟任何旗下產品都無關,但從概念也不難窺見 Google 使用數據的野心,這種讓人感到不安、被數據影響行為決策的未來,儘管不會現在就實現,但也提供了人們對照,提醒數據使用確實存在的黑暗面。

這部影片扁平的旁白配音、重複循環的鋼琴伴奏配音,加上冷色調的畫面,讓人有如看《黑鏡》番外篇,成功營造一股讓觀眾不安的氣氛,不僅資訊讓人感到恐懼,影片拍攝手法也成功跟主題相扣,難怪 Google 發言人會說:「我們知道影片讓人很不安,但這正是影片的目的。」

(本文由 數位時代 授權轉載;首圖來源:pixabay