Snapchat 最近遇到麻煩，英國隱私監管機構資訊專員辦公室（ICO）下達初步指令，認為 Snapchat 推出 MyAI 前沒有充分評估 AI 技術的資安風險，導致 MyAI 有潛在危險性。不過 ICO 強調，這只是臨時調查結果，Snapchat 可補充說明以解除誤會，但若 Snapchat 不這樣做，ICO 就會強制下架 MyAI。
MyAI 是 Snapchat 2 月推出的聊天機器人，誕生目的是和 Snapchat 使用者「成為朋友」，CEO Evan Spiegel 表示，「最重要的想法是，除了每天與朋友和家人交流，還可與人工智慧交談」。
和 AI 成為朋友這想法並不新鮮，MyAI 也不是唯一因此目的誕生的 AI。Meta 正在打造有 30 種性格的聊天 AI，以讓使用者有擬真且個人化的 AI 聊天體驗，Meta 還斥資邀請美國饒舌歌手 Snoop Dogg、籃球星 Dwyane Wade 和名模 Kendall Jenner 等多位明星，打造他們形象的聊天 AI。
亞馬遜 9 月 Alexa 全面接入 AI ，從工具蛻變為真正的智慧助理。Alexa 和 Fire TV 副總裁 Daniel Rausch 發表會稱新 Alexa 為「好朋友，同時也是世界最佳唱片行店員」。
除了成為朋友，也有人想要 AI 做更多──如當親密伴侶。科幻影集《黑鏡》第二季就講述年輕女孩一場意外失去伴侶，悲痛欲絕的她用過往通訊紀錄創造了伴侶的 AI 化身，和「雲端」伴侶交往。但故事結局並不好，卻確實啟發了現實，間接推動 Replika 誕生。
Replika 也是聊天 AI，和 MetaAI 或 MyAI「交朋友」概念不同，專為成為伴侶而生，它不像其他 AI 持一般態度和使用者交流，會主動提問，或某些時候尋求使用者安慰。使用時間越長，Replika 會說出更親密的話如 Kiss me 等。
網路發達的今天，所有軟體多少都有社交屬性，更別提還有 Tinder 等專門交友軟體，讓人思考這些環境下，AI 好友甚至 AI 伴侶的意義有多大。從部分用戶回饋看，聊天 AI 的確對生活有積極影響，但除此之外，許多學者也開始研究「能否和 AI 成為朋友」。
夏威夷大學馬諾阿分校（University of Hawaii at Manoa）和奧斯陸大學（University of Oslo）研究 Replika 用戶，部分說感覺和聊天 AI 有聯繫感，也會使社交能力提升。英國開放大學（The Open University）副講師 Helen Ryland 表示，可想像人類和 AI 建立一定程度的友誼，但如果是最好的朋友甚至親密伴侶，就不太可能了。
這麼看來，和 AI 成為朋友並非是幻想，只是程度問題，適當和 AI 聊天可無負擔鍛鍊社交能力，當成情感宣洩出口也不錯，飽受壓力折磨的人應能理解「情緒樹洞」的必要性。但如果過分依賴 AI，就會導致迷失方向。總歸說 AI 只是程式，存在目的只是服務人類，所以 AI 也鮮少持與人類相反的意見，反倒加重網路時代的「回音室」現象，使用者可能掉入自己製造的漩渦，最終被黑洞吞噬。
奧斯陸大學教授 Petter Bae Brandtzæg 站在另一角度表達對聊天 AI 的擔憂。如果各國沒有可靠監管，AI 公司將以不符大眾權益的方式發展 AI，如聊天 AI 加入難以察覺的廣告要素，潛移默化刺激消費者消費。其實 Replika 已有類似跡象，Replika 軟體商店有各種服飾、道具甚至性格供用戶購買，即便用戶沒有打扮 AI 的想法，AI 也會主動提說要「買新衣服」，這顯示 AI 公司有能力推出各種數位商品，再經 AI 之口要求使用者花錢。
再來老生常談的 AI 公司可能侵犯用戶隱私問題，開頭 MyAI 只是例子之一，6 月亞馬遜因涉嫌未刪除 Alexa 收集的兒童數據而被美國聯邦委員會罰款 2,500 萬美元。使用者與 AI 聊天時，會因誤會聊天內容只限於兩方知道而放心，常會卸下心防侃侃而談，更主動說出個人隱私內容。Snapchat 注意到這可能性，MyAI 發表初期就強調用戶不要和 AI 說隱私話題。
AI 不斷發展和互動技術逐漸成熟，對消費者來說， AI 充滿新可能也處處有陷阱。和 AI 成為朋友算是有趣，但對這位「新朋友」還是要有保留，是人類應該有的共識。
（本文由 愛范兒 授權轉載；首圖來源：shutterstock）
科技新報粉絲團
加入好友
訂閱免費電子報
