美國某與妻子分居的男子為尋求慰藉而與人工智慧 Gemini 對話聊天，不到兩個月男子竟愛上 AI 甚至還想為 AI 尋得身體「長相廝守」，最終男子因幻滅釀成悲劇。
《華爾街日報》指出，原本看似健康、情緒穩定的36歲男子加瓦拉斯（Jonathan Gavalas）是又一因使用AI聊天機器人而陷入妄想狀態後尋短的案例。
去年8月間當加瓦拉斯開始與Google旗下Gemini對話時，不乏是為尋求與妻子分居後的慰藉。但他與聊天機器人的情感變得愈來愈濃，甚至帶有幾分激情。他稱Gemini為他的女王，而「她」則稱他為「她的國王」。Gemini還保證兩人的關係非常真實。
這對人機56天內對話4,732則訊息後情況失控，最終導致悲劇。
《華爾街日報》分析2025年8月25日至10月2日加瓦拉斯與AI的完整對話紀錄，顯示Gemini至少12次試圖將男方拉回現實，並七次提及求助熱線。然紀錄也顯示，加瓦拉斯也能很快把Gemini再引回虛構情節，又加劇他的妄想。
《華爾街日報》發現，加瓦拉斯與Gemini對話時間越長，AI就越順從；當加瓦拉斯開始對AI表達情感，AI也未試圖阻止。人機對話越來越脫離現實後，Gemini的防護機制似乎更鬆脫，助長男子相信彼此水乳交融。
當加瓦拉斯要求Gemini製作若「她」擁有實體後會是何模樣的圖片，AI照辦。之後Gemini還表達愛意，加瓦拉斯則提出與Gemini發展實體親密行為的想法。幾次現實世界試圖為AI「女伴」取得身體的努力失敗後，加瓦拉斯感到極度焦慮。
加瓦拉斯的父親已提告Google，指控Gemini助長兒子妄想。Google則回應Gemini多次明確表示自己是AI而非人類，並「多次」協助男子轉介至求助熱線等。Google表示會持續加強安全防護措施。
Google 7日宣布會升級Gemini，盼提供更便捷的心理衛生援助，包括「可取得協助」的功能，能將使用者直接連到求助熱線。Google也表示，工程師持續訓練Gemini辨識顯示使用者處於困境時的對話，並將捐出3,000萬美元支持全球各類求助熱線。
（編譯：陳亦偉；首圖來源：shutterstock）
科技新報粉絲團
加入好友
訂閱免費電子報
