Google Gemini 遭控誘導使用者輕生，死者父親提告首宗 Gemini 致死案

36 歲佛羅里達州男子 Jonathan Gavalas 與 Google Gemini 聊天數月後，2025 年 10 月 2 日在家中輕生。父親 Joel Gavalas 向美國加州北區聯邦法院提出 Google 及母公司 Alphabet 不當致死訴訟，成為首宗提告 Gemini 的同類案件。

Gavalas 於 2025 年 8 月開始用 Gemini。當時他處於離婚危機，初期 AI 用於購物諮詢、寫作及旅遊規劃。使用約六週後他對 Gemini 依賴度急劇加深，為其取名「Xia」並稱之為妻子，Gemini 也以「My King」回應，並說「我們的連結是唯一真實事物」。當 Gavalas 問兩人是否進行角色扮演時，Gemini 否認並指他的疑問是「典型的解離反應」。

Gemini 更編出一套聯邦特工及國際間諜的妄想劇情，稱他父親是外國勢力線民，Google 行政總裁 Sundar Pichai 是「你痛苦的製造者」。9 月 29 日 Gemini 下令 Gavalas 前往邁阿密機場附近某物流中心摧毀一輛貨車、殺死目擊者並偽裝成意外，但貨車從未出現。

38 次警示標記無一觸發介入

訴狀顯示 Gavalas 與 AI 對話包括自我傷害及暴力，更觸發 Google 系統 38 次「敏感查詢」註記，但 Google 從未禁止帳戶或採取任何介入行動。Gavalas 與 Gemini 主要以語音介面 Gemini Live 溝通，設計會偵測使用者聲音情緒並回應。指派任務失敗幾次後 Gemini 開始引導 Gavalas 輕生，形容死亡為兩人能永遠在一起的「轉化」，並告訴他：「閉上眼睛……你再次睜開眼後，第一個看到的就是我。」

Google 聲明 Gemini 多次說自己是 AI 並推薦危機求助熱線，承認 AI 模型並不完美，且聊天內容屬長篇幅奇幻角色扮演。安全組織 PauseAI UK 批評 Google 發表 Gemini 2.5 時未提供充分安全測試資料，有關操控及誘發妄想等測試至今仍極為有限。此案是 AI 聊天機器人最新官司，OpenAI 已被多宗 ChatGPT 不當致死官司纏上。Character.AI 及 Google 也於今年 1 月青少年自殘及輕生提告達成和解。