你曾在深夜對著 ChatGPT 傾訴煩惱嗎？像是工作壓力太大、情人關係陷入低潮，或甚至是內心深處不敢對他人說出口的祕密？許多人都把 AI 當情緒垃圾桶，但 OpenAI 執行長奧特曼最近就語出驚人地表示，使用者和 AI 的對話不具任何法律保密義務，不像你和心理師、律師、醫師之間的對話，依法受到保護。
換句話說，你以為只屬於你的那些「小心事」，其實全都可能被平台保留、分析，甚至在法律程序中被調出來當證據。AI 能陪你說話，但目前還無法替你保密，這是每位使用者都該知道的真相。
AI不是不能用，而是要懂得怎麼用
你可能會問：「這樣我是不是不能再跟 AI 說任何內心話？」其實不必這麼悲觀。AI 絕對是當代最實用的科技之一，不管是職場效率、學習協助、甚至情緒整理，它都可以是很棒的輔助工具。問題不在於「能不能用」，而是「怎麼用才聰明」。
就像 GPS 可以幫你找路，但你不會把人生目標交給它決定；AI 也可以協助你釐清思緒、模擬對話、提供參考建議，但真正牽涉到隱私、個人資料、深層心理創傷時，還是應該找有執照、有法律保密義務的專業人士。
目前 AI 對話資料有可能被平台留存，雖然很多平台強調資料會匿名化處理，但在法律制度尚未完善前，用戶仍需保留一份謹慎：請把 AI當成協助你思考的「工具」，而不是代替你人生導師的「對象」。
AI科技在進步，法律也應該加快腳步
實際上，現在全球各地都已經注意到這個法律空窗問題。歐盟顯然是走在最前面的一方。歐盟即將正式上路的《人工智慧法》（AI Act），這是全球第一部針對AI全面立法的規範。它的核心理念很清楚：不同風險的AI應該有不同程度的監管。像是聊天機器人、內容推薦屬於低風險，可以較寬鬆管理；但如果AI被用在醫療診斷、教育評分、心理輔導、員工監控等高風險領域，就必須符合資訊揭露、資料安全、可追蹤性與人類監督等法律要求。
這也意味著，未來在歐盟境內，若有AI應用被當成心理支持工具使用，就可能被認定為高風險系統，需要通過嚴格審查。這部法律不只是在保障消費者隱私，更是在向全球釋出一個信號：AI 可以用，但必須「合法透明、對人類有益」。雖然這套規範尚未在全球普及，但它已經成為各國制定AI法規的重要參考模型，也讓我們看到，當科技變得聰明，法律也必須變得更負責任、更人性化。
美國部分州也開始制定 AI 使用條款，要求平台揭露資料保存方式與風險警示。雖然這些規範還在發展中，但值得欣慰的是，社會已經意識到「AI 隱私」不是未來的事，而是現在進行式。
AI是朋友，但信任要建立在制度上
沒有人否認 AI 的潛力，它能記得你的提問脈絡、用你習慣的語氣回答問題，甚至在你感到孤單時，成為願意「聽你說」的存在。這些能力，讓許多人把它當成一種情感出口。
但我們也要誠實看待現況：AI 沒有情感、更沒有法律責任，它只是一個依據你輸入內容回應的系統。與其一味把信任交給科技，不如讓我們的信任建立在透明、清楚、能受法律監督的制度上。
AI 的確能成為你生活中的輔助者，但它無法取代人與人之間的信任機制，更無法承擔心理師、律師、醫師那樣的保密義務。AI是好工具，但人類社會仍需要規則來保護每一個使用者的基本權益與隱私安全。
與AI分享心事，記得先問自己一句話
AI 的進步令人驚豔，它已經在各行各業發揮影響力，未來也勢必會進一步走進我們的情感與心靈層面。但再聰明的機器也需要法律來規範，再便利的對話也不能忽視資料的保存與使用問題。
你可以和 AI 談生活、問問題、找靈感，但當話題觸及隱私或個人心理困境時，請記得問自己一句：「我願意把這段話交給一個沒有保密義務的系統嗎？」
我們並不是要拒絕科技，而是要學會與科技共處，在信任與風險之間，找到一個更安全的平衡點。只有當科技與法律一起進步，AI 才能真正成為我們生活中可信賴的夥伴。
- Sam Altman warns there’s no legal confidentiality when using ChatGPT as a therapist
- Sam Altman gives really good reason why ChatGPT shouldn’t be your therapist
（首圖來源：AI）
科技新報粉絲團
加入好友
訂閱免費電子報
