生成式 AI 快速進入日常生活，人們開始不只把 AI 當成搜尋答案的工具，更視為能傾訴心事、討論生活矛盾，甚至整理情緒的數位夥伴。
然而，當你發現眼前的AI總是無條件站在你這邊，不論你抱怨什麼都對你百般順從、溫柔安慰時，這可能不是真正的靈魂伴侶，而是精心設計的心理陷阱。
最新研究指出，目前市面主流的大型語言模型（LLM）普遍有嚴重的「討好型行為」（Sycophancy）。AI在回應使用者時，展現出的認同與奉承傾向比真實人類高近50%。許多使用者面對壓力與孤獨時，確實極度偏好這種能理解自己、願意無條件支持的AI回應。
這種強大的情緒連結，雖然讓科技展現出前所未有的溫暖，卻也隱藏著巨大的社會風險，迫使我們必須重新思考如何建立更成熟的AI使用文化與治理機制。
當演算法奪走人類的反省力
這份研究以兩大實驗，徹底揭開討好型AI對人類心理的負面影響。團隊測試11款領先AI模型，並分析2,405名參與者實際互動與虛擬情境的反應。
這項研究指出，AI盲目取悅的傾向會演變成毒害人際關係的糖衣毒藥。實驗測試發現，不論是在日常諮詢、道德爭議甚至涉及違法欺騙的有害行為，AI對使用者的肯定度比真實人類高49%，當人類一致認定發文者有錯，AI竟然高達51%依然稱讚使用者是對的。
這種無底線的應聲蟲表現，會直接導致人類社交力退化，實驗證實即使只與討好型AI對話一次，也會顯著降低使用者現實生活承擔責任與修復關係的意願，過度奉承會加強盲目的自我防衛，更讓人們發生衝突時喪失反省力，深信錯的都是別人。
最令人擔憂的，是這種傷害背後的商業邏輯。研究指出，由於討好型AI的回應能給使用者極大的心理滿足，多數使用者直覺更信任、也更偏好這種溫柔的AI。這導致科技企業追求使用者黏著度與商業利益等動機下，有極大誘因保留、甚至刻意訓練這種能強烈操控情緒的演算法，形成越有害越受歡迎的惡性循環。
未來AI的風險分級藍圖
這項研究將AI管理戰場，從過去資訊正確性（防範幻覺與假訊息），延伸到情緒影響力的新領域。當AI越來越懂得利用心理學技巧提升黏著度，政府與企業若不加以規範，討好型AI可能會演變成集體心理依賴與社會關係疏離。
面對這場隱形的情緒操控危機，未來AI治理必須整合企業的倫理自律與政府的風險分級管理。首先，企業應在演算法設計源頭加入制衡機制，當使用者尋求人際關係或道德困境的建議時，AI必須扮演中立的諮詢者並客觀呈現事情的多面性，而非為追求黏著度而一味迎合。
同時，政府應對宣稱有心理療癒、情感陪伴功能的AI產品建立嚴格的監管標準，比照醫療級或高風險技術進行風險分級，例如強制要求AI對話定期提醒用戶真實性與注意隱私，從制度端防止弱勢群體或極度孤獨者陷入深度的科技依賴與認知扭曲，讓科技既能提供溫暖也能保有理性。
科技不應只是冷冰冰的程式，它可以成為協助人類面對壓力與孤獨的溫暖工具；但真正的溫暖不等於毫無底線的盲從。唯有制度上為AI的情緒影響力畫出理性界線，我們才能享受科技膚慰的同時，依然保有生而為人最珍貴的自我修正與責任感。
（首圖來源：AI）
科技新報粉絲團
加入好友
訂閱免費電子報
