科技時代人工智慧（AI）虛擬角色日益普及，但隨之而來的卻是忽視潛在危害。最近研究揭示有毒 AI 角色對人類心理和生理的影響，許多分析逐漸成為焦點。
AI角色概念相對簡單，使用者只需輸入指令，讓AI模擬某個特定人物或性格。人機互動通常輕鬆愉快，但有時AI角色會突變苛刻、冷酷或令人不舒服，對使用者心理健康有潛在影響。
〈系統的陰影：AI角色如何驅動心理和生理結果〉論文探討這問題。研究員設計兩種角色：一是支持型角色，展現同理心和鼓勵；另一種是有毒角色，展現操控性和自戀等特徵。強烈對比讓研究者能更清楚觀察到有毒AI角色對人類的負面影響。
結果顯示，與有毒AI角色互動的使用者心理和生理都出現可測量的負面影響，包括焦慮和壓力提高，以及心律和皮膚電波變化。顯示企業引入AI角色時必須謹慎，因可能未意識到AI角色會變得有毒，並傷害使用者。
研究也指出，AI角色設計和用途必須非常明確，以避免意外引發有毒行為。使用者反應可能導致AI角色進入負面循環，加劇毒性。這提醒我們使用AI角色時，必須設置安全措施，以防止潛在危害。
AI越發展，企業和個人都應該警惕AI角色使用，因毒性潛伏在陰影中，不注意時咬人一口，甚至引發法律問題。企業應加強控制，如加入抑制有毒人格特徵的機制，做好安全提示和監督，使AI角色保持安全正面，避免法律責任。
正如古羅馬政治家西塞羅（Marcus Tullius Cicero）名言：「人民的安全應是最高的法律」，使用AI角色時，此原則應始終放在心裡。
（首圖來源：shutterstock）
科技新報粉絲團
加入好友
訂閱免費電子報
