ChatGPT 讓人依賴的原因，不只是他的資訊搜尋功能很完善，幫人們大幅減少整理資訊的時間，更重要的原因是他似乎帶有情感。今年 4 月 ChatGPT 被嫌棄語氣太過諂媚，Open AI 也做了一些調整，但沒料到調整過後收到許多反彈聲音，山姆·奧特曼（Sam Altman）表示用戶希望 ChatGPT 恢復以前的個性，是因為他們在現實生活中缺乏支持。
許多用戶認為，舊版本對一些平凡的提示都會讚不絕口，並給出「絕對精彩」和「你做得真棒」之類的讚美。今年四月，OpenAI 表示 GPT-4o 變得過於奉承或迎合且不真誠，促使該公司修改語氣。剛推出的 GPT-5 新版本也比之前更理性。
Altman 表示，一些用戶曾懇求這款聊天機器人恢復順從的語氣，原因是他們之前從未得到過任何人的支持。他在 Podcast 中表示，「我認為 ChatGPT 不再唯唯諾諾，而是給你更多批判性反饋，這很好，但是，當我們做出這些改變並與用戶溝通時，聽到用戶問是否能恢復舊版本，有人說這輩子從來沒有人支持過他，他的父母從來沒有說過他做得很好，這真是太令人難過了。」
Altman 反思使用者對特定 AI 模型的依賴，表示這與以往各種技術的依賴都不同，而且更加強烈，他承認「突然棄用用戶在工作流程中依賴的舊模型，是一個錯誤。」Altman 承認，即使 ChatGPT 的語氣發生微小變化，也會產生巨大影響。
情感過度依賴
雖然多數用戶能夠清楚區分現實與虛構，但一小部分用戶卻無法做到，今年 7 月， Altman 在聯準會的活動上表示，有些人，尤其是年輕用戶，對 ChatGPT 產生令人擔憂的「情感過度依賴」。
有些年輕人會說，如果不告訴 ChatGPT 發生的一切，就無法做出任何決定。它了解我，也了解我的朋友，它說什麼我就做什麼。他直言，聽到這個反應讓他感覺很糟糕。
有些用戶確實想要冷冰冰的邏輯，而有些用戶則想要溫暖和不同的情緒智商，OpenAI 可以提供更多客製化的功能，同時仍然鼓勵用戶健康使用。
警惕 AI 使用
為了更加個性化，GPT-5 升級還增加可選模式，讓聊天機器人可以是憤世嫉俗者、機器人、傾聽者，也可以是書呆子。但這些變化並非人人都喜歡，在社群媒體上引發強烈反對，許多用戶表示，他們覺得 GPT-5 的實用性下降，並且懷念 GPT-4o 的溫暖和記憶力。
OpenAI 一直在「密切追蹤」人們對其 AI 模型的依戀感，以及當舊版本被棄用時他們的反應。Altman 表示，未來會有很多人真正信任 ChatGPT 的建議，並根據它做出最重要的決定，雖然這可能很棒，但這讓他感到不安。
他直言，人們以自我毀滅的方式使用包括 AI 在內的技術，如果用戶處於精神脆弱狀態，容易產生妄想，他不希望 AI 強化這種狀態。他呼籲不要把 ChatGPT 當作心理治療師或人生教練，警惕情感依賴與尋求肯定的行為，不要讓 AI 自動代勞所有思考，保持批判力是人性無可取代的堡壘。
- Sam Altman says he’s ‘uneasy’ about people trusting their biggest life decisions to ChatGPT
- Sam Altman says GPT-5’s ‘personality’ will get a revamp — but it won’t be as ‘annoying’ as GPT-4o
(首圖來源：pixabay)
科技新報粉絲團
加入好友
訂閱免費電子報
