ChatGPT 對用戶「胡言亂語」，OpenAI 坦承出錯並修復

如果你是 ChatGPT 用戶，是否遭遇它回覆你許多無意義的亂碼呢？OpenAI 坦承這個聊天機器人出錯，並已修復問題。

ChatGPT 用戶近來回報聊天機器人出現奇怪反應，包括在不同語言任意切換、陷入回覆循環，甚至反覆自我糾正，有些回覆純粹是胡言亂語或無意義亂碼，根本無法解釋。

▲ ChatGPT 向用戶回覆無意義亂碼。（Source：科技新報截圖）

外媒觀察到美東時間晚上 10 點 40 分，OpenAI 在其運作狀態頁面顯示，正在調查來自 ChatGPT 的錯誤回報，隨後又顯示已經發現問題並且正在努力修復，也將繼續監控使用情況。

OpenAI 運作狀態頁面進一步說明，對使用者體驗最佳化時，在模型處理語言方式上出現錯誤。大型語言模型是透過隨機取樣單字來產生部分回覆，這些「語言」由映射到 token 的數字組成。在這種情況下，錯誤出現在模型選擇這些數字的步驟，一旦選擇了稍微錯誤的數字，進而產生毫無意義的單字序列。

應用生成式 AI 的聊天機器人是一項快速發展的技術，更重要的是，背後提供支援的大型語言模型本質上是個黑盒子，即使是創造聊天機器人的開發者也無法以極其詳細的方式完全理解。聊天機器人的工作方式是尋找資料模式，然後對如何回覆問題做出最佳猜測，通常會帶給人印象深刻的結果，但不時會產生幻覺、操弄情緒、甚至偷懶不肯回覆。

（首圖來源：Unsplash）