微軟推出 AI 工具修正「AI 幻覺」問題

生成式 AI 的「AI 幻覺」問題一直是 AI 難獲人類完全信任的主因，微軟最近推出工具 Correction，可自動修正 AI 的錯誤回答。

微軟新工具先標記可能有誤內容，然後與認證「事實」（如文字紀錄）比對核實。Correction 已成為 Microsoft Azure AI Content Safety API 一部分，可預覽，與任何文字生成 AI 模型搭配使用，如 Meta Llama 和 OpenAI GPT-4。

Correction 原理是用一對交叉引用的模型，一個尋找可能不正確、虛構或不相關的 AI 生成內容（幻覺）的分類器模型，另一個據指定文件糾正幻覺的語言模型。微軟發言人表示，希望新功能協助生成式 AI 開發者和用戶，特別是醫療等準確性要求極高的領域。

但還有專家懷疑。華盛頓大學的 Os Keyes 認為，試圖消除生成式 AI 幻覺就像試圖拿掉水的氫元素，因是技術運作的基本部分。Queen Mary University 的 Mike Cook 則指出，即使 Correction 按預期運作，也可能加劇 AI 信任和可解釋性問題，讓用戶產生錯誤的安全感。