史丹佛大學推出 DetectGPT，對付學生用 ChatGPT 寫的論文

史丹佛大學研究小組提出 DetectGPT 新技術，為打擊高等教育中用人工智慧模型產生文本的首批工具。

原理是 LLM 產生文字通常於模型對數機率函數的負曲率區域特定區域徘徊，故開發新指標，判斷文本是否由 AI 產生，且不需經過訓練人工智慧或收集大型資料庫以比較文本。此方法稱為「Zero-Shot」，允許 DetectGPT 檢測 AI 產生文本，不需知道是用哪個人工智慧模型，操作簡單與其他需訓練「分類器」和真實及產生段落資料庫法形成鮮明對比。

團隊用假新聞測試 DetectGPT，檢測 AI 產生文本與否的表現優於其他 Zero-Shot 法。團隊稱檢測性能有提高，表示 DetectGPT 是有前途的方法，可仔細檢查 AI 產生的文本。

（本文由品玩授權轉載；首圖來源：shutterstock）