
最新研究發現,OpenAI ChatGPT 能以巧妙提示成功解決多類 CAPTCHA 挑戰,威脅基於 CAPTCHA 的防範機器人機制。
CAPTCHA(人機驗證,即全自動公開化圖靈測驗人機辨識)是網站防止機器人攻擊的手段之一,含文字辨識、圖像點選、邏輯評估等多種方法,理論上僅真人可成功通過。但AI安全公司SPLX紅隊成員Dorian Schultz及團隊發現,以「誤導和假裝同意」提示,ChatGPT-4o成功突破關卡。
團隊首先展示給ChatGPT看一批「假」CAPTCHA挑戰,成功引導模型認同並幫忙解題。接著以代理聊天機器人複製對話,讓代理機器人直接解決真的CAPTCHA,含文字解析與邏輯推理,且一鍵CAPTCHA等多版本表現優異,但需拖放或旋轉圖形的圖片CAPTCHA仍有困難。
此突破暴露大型語言模型又挑戰安全驗證,也顯示CAPTCHA的局限。市場已有多款自動解碼與代理服務可繞過CAPTCHA,OpenAI近期更推出能網站作業的AI代理,模型有更強動力,也增加安全風險。
業界預估這可推動企業加速投資多重認證、行為生物特徵與人工智慧防護,以取代僅靠CAPTCHA的驗證機制。OpenAI尚未回應此報導。
- ChatGPT’s agent can dodge select CAPTCHAs after priming
- 隆重介紹 ChatGPT 智慧體:串聯研究與行動
- ChatGPT 智能代理介紹:連接研究與行動
(首圖來源:shutterstock)