最近熱門 ChatGPT 除了以人類語氣回答問題、編寫基本程式和寫文章,更會主動阻止潛在非法內容行動。但有研究人員指,駭客已設計出繞過限制的方法,並利用 ChatGPT 銷售製作惡意軟體和網路釣魚信。
網路安全公司 Check Point Research 研究人員表示,目前版本 OpenAI API 可由外部應用程式使用,且 API 幾乎沒有反制惡意內容的限制,允許惡意內容(如釣魚信件和惡意程式碼),不受 ChatGPT 用戶介面的限制或阻礙。API 本是幫助開發人員將聊天機器人整合的資料放入應用程式。
有用戶在銷售結合 API 和 Telegram 消息傳遞的應用程式,也有用戶分享免費產生惡意內容的程式碼,以繞過 ChatGPT 限制任意使用。
ChatGPT 開發商 OpenAI 還未回應是否知道此結果,或會否修改 API 漏洞。