聊天機器人 ChatGPT 開發商 OpenAI 7 日表示，已封鎖多個疑似與中國政府機構有關聯的 ChatGPT 帳號，原因是這些用戶曾問模型如何監控社群媒體。
路透社報導，OpenAI最新公共威脅報告指出，有些用戶要求聊天機器人列出社群媒體「監聽」工具和其他監控概念計畫，違反公司的國家安全政策。
OpenAI報告警告，美中兩國競相制定生成式人工智慧（AI）發展方向與規範，AI遭濫用的安全風險日益升高。已封鎖多個說中文的帳號，這些帳號用ChatGPT協助網路釣魚與惡意軟體活動，甚至詢問模型如何以中國深度求索（DeepSeek）平台執行更多自動化作業。
中國駐美大使館並未立即回應置評要求。
OpenAI也封鎖一些疑似俄語犯罪團體相關帳號，這些帳號用ChatGPT協助開發特定惡意軟體。
OpenAI補充，去年2月開始公布公共威脅報告後，已破壞並通報超過40個網絡，且模型能拒絕明顯帶惡意的提問。報告指出：「我們未發現任何新型攻擊手法，也沒有證據顯示我們的模型為這些威脅行為者提供新攻擊方法。」
OpenAI表示，目前ChatGPT每週活躍用戶超過8億人，上週授權次級市場出售價值100多億美元股票後，估值達5,000億美元，成為全球最有價值的新創企業。
（首圖來源：科技新報）
科技新報粉絲團
加入好友
訂閱免費電子報
