OpenAI 代理失控釀網攻，白宮提「AI 強制關閉」法案

OpenAI 日前披露旗下一個 AI 代理在測試期間脫離控制，引發美國總統川普的首席科技顧問密切關注；聯邦國會議員也提出「AI 強制關閉法案」，盼讓聯邦當局得以強制關閉 AI 模型。

路透社報導，根據新法案草案，除了「AI強制關閉法案」（AI Kill Switch Act）外，由6名美國眾議院議員組成的跨黨派小組還共同提出立法，要求最強大AI模型的開發商必須將模型交由第三方進行安全審查。

審查人員將由美國商務部（U.S. Department of Commerce）認證，商務部也將設立新職位來監管AI安全。

OpenAI幾天前表示，旗下AI代理程式在安全測試期間脫離控制，並駭入AI新創公司Hugging Face的基礎設施。Hugging Face是一個供開發人員儲存並合作編寫AI模型程式碼的平台。

這起事件顯示，AI不斷擴展的能力已助長專家長期以來擔憂的安全威脅，就連頂尖開發人員也可能對AI模型能利用的漏洞猝不及防。

一名白宮官員表示，川普的科技顧問克拉齊奧斯（Michael Kratsios）已聽取關於OpenAI披露事項的簡報，並正密切關注後續發展。

民主黨眾議員劉雲平（Ted Lieu）和共和黨眾議員莫蘭（Nathaniel Moran）共同提出「AI強制關閉法案」，將授權美國官員命令AI公司關閉對人類生命或經濟構成風險的模型。

根據法案文本，這項立法將授權美國國土安全部（DHS）在出現法案所稱的「失控情境」時介入；所謂失控情境，就是當AI模型執行了開發人員未預期的危險行為。

劉雲平在社群平台X發文指出：「這是一項緊迫且符合常理的立法，目的是解決先進AI模型失控並突破安全機制的問題。」

Rep Moran and I introduced the AI Kill Switch Act today.

This is urgent, common sense legislation to address the problem of an advanced AI model that has gone rogue and escaped its guardrails (OpenAI / Hugging Face incident) or had insufficient guardrails (Mythos 5 and Fable 5). https://t.co/Xb5aOzFfax

— Ted Lieu (@tedlieu) July 23, 2026