監管前沿 AI 刻不容緩，Demis Hassabis 籲美國設立獨立標準機構

Google DeepMind 執行長哈薩比斯（Demis Hassabis）呼籲成立一個由美國主導的標準機構，針對全新的「前沿等級」（frontier-class）AI 模型進行國安威脅相關測試。他同時主張，國際監管機構有必要立即採取行動，因應這項快速演進的技術帶來各種風險。

諾貝爾獎得主、更是主導 Google AI 發展的哈薩比斯 14 日撰文《A Framework for Frontier AI and the Dawning of a New Age》，「我們已經看到前沿模型對網路安全帶來的挑戰，隨著能力的不斷進步，包括核子和生物風險在內的其他威脅可能很快就會出現」，他表示。

「我們目前見到 AI 快速進展，需要一套以動態、適應性強且嚴謹的全新方式，對前沿 AI 模型能力進行測試。」哈薩比斯表示，「以美國的經濟實力與技術地位，處於能針對開發這類架構率先邁出第一步的絕佳位置。」

哈薩比斯建議，新機構能以美國金融業監理局（Financial Industry Regulatory Authority，FINRA）為藍本，並設有獨立且具技術專家與開源代表所組成的董事會。金融業監理局是一個獨立的非營利組織，由美國國會授權，負責監督在美國境內的券商與交易市場，確保市場運作公平、誠實保護投資人。

被認定為「前沿等級」的 AI 模型，包括世界各地開發的開源模型或閉源系統，應要接受新機構的審查。他建議，新機構同時應對 AI 模型的安全防護機制進行壓力測試。

「這項由美國率先展開的相關作為，將為國際間共享前沿 AI 標準提供一個強而有力的起點。」哈薩比斯補充說，這項作為接下來應促使國際社群達成關於 AI 監管的共識。

中國 AI 能力持續提升之際，DeepSeek、Z.ai 所推出的開源模型，一步步縮小與美國競爭對手的差距，同時美國國內對於 AI 監管的相關討論越來越激烈。此外，上個月舉行的 G7 高峰會，各家科技公司高層都敦促各國領袖以團結一致的方式面對 AI 安全性與資安相關議題，當時美國政府對 Anthropic 及其 Claude Fable / Mythos 採取的行動，也在歐洲和亞洲引發不小的疑慮。

除了 AI 監管相關提案之外，哈薩比斯的文章也描繪對於 AI 相當樂觀的未來願景。AI 可為醫學與能源領域帶來重大進展，能與人類大腦所有能力匹敵的通用人工智慧（Artificial General Intelligence，AGI）很可能只剩數年之遙，這為社會提供了一段可付諸行動的寶貴緩衝期。

「這項技術帶來衝擊的規模，將是前所未見，可能相當於工業革命的 10 倍規模，且以 10 倍速度發生。」哈薩比斯表示，「如果你停下來仔細想想，我們基本上等同於找到一種『讓沙子學會思考』的方法，這簡直是奇蹟。」

繼 Anthropic 執行長阿莫迪（Dario Amodei）提出強化 AI 監管的呼籲，哈薩比斯登高一呼，這篇文章在 X 平台發布後，多位科技產業領袖認同並轉文支持，像是皮查伊（Sundar Pichai）以及微軟的納德拉（Satya Nadella）與蘇萊曼（Mustafa Suleyman）、OpenAI 的奧特曼（Sam Altman）、Block 的多西（Jack Dorsey）等等。

（首圖圖中為 Google DeepMind 執行長 Demis Hassabis，來源：Demis Hassabis）