十年內 AI 滅絕風險，政策應如何部署？

面對 AI 先驅約書亞·班吉歐與辛頓接連發出的「滅絕級」生存威脅警告，全球政府正加速從技術放任轉向制度監管。目前治理核心已由「事後補救」轉向「事前預防」，歐盟《人工智慧法案》率先確立風險分級制度，美國則透過行政命令要求開發者分享安全測試數據，並研議針對高算力模型實施許可制。台灣亦三讀通過《人工智慧基本法》，確立人類自主與透明問責原則。這些政策旨在為 AGI 可能帶來的失控風險裝上「煞車系統」，透過強制性的安全審查與透明度要求，確保技術發展不脫離人類控制，從法律層面重建大眾對新技術的信任基礎。

各國政府與科技巨頭在監管上的角力，本質上是在國家競爭力與公共安全間尋求動態平衡。推動「算力門檻」與「緊急監管保障」的動機，在於防止 AGI 在 2028 年左右實現時出現不可逆的武器化風險。對企業而言，支持聯邦統一立法而非各州碎片化規範，是為了降低合規成本並爭取創新空間；但對治理者來說，建立如 Google DeepMind 提出的「臨界能力等級」監控與「安全關機機制」，則是確保人類保有最終決定權的必要手段。這場規範競賽不僅是為了緩解焦慮，更是為了在全球 AI 治理框架中掌握話語權，避免技術演進演變成瓦解社會秩序的黑箱。