下一個 AI 危機是什麼？答案可能藏在生物實驗室裡

生成式 AI 快速進入大眾視野，多數人對科技風險的想像仍停留在聊天機器人說謊、Deepfake 偽造影音或論文抄襲。然而，更具顛覆性且攸關人類生存的隱形革命，正在生物實驗室悄然上演。

最新研究指出，名為ESM3的生物大型語言模型（Biological Foundation Model），展現出令人驚歎的能力，能直接將「蛋白質序列與結構」當成語言解讀。這款模型能精準分析蛋白質，甚至憑空設計出自然界不存在的新蛋白質結構，為新藥開發、癌症疫苗與綠色生技帶來劃時代的曙光。

但硬幣的另一面，是令人不寒而慄的代價。此類頂尖「生物AI工具」（BTs）如果被具基礎生物知識的惡意人士利用，將大幅降低設計致命病原體、改造病毒或最佳化生物武器的技術門檻。全球現行法律制度，似乎即將陷入前所未有的監管危機。

歐盟《AI法案》的致命盲點：法律只認得人類語言

這項最新研究揭露令人震驚的國際法理漏洞：號稱全球最完整、最具指標性的歐盟《AI法案》（EU AI Act），竟然完全管不到ESM3這種頂尖生物AI模型。

這涉及法律定義「通用AI」（GPAI）時的邏輯缺陷，主要在「被文字綁架的監管定義」與「系統性風險的法規免疫」兩大核心漏洞。團隊深入分析歐盟《通用AI指南》（GPAIGuidelines）後發現，法規界定何謂「通用」時，過度依賴「自然語言」（Natural Language）為判斷標準，法律實質上把監管目光鎖定在ChatGPT、Claude等以人類語言互動的大型語言模型，卻將以「基因密碼、氨基酸序列」為輸入語言的生物模型排除在外。

現行歐盟法規，模型必須先歸類為「通用AI」，才有機會列為具備高度危險性的「系統性風險通用AI」（GPAISR）並課予嚴格的風險控制義務；然而，由於ESM3這類前線生物模型第一關就因不講人類語言而被免除資格，導致這款能設計蛋白質、甚至擁有開源版的強大工具，直接於歐盟法規雷達消失，成為名副其實的監管空白。

未來高風險AI該走向核能式管制嗎？

這項法理漏洞涉及「雙重用途風險」（Dual-use Risk）討論。所謂雙重用途，是指一項技術同時有巨大的造福人類潛力（如研發罕見病新藥），以及毀滅性的破壞威力（如最佳化炭疽桿菌或設計未知病毒）。

當傳統法律無法經文字定義有效納管這類先進科學工具時，政策制定者可從兩方向著手：「從資訊正確性延伸至生物安全防禦」與「引進核能與危險化學品管制框架」。

首先，未來的AI治理核心必須從防範資訊幻覺或版權爭議，全面提升至化學、生物、放射性與核能等實體安全防線，學術團隊正敦促歐盟執委會緊急修正指南，或直接啟動《AI法案》第51條的特殊裁量權，將這類能操作生物鏈、具雙重用途高風險的模型，強制納入風險評估與控管要求。

同時，越來越多專家主張，未來高風險AI模型不應再視為單純的軟體，而應比照危險化學品或核能技術實體管制，未來開發、持有或運行超過特定算力門檻的生物AI模型，企業與研究機構都需要取得特許牌照，且模型散佈必須受嚴格出口管制，並由類似國際原子能總署（IAEA）的國際組織進行跨國常態性監督與程式審查，徹底防止最尖端技術流入失控的地下市場。