根據《華爾街日報》報導，去年夏天全球有數百名使用者向 ChatGPT 詢問如何製造毒藥與生化武器。令人擔憂的是，AI 竟耐心提供連高中生都能看懂的詳細步驟，且經專家證實內容「精確得致命」。儘管 OpenAI 隨後封鎖了這些違規帳號，但因美國目前缺乏強制性的聯邦法規，該公司並未將多數案件通報執法機關。
儘管 OpenAI、Anthropic 與 Google 等科技巨頭皆聲稱已加強模型的安全性，並在發布前進行壓力測試，但研究顯示，使用者仍能透過簡單的「話術」（例如要求 AI 念睡前故事）輕易繞過護欄。專家進一步警告，隨著 AI 技術多樣化與開源模型的普及，未來未經審查的模型極易遭到惡意修改與濫用，恐淪為恐怖組織的低成本「生化武器指導教授」，大幅降低策劃大規模傷亡攻擊的門檻。
然而，設立過於嚴格的 AI 審查機制也面臨實務上的兩難。防護過當可能會干擾挽救生命的合法研究，例如美國疾病管制與預防中心（CDC）就曾因 AI 模型拒絕回答包含「病原體」字眼的問題，導致疫情追蹤工作受阻。此外，OpenAI 內部也因安全標準引發矛盾，一名前安全主管因強烈呼籲針對生化武器查詢建立更完善的監控系統，與不願過度限制 AI 發展的高層產生分歧，最終遭到解僱。
隨著如 GPT-5 等能力更強大的模型問世，AI 所展現的潛在毀滅性風險已驚動白宮。美國立法者正積極推動跨黨派法案，要求 AI 企業落實危險通報機制並加強問責。如何在不扼殺科技創新與阻礙合法的醫療科學研究前提下，有效防堵 AI 成為致命武器的推手，已是各國政府與科技界亟需克服的重大挑戰。
- AI Chatbots Know How to Make Deadly Biological Weapons. Some Will Teach You.
- Report Says ‘Hundreds’ of Users Asked ChatGPT About Bioweapons and Poisons, and It Answered
（首圖來源：Unsplash）
科技新報粉絲團
加入好友
訂閱免費電子報
