Anthropic 告訴美參議員：壞人恐利用 AI 製造生化武器

彭博社報導，Anthropic 聯合創辦人兼執行長 Daniela Amodei 7 月 25 日在美國參議院司法委員會小組會議上表示，人工智慧（AI）比預期更接近超越人類智慧，甚至可能協助生產大規模殺傷性武器，中期而言、惡意行為者恐將利用 AI 製造生化武器。

Amodei呼籲美國透過立法以避免全球面臨電腦系統風險，稱AI演算法創造者可能也無法理解這些風險。他並且建議美國採取行動，確保AI供應鏈（從運算力供應到最終模型）安全無虞。

techcrunch.com報導，25日出席美國參議院聽證會的專家小組成員還包括加州大學柏克萊分校電腦科學教授Stuart Russell以及2018年與AI教父辛頓（Geoffrey Hinton）、Meta首席AI科學家楊立昆（Yann LeCun）一同獲得電腦科學界最高榮譽「圖靈獎」（Turing Award）的蒙特婁大學知名AI學者班吉歐（Yoshua Bengio）。

Russell 25日呼籲將任何能夠做出殺人（無論規模大小）決策的演算法視為違法、並強制關閉任何違反法令的電腦系統。他並且指出，中國仿冒的大型語言模型（LLM）不會對OpenAI、Anthropic等公司構成威脅，但可以預見的是，中國的AI監控技術處於遙遙領先地位。

英國金融時報2021年11月報導，Russell在BBC電台播出的講座中發出警告，AI武器不再是科幻小說，而是正在完全不受監管的情況下迅速發展。

Russell、班吉歐皆參與人工智慧安全中心（Center for AI Safety, CAIS）以及《生命未來研究所》（FLI）關於AI風險示警的公開信連署。

BBC News 5月報導，班吉歐受訪時表示，軍隊不該擁有AI能力。

CNBC報導，Anthropic是由OpenAI前研究高階主管於2021年成立，金主包括Google、Salesforce以及Zoom。

（本文由 MoneyDJ新聞授權轉載；首圖來源：shutterstock）