在人工智慧技術迅速發展的背景下,Anthropic 宣布成立新的研究機構──Anthropic Institute,專注於研究強大 AI 系統的社會和經濟影響。該研究所將分析 AI 安全性、工作職位的變化及治理問題,並將匯聚來自機器學習、經濟學和社會科學等多個領域的專家共同合作。
Anthropic Institute 的成立正值全球對於 AI 安全性、治理及未來影響的討論日益加劇之際。隨著各國政府和監管機構密切關注這些技術的發展,Anthropic 希望透過這個新機構來深入探討強大 AI 系統的長期影響。該機構的目標是與政策制定者、科學家及公眾分享研究成果,幫助他們理解 AI 能力的加速發展所帶來的挑戰。
該研究所將重點研究幾個關鍵問題,包括強大 AI 系統如何改變工作和行業、先進 AI 可能帶來的風險、自動化的經濟影響以及 AI 系統的治理方式。Anthropic 將整合其內部的三個研究團隊,包括 Frontier Red Team(專注於 AI 模型的極限測試)、Societal Impacts 團隊(研究 AI 在現實世界中的應用)以及 Economic Research 團隊(追蹤就業市場變化)。
新任命的領導者 Jack Clark 將擔任公共利益部門負責人,並將帶領多位學術和研究界的專家加入該機構,包括馬修·博特維尼克(Matt Botvinick,研究 AI 與法治的關係)、安東·科里內克(Anton Korinek,研究 AI 如何重塑經濟活動)及 Zoë Hitzig(將經濟研究與 AI 模型開發相結合)。
除了成立研究所,Anthropic 還在擴大其公共政策團隊,專注於模型安全性、透明度、基礎設施投資及與 AI 技術相關的出口管制等問題。公司計劃在華盛頓特區開設新的政策辦公室,以便更好地與政策制定者接觸,並分享在前沿 AI 系統開發過程中獲得的見解。
- Anthropic launches new AI Institute to study risks of powerful AI systems
- Anthropic launches institute for AI risks
(首圖來源:Anthropic)






