Anthropic 公司的安全防護研究團隊負責人 Mrinank Sharma 於 2 月 9 日宣布辭職，並在一封公開信中表達了他對當前全球危機的深切擔憂。Sharma 在信中提到，他在公司期間完成了多個重要項目，包括開發減少 AI 輔助生物恐怖主義風險的防禦措施，以及研究 AI 對人性的影響。他表示，這些工作讓他感到自豪，但他也意識到，隨著科技的發展，社會面臨著一系列相互關聯的危機。
Sharma在信中強調，當前的世界正處於危險之中，這不僅是來自AI或生物武器的威脅，而是多重危機的交織。他提到：「我們似乎正接近一個門檻，我們的智慧必須與我們影響世界的能力相匹配，否則我們將面臨後果。」這個觀點反映了他對科技發展與人類價值觀之間矛盾的深刻思考。
在他辭職的背景下，Anthropic公司內部也出現了其他員工的離職潮，包括研究人員Harsh Mehta和Behnam Neyshabur，他們都表示希望尋求新的機會。Sharma的離開引發業界對AI安全和倫理的討論，許多人開始質疑科技公司在追求創新與保持道德之間的平衡。
Sharma在信中提到，他希望能從事與他個人原則相符的工作，並計劃攻讀詩歌學位，致力於勇敢的言論。他的辭職不僅是個人的選擇，也可能成為AI行業內部反思與變革的催化劑。
- Anthropic AI Safety Researcher Has Held the Situation, Listened, and It Is Clear What Must Be Done
- Read an Anthropic AI safety lead’s exit letter: ‘The world is in peril’
（首圖來源：AI生成）
科技新報粉絲團
加入好友
訂閱免費電子報
