在美國國防部與人工智慧公司 Anthropic 之間，近期爆發一場關於 AI 模型使用的爭議。根據 Axios 於 2 月 15 日的報導，五角大廈考慮終止與 Anthropic 的合作，原因在於該公司對於軍方使用其 AI 模型 Claude 的限制，特別是在大規模監控和完全自主武器的使用上，未能達成共識。
五角大廈目前正推動四家主要AI公司，包括OpenAI、Google和xAI，允許軍方將其工具用於「一切合法用途」，這涵蓋了武器開發、情報收集及戰場行動等敏感領域。然而，Anthropic對此要求持保留態度，導致五角大廈對其感到厭煩，並表示可能會考慮縮減或終止與該公司的合作。
根據報導，Anthropic的合約價值約為2億美元，並且Claude已成為首個獲准在五角大廈機密網路中運行的商用AI模型。該模型在美軍最近的行動中被用於捕捉委內瑞拉前總統馬杜洛，這一事件引發外界對於商用AI進入軍事領域的擔憂。
Anthropic發言人強調，該公司對於AI的使用有明確的政策，禁止其用於暴力、武器開發或監控等用途。儘管如此，五角大廈的官員指出，對於哪些使用場景屬於禁區，仍存在相當大的模糊地帶，這使得雙方的談判變得更加複雜。
目前，五角大廈與Anthropic的討論仍在進行中，這場爭議可能會影響未來AI公司與政府的合作模式，也引發了對於如何平衡AI技術發展與安全責任的更大討論。
- Pentagon threatens to cut off Anthropic in AI safeguards dispute
- Pentagon ‘fed up’ with Anthropic pushback over Claude AI model use by military, may cut ties, says report
- Pentagon warns AI Giant: Follow safety rules or lose government support
（首圖來源：shutterstock）
科技新報粉絲團
加入好友
訂閱免費電子報
