- 五角大楼与 Anthropic 之间就 AI 用于自主武器和国内监控的拟议限制谈判陷入僵局。
- 这场争议凸显了伦理 AI 保障与新兴战场技术中的国家安全需求之间的紧张关系。
发生了什么
据知情人士透露，美国国防部官员与人工智能初创公司 Anthropic 在关于该公司 AI 模型如何用于国防目的的讨论中陷入僵局。这一对峙源于一份价值高达 2 亿美元的合同，根据该合同，Anthropic一直在与五角大楼就扩大其 AI 技术在军事应用中的使用进行谈判。
争议的核心在于保障措施，这些措施旨在防止政府在缺乏足够人类监督的情况下，将 Anthropic 的 AI 用于可能的自主武器瞄准和国内监控。据报道，五角大楼官员认为，只要 AI 工具符合美国法律，就应该可以广泛用于国防目的；而 Anthropic 则坚持更严格的使用政策，以避免伤害。
消息人士称，该公司在伦理限制上的立场加剧了与特朗普政府的摩擦。Anthropic 正在为未来的公开上市做准备，并积极寻求塑造政府 AI 政策，同时争取国家安全合同。
Anthropic 并非孤例；去年，包括谷歌、OpenAI 和埃隆·马斯克的 xAI 在内的多家 AI 开发商获得了五角大楼的合同，以开发针对国家安全任务的先进 AI 工作流程。
另请阅读：https://btw.media/en/allit-infrastructure/tesla-commits-2bn-to-xai-as-cybercab-timeline-reasserted/
为何重要
这一争议凸显了商业 AI 技术在国防部署中的根本紧张关系：如何在伦理保障与国家安全运作需求之间取得平衡。业内一些人倡导的伦理谨慎型 AI 设计强调人类监督和伤害最小化——这些原则可能与军方对自主性、快速决策和战场效能的要求相冲突。
从政策角度看，这一僵局表明政府和企业在试图将先进 AI 能力与法律、伦理和战略框架对齐时面临的日益严峻的挑战。它还引发了一个问题：一旦技术在国家安全的背景下部署，私营公司能否有效施加使用限制。
批评者可能会问，与那些可能不会施加类似限制的敌对国家相比，内置限制的 AI 开发是否会削弱竞争力或军事准备度。同时，伦理 AI 的支持者则认为，无限制的军事使用可能会侵蚀公众信任，削弱民主规范，并为国内监控开创先例。无论如何，Anthropic 与五角大楼的冲突是各国社会将如何协商未来军事 AI 及其更广泛影响的一个早期信号。