美军停用Anthropic Claude:一场围绕AI安全护栏与"供应链风险"标签的对峙
据BBC报道,美国国防部一位官员本周一确认,五角大楼已停止使用Anthropic产品。赫格塞斯数月前因该公司拒绝移除AI安全护栏而将其列为"供应链风险",但Claude此前仍被广泛嵌入Palantir运营的Maven智能系统,用于情报分析、目标识别以及针对伊朗的军事行动。
据BBC报道,美国国防部一位官员于本周一声明,五角大楼"已停止使用Anthropic产品"。这一确认发生在国防部长赫格塞斯数月前将Anthropic列为"供应链风险"之后,而该部门的使用实际上在设定的八月底截止期限之后又延续了数周。
今年2月,赫格塞斯将这家AI公司贴上"供应链风险"标签,并设定六个月期限要求逐步停用。该指定通常仅适用于被认为对美国构成威胁的国家境内企业,Anthropic则将其定性为"前所未见且不合法",并已起诉特朗普政府以推翻这一决定。
据BBC援引多位知情人士的消息,截至上周,Anthropic旗下的Claude模型——包括功能强大的Mythos系列——仍在该部门被广泛使用,覆盖研究、分析、情报收集,以及针对伊朗的军事行动。多位消息人士将其视为不可替代的关键工具,用于梳理海量信息。
冲突的核心是AI安全边界。据BBC获取的细节,五角大楼曾要求Anthropic移除Claude内置的安全护栏,并向军方授予不受限制的访问权限。Anthropic以担忧大规模监控和自主武器为由拒绝。赫格塞斯随即援引"国家安全供应链风险"条款,将一家总部位于旧金山的美国公司按对待外国对手的逻辑加以处理。
Claude此前被深度嵌入由数据公司Palantir运营的五角大楼主要情报数据平台Maven智能系统。BBC援引消息人士指出,防务分析师依靠Maven访问和整理视觉数据——包括卫星图像和无人机画面——随后输入Claude等大语言模型,用于识别潜在军事目标等任务。官员们在编制一页式简报时频繁使用该技术,这些简报沿指挥链向上传递。Maven同时被部分美国盟友用于与特朗普政府分享情报。
法律对峙持续的同时,五角大楼已与Google、xAI和OpenAI等公司签订新合同。据两位了解国防部AI使用情况的知情人士透露,近几个月来,OpenAI的工具已在部分军事部门得到更广泛采用。
赫格塞斯设定六个月淘汰期限的日期为2月27日,恰好是美国和以色列袭击伊朗的前一天。五角大楼在截止日期之后仍继续使用Anthropic工具数周的具体原因,目前尚不清楚。Georgetown大学安全与新兴技术中心高级研究分析师、前美国国防部官员Lauren Kahn对BBC表示,鉴于Claude已深度整合进Maven,迅速将其从系统中移除并不容易。"五角大楼花了这么长时间才将Claude从整个系统中全部移除,这一事实表明这些东西不是即插即用的,"她说,"一旦它们被整合进去,移除过程会非常痛苦。"
Anthropic发言人对BBC的置评请求拒绝回应。
诉讼未决之际,五角大楼与Anthropic的关系出现微妙松动。据BBC报道,特朗普上周在白宫两次会见Anthropic首席执行官Dario Amodei。在其中一次会面后,Amodei站在特朗普身旁对记者表示,他对AI带来的风险仍存关切。"如何应对这些风险仍在讨论之中,"Amodei说,"但如果我们与总统合作,我们就能安全地获胜。"特朗普随即称赞Amodei"了不起"、"出色"。
围绕Anthropic的争议,折射出军事AI在规模化部署过程中,私营科技公司与五角大楼就安全红线、自主决策边界所展开的拉锯。在针对伊朗的军事行动仍在进行、Maven平台仍承担情报整合功能的背景下,谁有权决定AI的"禁用项"——以及拒绝写入是否构成"供应链风险"——正在成为新的政策前沿。
还没有评论,来说说你的看法。