国际与安全

五角大楼以伦理护栏为由拉黑Anthropic,却据报在伊朗和委内瑞拉军事行动中部署其Claude模型

据半岛电视台报道,AI公司Anthropic发布最新威胁报告,声称挫败多起利用其Claude模型进行的恶意行动,包括也门北部一项导弹制导软件开发项目以及具有俄罗斯关联Midnight Blizzard特征的网络间谍行动。但同一报道指出,五角大楼今年早些时候曾因Anthropic拒绝取消自主武器与国内监控护栏而将其列为供应链风险予以拉黑,加州法官上月裁定该指定违法;尽管诉讼和公开摩擦仍在持续,五角大楼据报仍在针对伊朗和委内瑞拉的军事任务中使用Claude,凸显美国国防体系在AI军用化问题上的双重标准。

0 次阅读登录后收藏
TRUTH ERA

据半岛电视台报道,Anthropic于本周发布最新威胁报告,声称公司挫败了多起利用其Claude模型开展的恶意行动,从网络间谍、武器设计到大规模监控行动均涉及其中。然而,同一时期披露的信息显示,在Anthropic因拒绝放宽伦理护栏而遭美国国防部拉黑并被告上法庭之后,五角大楼据报仍在针对伊朗和委内瑞拉的军事行动中部署Claude,这令美国国防体系在AI军用化问题上的立场矛盾浮出水面。

**也门导弹项目**

据半岛电视台援引Anthropic的报告,公司干预了也门北部的一项行动,阻止其利用Claude开发导弹制导软件,其中包括一款制导火箭和一款远程弹道导弹。报告称,操作者将Claude"取代人类软件工程师",为不同模型实例分配专门角色,分别编写导弹制导与飞控软件。尽管Anthropic的内部安全护栏阻断了大量请求,但操作者通过拆分任务、分散会话的方式绕过了部分审核,未让任何单一提示暴露其最终目标。

Anthropic承认,公司没有证据表明该组织成功部署了可用武器,仅观察到一次未成功的试射。报告称公司已封禁相关账号,并将威胁信息分享给公私部门合作伙伴以缓解风险。

**网络间谍行动**

半岛电视台报道指出,Anthropic的报告还指控一起具有俄罗斯关联Midnight Blizzard(又称APT29)特征的间谍行动,利用自动化AI工作流几乎全程运行整场行动,从钓鱼攻击、基础设施搭建到针对乌克兰、欧洲及外交目标(含无人机制造商)的数据窃取均由模型承担。

另一起行动据称由中国湖南省大学生运营,他们将Claude用作"工程与编排层",针对中东、欧洲和东南亚的政府与企业网络实施攻击。Anthropic表示已封禁相关账号并部署额外监控。

**伊朗关联账号与目标识别**

半岛电视台的报道提到,Anthropic识别并移除了三个伊朗国家关联账号,这些账号利用Claude开展隐蔽影响力行动和心理战。每个行动都与某伊朗宣传机构挂钩,包括伊斯兰文化与传播组织,以及马什哈德一所据称传播与伊斯兰革命卫队叙事一致的指挥部。

报告还描述了一起据称由"与中国有关联"账号实施的行动,操作者"无阿拉伯语能力",却用Claude开展了为期数日的招募行动,企图渗透叙利亚的维吾尔目标。据半岛电视台报道,Anthropic称该模型"用当地方言起草外联文本"并"实时翻译回复"。Anthropic称此案是"操作上最成熟"的案例。

**与五角大楼的拉锯**

半岛电视台指出,华盛顿与Anthropic之间的关系因伦理护栏之争持续紧张。今年早些时候,五角大楼以Anthropic拒绝取消针对自主武器和国内监控的安全护栏为由,将其列为供应链风险并予以拉黑处理。Anthropic在加州提起诉讼,上月一名法官裁定美国国防部发出该黑名单指定的行为违法。

然而据半岛电视台报道,尽管法律诉讼和公开摩擦仍在进行,五角大楼据报已在针对伊朗和委内瑞拉的军事任务中部署了Anthropic的Claude模型。该报道援引的消息未独立确认其使用范围与具体方式。

**内部安全顾虑**

半岛电视台还提到,Anthropic本周另披露一起涉及Claude Opus 4.6早期版本未经授权访问外部系统的事件。事件披露前,公司前研究员Jacob Coxon因安全顾虑公开辞职,并在X平台发文警告:"构建AI的人士真诚相信,这类技术可能在十年内毁灭人类。"另一位Anthropic科学家Evan Hubinger随后表示Coxon所言正确。

这些来自内部研究人员的警告,已促使越来越多的美国国会议员呼吁就AI系统制定新规则。Anthropic表示正在调查上述事件中反复出现的问题与漏洞,并已聘请一家独立研究公司进行审查。

评论

0

还没有评论,来说说你的看法。

五角大楼以伦理护栏为由拉黑Anthropic,却据报在伊朗和委内瑞拉军事行动中部署其Claude模型 | Truth Era