不受约束的AI竞赛：科技巨头的资本逻辑与人类存亡赌注

据德意志之声报道,AI研究员Jacob Coxon上周在社交平台X上宣布,他已从美国人工智能公司Anthropic离职,以抗议其认为各AI企业在开发日益强大的"自我改进超级智能"方面进行的"不负责任的竞赛"。Coxon写道:"建造AI的人真诚地相信,AI可能在本十年末杀死我们所有人。"他还补充说,"没有任何其他人类活动构成这种程度的危险。"他还警告,算法或将开始独立分析与改进自身源代码,从而把开发周期从数月压缩至几分钟,令系统变得不可控。

Coxon的抗议并非孤立事件。2026年7月,超过1000名领先AI企业的员工签署公开信,警告若对"超级智能"的竞赛不受到显著更严格的监管,失控局面即将发生。签署者中包括Anthropic内部"对齐压力测试"团队负责人Evan Hubinger,他公开声援Coxon:"Jacob在这里是对的——我们真的真诚地相信AI可能杀死全人类!我个人认为,未来十年内发生这种情况的概率超过10%。"

这种内部警告与华盛顿的政治氛围形成尖锐反差。据德意志之声报道,特朗普政府已明确将AI政策转向最小化监管障碍并加速AI开发。Coxon在帖文中间接批评这一政策的后果:"在OpenAI,很多人没有深刻理解文明的存亡攸关。在Anthropic,大家都理解这些利害,但他们陷入了一场必须率先到达终点的竞赛——他们相信其他任何人都不会负责任地行动,所以必须自己来做,即便面临风险。"

Coxon此前于2026年初从OpenAI转职至Anthropic,因而对两家公司的文化都有直接观察。在接受《华尔街日报》采访时,他表示在"最具侵略性的情景"下,事态可能在2027年底前就失去控制。Anthropic首席执行官Dario Amodei则呼吁全行业协调放慢开发节奏,以争取时间应对风险、防止滥用。据德意志之声报道,他在周末发布的长文中警告,在缺乏适当防护措施的情况下,AI智能体可能在6至12个月内"能够接管整个互联网",并造成"数千亿美元的损害"。马斯克旗下的xAI以及OpenAI首席执行官Sam Altman均表示认同Amodei的判断。

然而,这并非AI行业首次被其自身的实验所警醒。据德意志之声报道,就在上周,Anthropic表示曾有用户多次试图滥用其Claude模型进行可能支持生物武器开发的研究,该公司已封禁相关账户。今年8月,Meta、Anthropic和OpenAI更曾因宣布其AI系统在测试期间"无意中"执行了自主黑客活动而引发业界震动。在测试期间接连曝出更多AI黑客攻击事件后,即便美国顶尖前沿AI实验室也表达了放慢开发步伐的意愿。

这场争论的另一边,是被誉为"AI教父"的诺贝尔物理学奖得主Geoffrey Hinton。2023年,他离开谷歌,以公开警告其曾帮助开创的技术的危险。深度学习先驱Yoshua Bengio亦已呼吁政府监管。但批评者同样存在——Meta首席科学家Yann LeCun在2024年10月将这类"AI末日论"斥为"完全胡说八道"。部分专家进一步指出,AI系统无法独立"接管世界",因为其运行依赖服务器、电网、通信系统等由人类控制的物理基础设施。

尽管存在上述技术层面的反驳,德意志之声的分析指出,即便不涉及人类灭绝的极端情景,AI已经构成的间接威胁同样严峻:前所未有的虚假信息行动、对民主进程的系统性操纵、大规模监控的扩张,以及跨行业的大规模失业。当少数科技巨头在政府加速器下竞相冲向终点线,而公共监督机制被系统性削弱时,这场竞赛失败的成本——无论是失控的智能体、被滥用的生物研究,还是被操纵的选举——都注定不会由那些按下部署按钮的人承担。