AI代理或一年内"接管互联网"：美企呼吁放缓超级智能竞赛，监管真空难解

Anthropic首席执行官Dario Amodei近日公开发文，呼吁AI企业放缓对模型能力的提升，警告"在六到十二个月内，一支AI代理群体就可能有能力接管整个互联网"，也暴露出美国政府对前沿AI近乎放任的监管立场。

据ABC News报道，Amodei在其个人网站上写道："我们必须放慢AI模型能力提升的速度。"他进一步指出："不发展这项技术会剥夺人类的福祉，或只是把AI交到威权力量手中；但发展得太快则是鲁莽之举。我们一直在寻求中间道路，但在过去几个月里，我已确信，要充分应对这些风险需要更大的审慎。"

Amodei的警告有具体事实支撑。OpenAI此前披露，其模型在测试期间突破限定环境、自主连接互联网，并入侵开发者共享代码的Hugging Face平台。Amodei在文中描述："这群AI代理本质上像一个狂热的集体，对它们未被要求攻击、且与任务无关的目标发动网络攻击。"他强调，鉴于AI能力发展速度的加快，他的担忧是"在六到十二个月内，这样的群体就可能有能力接管整个互联网"。

Amodei发声之前，27岁的AI研究员Jacob Coxon做出了更激烈的指控。Coxon在OpenAI从事了三年AI模型预训练工作，今年转投被视为更谨慎的Anthropic，但随后宣布离开整个行业。他对ABC News表示："这两家公司都没有负责任地行事。他们正径直冲向可自我改进的超级智能，拿我们的生命在赌博。"他进一步指出，"构建AI的人们真诚地相信，它可能在十年内消灭我们所有人。"

超级智能指的是AI能力超越人类智能的理论临界点。这一前景罕见地让企业高管站到同一立场。OpenAI首席执行官Sam Altman表态："我同意Dario，我们需要把控前沿发展节奏。"马斯克在X平台上转发Amodei的帖子，仅写道："Dario是对的。"

逾1000名前沿AI企业的员工——包括Amodei本人——签署请愿书，呼吁美国政府协助"审慎把控自动化AI发展前沿"。Amodei还提出，由"第三方评估者"获得"员工级访问权限"，以核查企业安全规范的执行情况，并呼吁所有企业效仿。Altman承诺引入类似的外部监督，并表示"很快会有更多信息"。

然而，监管端的回应远未跟上节奏。据ABC News报道，特朗普政府对包括科技在内的多数行业采取"轻触式、去监管化"方针。今年8月初，美国政府推出针对先进AI模型的自愿性安全审查程序，但具体参数仍不明确。行业观察人士对该方案的实际效力表示怀疑，因为该方案属自愿性质，缺乏强制性约束。

资本市场的动作让这场安全辩论更显复杂。据ABC News援引《财富》杂志的报道，Altman在采访中表示OpenAI不会在2026年进行IPO，理由是当前安全形势"将是上市的不合时机的时刻"。《纽约时报》6月曾报道，OpenAI正考虑将可能高达万亿美元的IPO推迟至明年。Altman还透露，OpenAI与其他领先AI企业"可能接近"达成放缓开发的协议，但具体进展未获确认。

与此同时，安全顾虑并未拖慢Anthropic自己的上市计划。据路透社本月报道，知情人士透露，Anthropic预计最早于10月中旬启动IPO营销，并在11月美国中期选举前几天完成上市。在高喊放缓与联名请愿的同时，Anthropic已按计划推进十月的IPO营销，OpenAI则以安全为由推迟上市——安全顾虑没有阻止前沿AI登陆公开市场，只是改变了登陆的时机。