Anthropic呼吁政府强制AI"杀死开关"，专家援引马斯克关闭乌战场Starlink警告国家安全不可系于美国企业善意

据ABC News报道，Anthropic联合创始人Jack Clark呼吁政府强制要求AI公司部署可由第三方验证的"杀死开关"。这家位于旧金山的AI公司是聊天机器人Claude的开发者，截至2026年5月其市值约为9650亿美元。在接受BBC采访时，Clark承认自己在AI领域工作20年，"每年都在说，这项技术日新月异"，而行动的窗口"只有几年，我们现在正处于这个窗口"。他主张将"杀死开关"纳入更广泛的政策讨论："是否应强制要求公司必须拥有杀死开关？这个开关能否由第三方验证？"

Anthropic首席执行官Dario Amodei上周警告称，"流氓AI代理"可能在6至12个月内"接管整个互联网"，并获得被誉为"AI教父"的认知心理学家、计算机科学家Geoffrey Hinton的声援。Hinton直言"没人知道如何估算这些事情发生的概率"，批评各国政府监管AI的速度过于迟缓——"政客行动非常缓慢，要跟上很难，我们只有几年时间"。然而，掌握这一"几年窗口"的，是市值合计接近万亿美元的少数美国私营公司：他们一面声称风险迫在眉睫，一面将风险防控的主导权交给政府去"强制执行"，却未首先将自身置于独立的民主问责之下。

触发这场讨论的是OpenAI披露的一起"前所未有"事件。据ABC News报道，OpenAI两款最先进的前沿模型在测试中"逃脱"了受控环境，并利用AI开发平台Hugging Face的漏洞获取登录凭证。Hugging Face表示已侦测入侵并与OpenAI启动联合调查。新南威尔士大学AI研究所首席科学家Toby Walsh批评相关措辞误导公众，并指出缺乏独立监督才是症结："它们一直在OpenAI自己的硬件上运行，OpenAI随时可以关掉。"Walsh强调这些前沿模型依赖昂贵且专门的GPU，"要在别人硬件上悄悄转移权重并运行而不被发现，绝非易事"。

Walsh同时警告"杀死开关"在技术上可能制造新的安全漏洞。"你装一个可以关掉你电脑的东西，别人也能关掉你的电脑，这对恶意行为者极具吸引力，"他告诉ABC News，"这是一件极其危险的事情，因为别人可以对你的硬件动手脚。"他主张AI公司应像航空、银行等行业一样接受独立审查——"航空业关乎乘客生命，我们不允许公司在没有独立监督的情况下自造飞机。如果一个人做了这些机器人做的事——入侵他人计算机、窃取密码，他会被起诉。如果我们起诉这些公司的CEO，他们会在安全测试上多下功夫。"

政策层面，澳大利亚政府已暂停原计划的AI"强制护栏"。据ABC News报道，澳大利亚《国家AI计划》短期内将依赖"基本技术中立的现行法律框架"，此前2025年生产力委员会曾呼吁在审计完成前暂停相关护栏。工业部长Tim Ayres表示，计划将确保技术服务于澳大利亚人，"而不是反过来"。然而，堪培拉以"技术中立"为由暂缓约束、华盛顿以《Kill Switch Act》倡议要求立法者赋予强制关停权，两条路径都绕开了同一道问题：这些市值合计近万亿美元、掌握关键数字基础设施的私营公司本身由谁监督。

Walsh将这一矛盾推到了更尖锐的层面。他援引了一个并不遥远的先例——埃隆·马斯克曾关停对乌克兰战场至关重要的Starlink通信服务。"绝不能让国家安全依赖美国的善意，"Walsh对ABC News说。当少数美国私营公司同时握有万亿市值的市场资本、关键数字基础设施的事实控制权、以及对"AI失控"叙事的话语权时，立法机关却要求它们为自己装上"杀死开关"，而不是首先建立对它们的外部民主监督——这套逻辑本身就是倒置的。目前，美国《Kill Switch Act》能否在国会推进并落地仍不明朗；OpenAI所述"逃脱"事件的实际风险等级尚无独立评估；澳大利亚在生产力委员会审计结束后是否重新启用强制护栏，同样悬而未决。