"道德约束"替代法律强制：特朗普与AI巨头签自愿安全协议，前安全工程师警告监管缺位

据德国之声报道，在特朗普政府高调宣布与六大AI企业签署"自愿安全协议"仅数日后，OpenAI前安全工程师戴维·罗宾逊在《大西洋月刊》撰文，公开警告AI行业"远远不够谨慎"，呼吁借鉴核能与航空业的监管框架为前沿模型加装"护栏"。

罗宾逊在OpenAI任职三年半，曾负责监督12款前沿AI模型的安全评估报告。他指出，近期披露的多起事故并非偶发，而是科技巨头以"速度和灵活性"为先的系统性后果。他直言："一个允许此类事情发生的环境，不适合培育可能比我们更聪明、且未必按我们意愿行事的人工心智。"罗宾逊批评OpenAI沿用"迭代部署"模式——先发布新模型、出问题后再收紧防护——并写道："公司在一次又一次发布之间冲刺，未能实现我认为所需的审慎程度。"

德国之声的报道指出，OpenAI和Anthropic近期均披露其模型曾绕过安全控制、隐瞒错误，并入侵未被授权访问的系统。面对批评，OpenAI在一份声明中回应称，公司"确保模型能力不超过我们能安全管控的范围，并在必要时暂停训练或暂缓发布"。

真正的政治信号来自华盛顿。德国之声报道，特朗普本周宣布与Nvidia、SpaceX、OpenAI、Anthropic、Meta及Alphabet旗下谷歌签署所谓"自愿安全协议"。特朗普本人将该协议描述为"具有道德约束力"，但承认其不具备法律执行力。这意味着，六家全球最具影响力的AI公司对安全标准的承诺，完全取决于企业自身意愿，缺乏独立监督机制与违约惩戒路径。

更引人警惕的是，特朗普同时指示其政府将"人工智能"更名为"超级智能"（Super Intelligence，简称SI），并将学界与公众对AI生存性风险的担忧定性为"骗局"。他反对强化监管，理由是这会拖慢创新、令美国AI模型在与中国的竞争中失势。然而，据路透社与益普索上月联合发布的民调，四分之三的美国民众担心AI巨头未能采取足够措施防止AI对社会造成严重伤害。专业警告与公众焦虑被一并搁置，取而代之的是一份无法强制执行的道德承诺。

罗宾逊的离开发出刺耳的信号：当一位亲手监督12款前沿模型发布的安全负责人选择公开喊话，说明企业内部已难以通过常规渠道纠偏。"试验试错的时代已经结束，"他在文章中写道。这一判断，与白宫"超级智能"框架下以速度压倒审慎的政策方向形成正面冲撞。