美中AI峰会前：特朗普联大反对全球AI管控，中国担忧'AI安全'被用作技术封锁工具

美国总统特朗普周二在联合国大会上明确表态：华盛顿将反对任何控制人工智能的"全球主义方案"。这位把AI霸主地位视为维持美国头号强国地位关键的领导人，此前还曾把对AI风险的担忧称为"阴谋论"。随着周三他将在华盛顿与中国国家主席习近平举行今年的第三次会晤，全球对AI灾难性乃至存在性风险的警告，正与两大国之间寸步不让的技术竞赛正面相撞。

据半岛电视台报道，行业领袖和研究人员一再呼吁为人类利益放缓AI发展，但推动这项技术高速前进的两个超级大国——美国和中国——均未表现出踩刹车的迹象。

中国本月发布了第三版AI安全治理框架，监管姿态看似更为积极，但同样拒绝了放慢脚步的呼吁，并将硅谷关于AI存在性风险的警告斥为"危言耸听"。中国官员所表达的担忧更多落在网络安全和执政党权威之上。中国国家安全部长陈一新本月罕见撰文，警告"敌对势力"利用AI"编造政治谣言"、"煽动对立情绪"，从而威胁"政治安全、制度安全和意识形态安全"。

双方各自的"安全观"并不在同一坐标系上。亚洲协会政策研究所中国分析中心高级研究员Alvin Wang Graylin向半岛电视台表示，"两国几乎囊括了所有前沿实验室和大多数人下载的模型"，美中之间的AI安全护栏"几乎构成了安全AI的先决条件"。"只覆盖一方模型的安全机制，只解决了一半的问题。"Wang Graylin说。

但横亘在合作前景面前的是相互不信任，以及对核心风险的不同认知。清华大学国际安全与战略中心研究员孙成昊指出，中国日益担心"AI安全"可能成为限制中国获取芯片、计算机或市场的借口。"所以最深的障碍在于，双方能否将真正的安全合作与更广泛的技术竞争区分开来。"孙成昊向半岛电视台表示，"如果每一次安全讨论都和出口管制或拖慢中国发展挂钩，北京自然会质疑合作的意图。"

据半岛电视台梳理，截至目前双方公开提出的唯一具体建议，是建立美中对话机制和一个用于上报国家安全威胁的通知机制。新加坡管理大学研究中国与贸易法的专家Henry Gao认为，两国对AI风险的理解存在根本错位。"美国AI安全讨论中许多人聚焦的是高度能干的AI摆脱人类控制、给人类带来灾难性风险的可能性。"Gao说，"在中国，国家安全担忧更显地缘政治色彩：一个主要的感知危险是美国获得决定性的AI优势并将其用于对付中国。这制造了加速而非放慢发展的压力。"

即便在AI行业内，对如何监管乃至是否需要政府主导监管，也没有共识。Anthropic首席执行官Dario Amodei和OpenAI掌门人Sam Altman等人呼吁放缓并加强监管；Amodei本月发文，呼吁AI行业"控制前沿"，并主张美中应达成协议"大幅限制"AI发展速度，同时承认鉴于违约方可能改变全球力量平衡，任何此类协议都"不太可能"。但蒙特利尔大学助理教授David Krueger认为，这些呼吁远远不够："国际协调至关重要。我们需要的不只是安全保障。我们需要立即对前沿AI开发实施无限期的国际暂停。"

另一些关键人物——英伟达首席执行官黄仁勋、Meta首席执行官马克·扎克伯格——则淡化外部监管的必要性，强调AI为社会带来变革性收益的潜力。在最担忧AI发展速度的群体中，"递归自我改进"——即AI模型学会自我提升——被频繁指认为关键临界点。荷兰存在性风险观察站主任Otto Barten说："美中必须就AI能力红线达成一致。最关键的是，AI绝不能强大到能够递归自我改进的地步。"

Wang Graylin建议，华盛顿和北京应就何为"不可接受的能力"达成一致，并建立由多国资助的独立国际机构来测试前沿模型。但他承认不信任正在笼罩达成协议的前景，美方官员很可能认为任何协议都"难以验证"——"对于看不见的软件，验证是困难的"。孙成昊则指出，美方可以通过"更清晰地划清"旨在保障AI安全的政策与维持技术优势的政策之间的界限，为合作铺路；中国则可以通过"在安全实践、模型评估方法和事件报告机制上提供更高透明度"来增进信任。

复旦大学发展研究院副教授蒋天骄对即将举行的峰会称之为"一个积极信号"，并希望双方能克服地缘政治竞争找到共同基础。"中美目前是AI发展的领先国家。"蒋天骄说，"作为大国，我们有责任防止AI失控，应该通过合作管理这些风险，为全球树立榜样。"