查尔斯三世召集西方AI巨头谈"生存性危险"，全球南方缺席暴露治理权力失衡

在苏格兰邓弗里斯庄园一座18世纪宅邸的壁炉前，英国国王查尔斯三世近日召集了一场关于人工智能未来的非正式峰会。与会者包括英伟达创始人兼首席执行官黄仁勋、谷歌DeepMind创始人兼董事长德米斯·哈萨比斯、OpenAI首席财务官萨拉·弗里亚尔、Anthropic首席执行官达里奥·阿莫代伊，以及英国AI事务大臣卡尼什卡·纳拉扬。教皇顾问保罗·贝南蒂——一位主张政府放缓AI开发的天主教伦理学者——亦在出席者之列。

据路透社报道，查尔斯三世在致辞中警告，AI技术若"落入错误之手"，可能带来"灾难性"后果，必须在"为时已晚之前"建立足够的控制手段。"对这些技术落入错误之手、被以潜在灾难性方式使用所带来的生存性危险，似乎亟需充分考量，"他对聚集于邓弗里斯庄园的与会者说。"难道我们不应该在一切为时已晚之前，拥有足够的控制手段吗？"

这位君主还提及技术对环境的冲击，并承认AI"有潜力改善和拯救生命"，特别是在生命科学与医学领域。但他同时引用业内人士的警告称，AI可能发展出"更黑暗的能力"，"甚至可能夺去生命"。

围绕AI安全的辩论近期再度升温。两名Anthropic研究人员警告，迅速发展的AI技术可能在不远的将来导致人类灭绝；美国总统特朗普与教皇利奥十四世亦先后表态。核心议题之一直指行业能否及应当否实行自我监管。

然而"自我监管"的主张在国际上引发尖锐争议。阿莫代伊曾呼吁放慢AI开发节奏，但部分批评者质疑，一些企业高管借"放缓"开发的话术设置行业规则，目的恰是巩固自身领先优势，将后来者——尤其是非西方竞争者——排斥在外。

更值得关注的是这场会议的结构性失衡。议程由英国王室主导，公开的与会者几乎全部来自美国科技巨头与西方政界、学界、教廷，没有来自全球南方的政府、学界或民间组织代表出席。当几家美国公司控制着全球最前沿的AI模型与算力时，定义AI未来的圆桌会议却把绝大多数国家排除在外。

据路透社报道，这场被白金汉宫称为"非正式"的聚会预计不会产生任何约束性协议。白金汉宫仅表示，将探讨是否可形成一套"共享原则"以指导AI未来应用，使之"不仅是能力与效率的驱动力，更是维护人类尊严、促进人与地球福祉的工具"。

这种"软约束"模式暴露了AI治理的核心困境：在技术飞速发展与监管严重滞后之间，最有资格立规的人恰恰是受益于当前不对称格局的少数人。"共享原则"实质上是谁的原则？

查尔斯所提"环境冲击"的具体评估标准，以及贝南蒂关于"政府放缓AI开发"的具体政策主张，在原报道中均未详述，有待进一步核实。