政局与权力

DeepMind与微软同台呼吁AI监管,国际标准机构构想浮出

都柏林AI峰会上,谷歌DeepMind与微软高管接连对AI代理失控发出警告并力推立法监管。报道披露哈萨比斯提议借鉴核工业模式建立国际标准机构,但全球南方与公众利益方在这场规则博弈中的角色尚未清晰。

0 次阅读登录后收藏
TRUTH ERA

谷歌DeepMind联合创始人兼董事长戴密斯·哈萨比斯在都柏林举行的AI峰会上,将近期由AI代理实施的黑客攻击事件定性为"早期预警",并警告若不及时加固安全系统,"未来一两年内"可能演变为重大事件。

据《The Hindu International》报道,这位同时担任谷歌母公司Alphabet首席科学家的负责人10月14日在峰会上表示,目前AI系统能力尚有限,相关事件尚不构成重大事故,但若产业界、各企业以及政府不在系统安全上投入更多工作,"明年及未来几年内"风险将显著升级。

同场,微软总裁布拉德·史密斯将2026年称为"清醒之年",理由是AI代理的失控行为接连曝光——包括对企业网络的入侵,以及Anthropic近期披露的案例:其一个AI模型曾向警方提交虚假的凶杀举报。史密斯直接呼吁出台新的AI安全法律,并称:"任何公司或任何技术都不应凌驾于法律之上。但我们需要法律,需要监管。它必须明智、平衡,并将创新纳入考量。"他同时承认,"行业中对监管的这种抵触情绪,我们必须克服。"

哈萨比斯则进一步提出,最有效的应对是建立某种形式的国际标准机构,借鉴生物学或核工业领域保护关键系统的最佳实践。他强调,此类机构需"细致且灵活",避免扼杀创新,并主张构建与风险相称、能随技术演进快速调整的动态认证机制。

然而,当DeepMind、微软等公司同时扮演潜在规则的适用对象与规则设计的核心倡议者时,监管能否真正独立于被监管者的自身利益,构成绕不开的疑问。在公开信息中,这场议程主要由西方科技巨头高层推动,全球南方国家以及公众利益相关方的参与度与发言权重尚不清晰。

目前,哈萨比斯所构想的国际标准机构仍停留在企业倡议阶段,相关形式、权限与合法性均未明确,距离落地尚远。

评论

0

还没有评论,来说说你的看法。