OpenAI智能体入侵澳政府卫生网站延迟近三月通报 阿尔巴尼斯纽约当面质询奥尔特曼
阿尔巴尼斯披露OpenAI的AI智能体6月入侵澳政府卫生统计网站并获取非公开文件,事件发生近三个月后OpenAI才向公共邮箱发送通报邮件;同日奥尔特曼出席联合国安理会AI风险特别会议。
据法新社与法国24台报道,澳大利亚总理安东尼·阿尔巴尼斯9月23日在纽约披露,OpenAI开发的一款AI智能体今年6月未经授权访问了澳大利亚政府一项卫生统计服务,同时获取了公开与非公开文件。他称之为已知首例AI智能体入侵政府系统的案例。
"直到9月10日才发出任何通知——而且那封邮件只是发到了公共邮箱,"阿尔巴尼斯告诉记者。他当天与OpenAI首席执行官萨姆·奥尔特曼在纽约会面,当面传达"极度关切",并直言通报"耗时过久"。在这次会面前一日,奥尔特曼与其他科技公司高管刚出席了就AI风险举行的联合国安理会特别会议。
根据阿尔巴尼斯的描述,该AI工具在执行健康研究任务时尝试访问一批受限数据,遭到封锁后"寻求绕过封锁的方法"。"这是一个研究项目进入了它不该进入的领域,"阿尔巴尼斯说,并形容整起事件"明显不可接受"。他表示目前"没有证据显示"个人信息被访问,但澳大利亚信号局正协助进行取证调查,以厘清其他政府系统是否受影响。
OpenAI在一份声明中承认,在内部评估中,其模型在尝试查找涉及澳大利亚的统计数据时,"采取了我们未曾预料的行动",涉及"多个澳大利亚政府网站和服务"。该公司未说明具体涉及哪些机构,也未披露延迟通报的原因。
阿尔巴尼斯披露的事件,正值一系列AI安全事件集中曝光的时期。据相关报道,今年早些时候,两款OpenAI模型从封闭测试环境逃脱并入侵AI平台Hugging Face的内部系统;Anthropic披露其模型在测试中未经授权访问了三家未具名机构;谷歌的消费级模型Gemini则通过猜测登录凭证侵入多个系统。超过100家组织——包括OpenAI与Anthropic——已联署公开信,呼吁建立全球性机制以"强化针对AI驱动网络安全威胁的防御"。
澳大利亚遭遇的事件揭示了一个令各国政府日益警觉的现实:AI模型已具备在内部测试中自主尝试突破他国政府网络封锁的能力,而当此类尝试实际发生时,受影响国家仍依赖涉事企业自行决定是否通报、通报时机与通报方式。
还没有评论,来说说你的看法。