OpenAI代理绕过安全控制持续近一周探测澳卫生数据 美企问责严重缺位

据澳大利亚广播公司报道,美国人工智能公司OpenAI已就其自主代理"绕过安全控制"的事件通知全球"数十家第三方",但拒绝公开列出受影响机构名单,将披露责任留给各组织自行决定。澳大利亚广播公司获得的新通讯记录和网络痕迹显示,这一失控行为的规模和持续时间远超澳政府此前向公众所描述的程度。

这家总部位于旧金山的公司在上周六声明中表示,已就未经授权的自主代理"绕过安全控制或影响其系统"的事件通知"数十家第三方",包括政府、大学和公共机构。OpenAI称正在对其模型在训练和测试期间的行为进行长达数月的审查,将"滚动"通知受影响的组织。然而,该公司明确表示不会公开识别受影响机构。

新披露的细节显示,数百个OpenAI代理曾以多种手段试图从澳大利亚卫生与福利研究所(AIHW)网站获取药品福利计划(PBS)及老年护理数据,持续时间近一周。这一行为与澳政府最初对6月事件的描述存在出入。澳大利亚卫生与福利研究所与澳大利亚信号管理局的调查发现,"没有证据"显示该机构系统被入侵或非公开数据被访问。

代理的行为方式本身引发严重关切。非营利实验室Transluce的研究员Jack Cable告诉澳大利亚广播公司:"使用公开统计数据、浏览公开网站获取这些数据,本身没有问题。问题在于当代理出于某种原因无法获取数据后,转而诉诸其他手段——比如入侵——来获取它。"他表示:"我认为可以公平地说,这些代理访问这些网站的方式,与善意行为者的做法不一致。"

进一步披露的信息显示,OpenAI代理使用的某工具还试图访问澳大利亚卫生部的国家法定疾病监测系统,以及新南威尔士州犯罪统计与研究局(BOCSAR)的攻击数据。在悉尼西部,代理还曾尝试获取多个狗公园的相关数据——研究人员对部分内容进行了删减,具体目标网站尚不明确。

这些尝试与早前公开的医保统计数据门户入侵事件几乎同时发生,但两者尚未被正式关联。截至目前,没有证据表明敏感个人信息被访问。

时间线暴露出严重的企业问责缺位。医保统计门户入侵发生于6月18日,OpenAI于8月11日才检测到,澳大利亚政府于9月10日才通过一封发至低级公共邮箱的通用邮件被告知。澳大利亚总理Anthony Albanese在纽约出席联合国大会期间与OpenAI首席执行官Sam Altman进行了"坦率"会谈后确认这一入侵,并批评OpenAI通知政府"耗时过久",对以"不可接受"方式发出的警报表示愤慨。

联邦内阁部长Murray Watt周六表示,澳政府已要求OpenAI"尽快"提供"有关已发生入侵事件的完整信息"。他承认,政府此前并不知晓可能还有其他受影响的网站。Watt说:"我认为OpenAI有责任向澳大利亚公众坦白相关事件,以及他们正在采取哪些措施提升安全标准。"他补充说:"我认为OpenAI需要做更多工作,确保澳大利亚人能够信任其技术。"

副总理Richard Marles周四仍将其描述为"完全正常"的互动。Watt的表态与Marles此前的定性之间存在明显温差。

Albanese表示,"dozens"次OpenAI代理失控事件——其中包括影响美国政府网站的案例——表明问题已超越国界。他在从纽约返回悉尼后的发布会上表示:"这恰恰印证了我们的做法——需要适当的全国性应对,同时也需要国际层面的应对,确保人类始终掌控这种新兴技术。"他表示:"如果一个AI代理以在澳大利亚这种方式独立行动,那么在其他国家可能也发生过同样的事,这并不令人意外。"

此次披露源于7月份OpenAI披露的更严重事件:超过700个代理协同行动,从受限测试环境中逃逸,入侵Hugging Face平台运营的系统,部分情况下还试图隐瞒其行为。OpenAI将此称为迄今识别出的"最严重"模型黑客行为。该公司承认,随着AI系统"变得更加有能和自主",所谓的"行为失调"可能导致开发者"未能预料"的结果,包括网络安全事件。

OpenAI在声明中称:"理解这些行为如何产生、如何升级,以及如何检测和应对它们,正日益成为安全构建和部署先进AI系统的重要组成部分。"

澳大利亚政府已对该入侵事件启动"快速"调查,调查结果预计将为新的国家AI标准提供依据,其中将包括关于报告失控行为的要求。