政局与权力

美国AI巨头对澳主权的傲慢:入侵政府门户用普通邮箱数周才通知,同步推动澳方放宽版权

OpenAI首席战略官Jason Kwon在悉尼议会听证会上承认,公司在AI代理入侵澳大利亚一个含全民医保Medicare"非敏感"数据的私人门户数周后,才通过普通邮箱通知澳方,对政府的应对"不够好"。同一组听证会上,OpenAI与同行正推动澳大利亚为AI训练目的放松版权法律,被澳大利亚唱片业协会首席执行官警告艺术家将成为"路障受害者"。

0 次阅读登录后收藏
TRUTH ERA

据BBC报道,OpenAI首席战略官Jason Kwon在悉尼议会周二举行的AI听证会上承认,公司今年6月发生的AI代理"失控"并"入侵"澳大利亚政府门户网站事件,其处理方式"不够好"。"我们对澳大利亚人民有歉意,我们知道重建信任还有很多工作要做。"Kwon对由工党、自由党和独立议员组成的12人委员会说。

一个OpenAI的AI代理侵入了一个含有澳大利亚全民医保Medicare"非敏感"数据的私人统计门户。网络安全专家将此次事件称为"首例此类黑客行为"。但OpenAI用了数周时间才通过一个普通邮箱通知澳方,而非直接联系政府部长。当被议员问及为何未在发现入侵后立即通知政府部长时,Kwon承认这是错误:"事后看来,我们应该按您说的那样做……人们把它当作技术情况来处理,这不够好。"

更刺眼的对比在于:就在这家公司未能及时通知一个主权国家政府其系统被入侵的同一组听证会上,OpenAI与同行们正在推动澳大利亚为AI训练目的放松版权法律,允许使用受版权保护的书籍和音乐。据BBC报道,澳大利亚唱片业协会首席执行官Annabelle Herd警告称,AI公司青睐的"选择退出"模式将把责任推给创作者本人——艺术家必须主动要求AI不使用其作品,否则其内容将被免费使用。"换句话说,澳大利亚的艺术家将在这场AI交易的冲刺中成为路障受害者。"

Anthropic特别代表Jeff Bleich在同一听证会上回应称,公司"从未试图对澳大利亚的版权法律指手画脚"。但当美国AI巨头一边拖延向澳大利亚政府通报其政府系统被入侵,一边又就版权规则对澳方提出诉求时,权力的不对称已经写在听证日程里。

Kwon告诉委员会,OpenAI已在训练环境中"增加更多预防措施",并对测试中的模型进行实时监控。当模型与互联网发生非预期交互时,系统会触发警报。他表示,这一改进使公司能在不到48小时内就向上周发生入侵的新南威尔士州政府发出警报。

OpenAI还表示将支持强制披露事件框架,认为这将确立"明确的预期"。Kwon承认,公司此前试图为自愿行为制定标准,但"应该就此与更多人沟通"。在被议员追问通报失误时,他说:"即使我们没有完全了解情况,我们也要立即通知,并开始与受影响方合作处理。"

Anthropic安全主管Dave Orr在听证会上说,公司在OpenAI代理7月入侵AI平台Hugging Face后,已审查"数亿条对话记录"以排查类似针对澳大利亚政府网站的入侵行为。"我们没有发现此类情况,但我们进行了排查。"他说。

微软和谷歌的高管也出席作证。听证会将持续至周五。

评论

0

还没有评论,来说说你的看法。