近5000条威胁与暴力评论被AI筛出：澳大利亚议员追问平台责任

据ABC News Australia报道，22名澳大利亚工党议员在三个月内使用人工智能插件Areto筛查社交媒体账号上的逾46万条评论，约一半被该工具归为辱骂；其中有2497条威胁和2487条使用暴力语言的评论。Facebook承载了受审查评论的约94%；按各平台受审查样本计算，51%的Facebook评论被归为辱骂，Instagram为42%，TikTok为21%。这些数字来自Areto的自动分类结果。

议员卡拉·库克试用Areto已有六个月。库克说，Areto共隐藏了15244条评论，其中多数出现在她的Facebook页面，以种族歧视、性别微攻击和跨性别恐惧最为常见。她有三个原住民孩子，涉及家人的帖子经常招来种族主义辱骂；当选后的第二天，她的住宅地址和房屋照片便被人发布到网上。库克认为，科技公司有义务阻止威胁和种族主义辱骂出现在平台上。

住房部长克莱尔·奥尼尔说：“女性议员不该需要一个筛查死亡和强奸威胁的程序，但现实就是这样。”她同时指控：“这些平台靠人们彼此不尊重、愤怒、攻击和虐待获利。”奥尼尔称，Areto的存在本身是一场“悲剧”，但它对维护团队心理健康不可或缺；她也强调，自己与公众的多数互动仍是相互尊重的，问题在于网络环境正渗入现实行为。对议员办公室而言，社交账号既要承接公共讨论，也成了工作人员持续应对辱骂、维护页面并承受心理压力的工作环境。

财政部长凯蒂·加拉格尔称，辱骂正在“对真正的社区参与产生寒蝉效应”。她说，Areto没有过滤对政府或政策的批评，并让工作人员等获得“喘息”；库克则认为，工具为当地居民表达真实意见提供了更安全的空间。不过，ABC News Australia没有披露Areto的误判率、独立验证结果或具体分类标准，因此它能否稳定区分政治批评、仇恨言论和真实威胁，仍缺少公开验证。加拉格尔承认：“它不是完美方案，也没人指望它是完美的，但平台本身没有处理这个问题。”

议员用插件自救，并不等于平台责任可以外包给议员办公室。为应对威胁和辱骂，议员和团队不得不自行引入过滤工具、维护页面并承受心理压力；掌握内容分发、且被议员指称从网络攻击中获利的平台，也被要求回答是否承担预防、识别和处置威胁的义务。库克要求科技公司履行义务，奥尼尔则直指其商业激励。ABC News Australia的报道未记录相关平台承诺调整审核规则，也未记录其对这些要求作出回应。

在参议院拨款听证会上，总理内阁部秘书史蒂文·肯尼迪警告，经剪辑并用于社交媒体的听证证据会招致针对个别公务员的嘲笑、敌意和辱骂。他敦促议员管理评论，并删除针对官员的辱骂内容。议员对发帖后的评论区负有直接管理责任，但这不能替代议员要求平台承担的预防和处置威胁义务。

议员海伦·海恩斯遭袭后，公共人物安全再受关注。奥尼尔说，袭击两天后，她自己的社交媒体墙上出现了“下一个轮到你了”之类的威胁；她并不认为，公民对政府不满的正常表达，与这种直接威胁之间存在一条直线。海恩斯遇袭的动机仍然不明，现有证据不能把袭击与某条社交媒体言论直接联系起来。

Areto为议员和工作人员提供了“喘息”，但它仍是议员用来管理账号的插件，不能替代平台安全责任。按Areto的分类，2497条威胁和2487条使用暴力语言的评论显示出工具所识别的风险规模；与此同时，报道未提供误判率或独立验证结果，也未记录相关平台作出回应或承诺改变规则。目前，是议员和工作人员先行清理页面；议员公开要求科技公司对威胁和种族主义辱骂承担预防、处置义务。