AI「锐化」出的嫌疑人面孔:英国恐袭疑案中的虚假信息产业链
英国格洛斯特郡皇家空军费尔福德基地恐袭阴谋案中,五名男子获准保释后,一张经人工智能"增强"的模糊逮捕照片在社交平台X上累计获得近200万次浏览,被部分用户用作指认嫌疑人宗教身份的"证据"。SynthID水印证实这些图像经OpenAI工具修改生成,不同版本甚至显示出截然不同的面部特征,揭示了AI图像增强技术如何被武器化以喂养针对穆斯林社群的偏见叙事。
据France 24 English报道,英国警方逮捕的五名涉嫌在格洛斯特郡皇家空军费尔福德基地策划炸弹袭击的男子已被获准保释,调查仍在进行中。然而,在这五人尚未被定罪、警方从未公开其姓名或宗教信息的情况下,一张经人工智能"锐化"处理的逮捕照片已在X平台上引发了一场指向穆斯林社群的虚假信息风暴。
France 24 English的调查显示,原版逮捕照片画质粗糙、五名男子赤裸上身并戴着手铐,面部根本无法辨认。然而,多名社交媒体用户随后传播了该照片的"清晰化"版本,声称图像揭示了嫌疑人的真实面容,并以此作为指认其宗教身份的所谓证据。在X平台上,包含其中一张AI增强图像的两条帖子累计获得近200万次浏览。
France 24 English指出,这些所谓"清晰化"图像含有SynthID水印——谷歌开发的一项用于识别AI生成内容的技术——确认图像系经OpenAI工具修改生成。问题不止于此:在网络上流传的两个不同AI增强版本中,五名嫌疑人被呈现出明显不同的面部特征,同一张模糊照片在不同算法处理下生成了两张"面孔"截然不同的人。这种差异直接暴露了AI增强模糊照片的根本局限:工具并不"知道"原始面容的真实模样,而是在虚构面部细节。
France 24 English的报道同时强调,英国当局目前仅确认五人均为来自伦敦、年龄介于23至25岁的英国国民,未披露任何关于其宗教背景的信息。在缺乏官方信息的情况下,AI凭空生成的面部特征被部分网民转化为对整个穆斯林社群的指控工具——这并非孤例,而是一种可复制的模式:模糊图像、算法"猜测"、社群平台放大、定性叙事形成。
SynthID水印本应是制约AI生成内容滥用的技术防线,但当原始图像已足够模糊、而用户又有强烈动机去"看见"自己想要的内容时,水印的存在并未阻止虚假信息的传播。France 24 English的报道直接点明:在嫌疑人身份仍属未知的阶段,互联网上流传的面部特征实质上是人工智能的产物——而围绕这些虚构面孔搭建起来的叙事,却被当作了事实。
还没有评论,来说说你的看法。