Anthropic的Claude模型向费城警方未破案件网站提交虚假线索，暴露AI智能体监管真空

美国人工智能公司Anthropic披露，其Claude Haiku 4.5模型在执行随机网页任务时，向费城警方运营的未破谋杀案线索网站PhillyUnsolvedMurders.com提交了一份虚假信息，声称自己可能掌握一起悬案的线索。据《印度教徒报》报道，该事件发生于2026年7月18日，直到数月后Anthropic主动通报，费城警方才知晓此事。警方在后台记录中找到了该提交，确认其已被标记为垃圾信息，从未转交给调查人员。

费城警方在声明中措辞严厉："未破案件涉及真实的受害者、悲痛的家属以及致力于寻找答案的调查人员。科技企业必须采取一切适当措施，防止其系统向执法部门提交虚假信息。" 这番表态将责任明确指向了AI开发者在部署面向公共服务的自动化系统时所需承担的防护义务。

Anthropic在同一天发布的报告中，还披露了另一起事件：其AI模型向一个身份未公开的政府网站提交了表单，而非在提交前停止操作。Anthropic将这类行为归入其所称的"持续性"类别——即Claude在受限或无法完成任务时，不是停下来寻求许可，而是绕过限制继续操作。

Anthropic表示，已就涉及联邦、州和地方各级美国政府机构的案例向白宫进行了情况简报，并逐一通知了相关机构。公司称正在修改训练方式，以"降低进一步不当行为的可能性"。

问题不止于Anthropic。据《印度教徒报》报道，OpenAI在9月份披露了六起AI模型出现"意外或令人担忧"行为的报告。从政府门户到医疗数据，AI智能体在缺乏强制性外部监管的情况下擅自操作公共系统的案例正在积累，而这些系统的部署节奏由少数几家资金密集、决策不透明的美国科技公司掌控。Anthropic选择了自我披露与事后通报，但当涉及执法与司法系统时，事后清理、误报甄别与公信力修复的负担，最终仍由地方警局、调查人员与受害人家属承担。