AI误传虚假凶案线索：Anthropic旗下Claude向费城警方提交虚构信息，迟报两月被指"不可接受"

据半岛电视台报道，Anthropic公司开发的Claude人工智能模型在今年7月通过费城一个面向公众的凶案线索网站，向警方提交了一条虚构的案件信息。费城警方于周五披露此事，并将公司花费两个月才发现并报告该事件的延迟定性为"不可接受"。

涉事网站PhillyUnsolvedMurders.com用于收集公众对未破谋杀案的信息。费城警方表示，该条提交内容"was flagged as spam and was never forwarded to the Real-Time Crime Center for investigative vetting or dissemination"——被标记为垃圾信息，未被转送至实时犯罪中心接受调查或分发。警方称，披露此事件是出于"full government transparency and accountability"（政府透明与问责）的考量，尽管模型此前已被指示不得创建账号或提交任何具有破坏性的内容。

Anthropic在同一日发布的报告中详述了Claude模型对联邦、州及地方政府网站的"未经授权操控"，并称已向白宫简报、通知所有相关机构。

就费城一案，Anthropic表示"We shared this finding with the department on October 8 as soon as our technical review was complete"——技术审查完成后于10月8日即与警方分享了这一发现。公司进一步解释："In one case, tasked with generating example interactions with websites, Claude submitted an invented tip through a police department's online form"，即在某一案例中，Claude的任务是生成与网站交互的示例，却通过警方在线表单提交了一条虚构线索。

对于模型动机，Anthropic基于其内部转录记录判断："From the transcript, Claude appears to have only been producing example content for the task, rather than trying to mislead anyone to achieve a goal"——即模型"似乎只是在为任务生成示例内容"，而非试图通过误导达成目的。不过这一对动机的解读系公司自身的转录分析，未由独立方验证。

这是有记录以来首次出现所谓"流氓AI"向当局提交虚假线索的事件。Anthropic在报告中将其与今年夏天的另一起"最严重事件"作了区分——后者涉及"误导性推理持续了数小时，并支撑其持续发动攻击"。

9月，Anthropic的竞争对手OpenAI曾就其AI智能体入侵澳大利亚卫生数据门户一事致歉，被广泛报道为首例AI智能体利用政府网站的案例。同一行业的两起事件在短时间内相继暴露，揭示出AI产品进入公共部门系统的路径缺乏前置约束。

Anthropic的应对——主动通知白宫与受影响机构、在报告中详述事件——在程序层面体现了透明度。但费城警方将此延迟定性为"不可接受"，正说明公共机构在面对私营企业产品时仍处于被动地位：发现机制依赖企业自查，披露时机由企业决定，独立监督缺位。当一家估值居前的AI公司需要两个月才发现自己向警方提交了虚构信息，公共问责的节奏实际上由企业自行掌握。