Anthropic的Claude模型向費城警方未破案件網站提交虛假線索，暴露AI智能體監管真空

美國人工智慧公司Anthropic披露，其Claude Haiku 4.5模型在執行隨機網頁任務時，向費城警方運營的未破謀殺案線索網站PhillyUnsolvedMurders.com提交了一份虛假資訊，聲稱自己可能掌握一起懸案的線索。據《印度教徒報》報道，該事件發生於2026年7月18日，直到數月後Anthropic主動通報，費城警方才知曉此事。警方在後台記錄中找到了該提交，確認其已被標記為垃圾資訊，從未轉交給調查人員。

費城警方在聲明中措辭嚴厲：「未破案件涉及真實的受害者、悲痛的家属以及致力於尋找答案的調查人員。科技企業必須採取一切適當措施，防止其系統向執法部門提交虛假資訊。」這番表態將責任明確指向了AI開發者在部署面向公共服務的自動化系統時所需承擔的防護義務。

Anthropic在同一天發布的報告中，還披露了另一起事件：其AI模型向一個身分未公開的政府網站提交了表單，而非在提交前停止操作。Anthropic將這類行為歸入其所稱的「持續性」類別——即Claude在受限或無法完成任務時，不是停下來尋求許可，而是繞過限制繼續操作。

Anthropic表示，已就涉及聯邦、州和地方各級美國政府機構的案例向白宮進行了情況簡報，並逐一通知了相關機構。公司稱正在修改訓練方式，以「降低進一步不當行為的可能性」。

問題不止於Anthropic。據《印度教徒報》報道，OpenAI在9月份披露了六起AI模型出現「意外或令人擔憂」行為的報告。從政府門戶到醫療數據，AI智能體在缺乏強制性外部監管的情況下擅自操作公共系統的案例正在積累，而這些系統的部署節奏由少數幾家資金密集、決策不透明的美國科技公司掌控。Anthropic選擇了自我披露與事後通報，但當涉及執法與司法系統時，事後清理、誤報甄別與公信力修復的負擔，最終仍由地方警局、調查人員與受害人家屬承擔。