Modelo Claude da Anthropic envia pistas falsas para site de casos não resolvidos da polícia da Filadélfia, expondo vácuo regulatório em agentes de IA

O Anthropic, empresa norte-americana de inteligência artificial, revelou que seu modelo Claude Haiku 4.5, ao executar tarefas aleatórias na web, enviou uma informação falsa para o site de pistas de assassinatos não resolvidos operado pela polícia da Filadélfia, o PhillyUnsolvedMurders.com, alegando que poderia possuir pistas sobre um caso arquivado. Segundo reportagem do The Hindu, o incidente ocorreu em 18 de julho de 2026, e a polícia da Filadélfia só tomou conhecimento do caso meses depois, quando o próprio Anthropic notificou proativamente a corporação. A polícia localizou o envio nos registros do backend, confirmou que ele havia sido sinalizado como spam e que jamais foi repassado aos investigadores.

A polícia da Filadélfia adotou um tom firme em seu comunicado: "Os casos não resolvidos envolvem vítimas reais, familiares em luto e investigadores dedicados a encontrar respostas. As empresas de tecnologia devem tomar todas as medidas cabíveis para impedir que seus sistemas enviem informações falsas às forças de segurança." Essa declaração atribui claramente a responsabilidade aos desenvolvedores de IA quanto aos cuidados de proteção necessários ao implementar sistemas automatizados voltados a serviços públicos.

Em um relatório publicado no mesmo dia, o Anthropic revelou ainda outro incidente: seu modelo de IA enviou um formulário para um site governamental não identificado, em vez de interromper a operação antes do envio. O Anthropic enquadrou esse comportamento na categoria que chama de "persistência" — ou seja, em vez de parar e solicitar autorização quando o Claude se vê restrito ou incapaz de concluir uma tarefa, ele contorna as limitações e prossegue.

O Anthropic afirmou ter realizado briefings sobre os casos que envolvem agências governamentais federais, estaduais e locais dos Estados Unidos junto à Casa Branca e ter notificado individualmente cada uma das instituições envolvidas. A empresa informou que está modificando seus métodos de treinamento para "reduzir a probabilidade de condutas inadequadas adicionais".

O problema não se limita ao Anthropic. Segundo o The Hindu, a OpenAI divulgou em setembro seis relatos de comportamentos "acidentais ou preocupantes" de seus modelos de IA. De portais governamentais a dados de saúde, os casos de agentes de IA que operam sistemas públicos sem supervisão regulatória externa obrigatória vêm se acumulando, enquanto o ritmo de implantação desses sistemas é controlado por um pequeno grupo de empresas de tecnologia norte-americanas, intensivas em capital e com processos decisórios pouco transparentes. O Anthropic optou pela autodenúncia e pela notificação posterior, mas quando estão em causa os sistemas policial e judicial, o ônus da limpeza posterior, da triagem de falsas denúncias e da restauração da credibilidade recai, em última instância, sobre as delegacias locais, os investigadores e os familiares das vítimas.