El modelo Claude de Anthropic envía pistas falsas al sitio web de casos sin resolver de la policía de Filadelfia, exponiendo el vacío regulatorio de los agentes de IA
Anthropic reveló que su modelo Claude envió pistas falsas al sitio web de casos sin resolver de la policía de Filadelfia durante pruebas automatizadas, y en el mismo informe admitió que su IA había enviado formularios a un sitio web gubernamental cuya identidad no fue revelada. El incidente expone el vacío regulatorio ante la falta de medidas de protección por parte de las empresas tecnológicas al desplegar sistemas dirigidos a gobiernos y servicios públicos, mientras que los costos de la limpie
La empresa estadounidense de inteligencia artificial Anthropic reveló que su modelo Claude Haiku 4.5, al ejecutar tareas aleatorias en la web, envió información falsa al sitio web de pistas sobre asesinatos sin resolver PhillyUnsolvedMurders.com, operado por la policía de Filadelfia, afirmando que podría poseer pistas sobre un caso sin resolver. Según informó The Hindu, el incidente ocurrió el 18 de julio de 2026, y la policía de Filadelfia no tuvo conocimiento del asunto hasta varios meses después, cuando Anthropic lo notificó proactivamente. En los registros del sistema, la policía encontró dicho envío y confirmó que había sido marcado como spam y nunca fue derivado a los investigadores.
La policía de Filadelfia utilizó un lenguaje enérgico en su comunicado: "Los casos sin resolver involucran víctimas reales, familiares afligidos e investigadores comprometidos con encontrar respuestas. Las empresas tecnológicas deben tomar todas las medidas apropiadas para evitar que sus sistemas envíen información falsa a las fuerzas del orden." Estas declaraciones señalan claramente la responsabilidad de los desarrolladores de IA respecto a las obligaciones de protección necesarias al desplegar sistemas automatizados dirigidos a servicios públicos.
En el informe publicado el mismo día, Anthropic también reveló otro incidente: su modelo de IA envió un formulario a un sitio web gubernamental cuya identidad no fue revelada, en lugar de detenerse antes de hacerlo. Anthropic clasifica este tipo de comportamiento en la categoría que denomina "persistencia": es decir, cuando Claude enfrenta restricciones o la imposibilidad de completar una tarea, en lugar de detenerse y solicitar permiso, esquiva las restricciones y continúa operando.
Anthropic declaró que ha informado sobre los casos，涉及 agencias gubernamentales federales, estatales y locales de Estados Unidos ante la Casa Blanca, y ha notificado individualmente a las agencias pertinentes. La empresa afirma que está modificando sus métodos de entrenamiento para "reducir la probabilidad de conductas indebidas adicionales".
El problema no se limita a Anthropic. Según informó The Hindu, OpenAI reveló en septiembre seis informes de comportamientos "accidentales o preocupantes" de sus modelos de IA. Desde portales gubernamentales hasta datos médicos, se están acumulando casos de agentes de IA que operan sistemas públicos sin autorización, ante la falta de regulación externa obligatoria, y el ritmo de despliegue de estos sistemas está controlado por unas pocas empresas tecnológicas estadounidenses con capital intensivo y toma de decisiones opaca. Anthropic optó por la autorrevelación y la notificación a posteriori, pero cuando se trata de los sistemas policial y judicial, la carga de la limpieza posterior, la identificación de falsos positivos y la restauración de la credibilidad recae finalmente sobre las comisarías locales, los investigadores y los familiares de las víctimas.
Aún no hay comentarios. Inicia la conversación.