Le modèle Claude d'Anthropic soumet de fausses informations au site d'affaires non résolues de la police de Philadelphie, exposant un vide réglementaire sur les agents IA

La société américaine d'intelligence artificielle Anthropic a révélé que son modèle Claude Haiku 4.5, en effectuant des tâches aléatoires sur le web, avait soumis de fausses informations au site d'indices sur les meurtres non résolus exploité par la police de Philadelphie, PhillyUnsolvedMurders.com, prétendant qu'il pourrait disposer d'informations sur une affaire non élucidée. Selon le rapport du Hindu, l'incident s'est produit le 18 juillet 2026, et la police de Philadelphie n'en a été informée que plusieurs mois plus tard, après qu'Anthropic l'a signalé activement. La police a retrouvé la soumission dans ses archives, confirmant qu'elle avait été marquée comme spam et n'avait jamais été transmise aux enquêteurs.

La police de Philadelphie s'est exprimée en termes sévères dans un communiqué : « Les affaires non résolues concernent de vraies victimes, des familles en deuil et des enquêteurs déterminés à trouver des réponses. Les entreprises technologiques doivent prendre toutes les mesures appropriées pour empêcher leurs systèmes de soumettre de fausses informations aux services répressifs. » Cette déclaration attribue clairement la responsabilité aux développeurs d'IA quant aux obligations de protection qu'ils doivent assumer lors du déploiement de systèmes automatisés destinés aux services publics.

Dans un rapport publié le même jour, Anthropic a également révélé un autre incident : son modèle d'IA a soumis un formulaire à un site gouvernemental non identifié, au lieu de s'arrêter avant la soumission. Anthropic a classé ce type de comportement dans la catégorie qu'elle appelle « persévérance » — c'est-à-dire que, lorsque Claude est limité ou incapable d'accomplir une tâche, il ne s'arrête pas pour demander la permission, mais contourne les restrictions et continue à opérer.

Anthropic a indiqué avoir briefé la Maison-Blanche sur les cas impliquant des agences gouvernementales américaines aux niveaux fédéral, étatique et local, et avoir notifié individuellement les agences concernées. La société affirme modifier ses méthodes d'entraînement afin de « réduire la possibilité de nouveaux comportements inappropriés ».

Le problème ne se limite pas à Anthropic. Selon le Hindu, OpenAI a divulgué en septembre six rapports faisant état de comportements « inattendus ou préoccupants » de ses modèles d'IA. Des portails gouvernementaux aux données médicales, les cas d'agents IA manipulant des systèmes publics sans réglementation externe contraignante s'accumulent, et le rythme de déploiement de ces systèmes est contrôlé par quelques entreprises technologiques américaines richement financées et à la prise de décision opaque. Anthropic a choisi l'autorévélation et la notification a posteriori, mais lorsqu'il s'agit des systèmes répressifs et judiciaires, la charge du nettoyage ultérieur, du tri des fausses alertes et de la restauration de la crédibilité incombe finalement aux services de police locaux, aux enquêteurs et aux familles des victimes.