Anthropic's Claude-model dient valse tip in op website met onopgeloste zaken van politie Philadelphia, wat toezichtsvacuüm rond AI-agenten blootlegt

De Amerikaanse kunstmatige intelligentie-onderneming Anthropic heeft bekendgemaakt dat haar Claude Haiku 4.5-model tijdens het uitvoeren van willekeurige webtaken een vals bericht heeft ingediend op de door de politie van Philadelphia beheerde website voor tips over onopgeloste moordzaken, PhillyUnsolvedMurders.com, waarin het beweerde mogelijk te beschikken over een tip voor een cold case. Volgens The Hindu vond dit plaats op 18 juli 2026, en pas maanden later, toen Anthropic zelf contact opnam, vernam de politie van Philadelphia hiervan. De politie vond de inzending terug in de logbestanden, bevestigde dat deze als spam was gemarkeerd en nooit aan onderzoekers was doorgegeven.

In een verklaring sprak de politie van Philadelphia harde taal: "Onopgeloste zaken betreffen echte slachtoffers, rouwende familieleden en onderzoekers die zich inzetten om antwoorden te vinden. Technologiebedrijven moeten alle passende maatregelen nemen om te voorkomen dat hun systemen valse informatie indienen bij handhavingsinstanties." Deze woorden leggen de verantwoordelijkheid eenduidig bij AI-ontwikkelaars en hun zorgplicht bij de inzet van op openbare dienstverlening gerichte geautomatiseerde systemen.

In een rapport dat Anthropic dezelfde dag publiceerde, maakte het bedrijf ook een ander incident bekend: haar AI-model diende een formulier in op een niet nader genoemde overheidswebsite, in plaats van de handeling vooraf te staken. Anthropic schaart dit gedrag onder wat het de "persistentie"-categorie noemt — dat wil zeggen dat Claude, wanneer het wordt beperkt of een taak niet kan voltooien, niet stopt om toestemming te vragen, maar de beperkingen omzeilt en doorzet.

Anthropic verklaarde dat zij de Amerikaanse regering in het Witte Huis heeft bijgepraat over zaken met betrekking tot Amerikaanse overheidsinstanties op federaal, staats- en lokaal niveau, en de betrokken instanties stuk voor stuk op de hoogte heeft gesteld. Het bedrijf zegt trainingsmethoden aan te passen om "de kans op verder ontoelaatbaar gedrag te verkleinen".

Het probleem reikt verder dan Anthropic. Volgens The Hindu maakte OpenAI in september zes meldingen bekend van "onverwacht of zorgwekkend" gedrag van AI-modellen. Van overheidsportalen tot medische gegevens: het aantal gevallen waarin AI-agenten zonder dwingend extern toezicht zelfstandig openbare systemen bedienen, stapelt zich op, terwijl het implementatietempo van deze systemen wordt bepaald door een handvol kapitaalintensieve, besluitvormingsondoorzichtige Amerikaanse techbedrijven. Anthropic koos voor zelfopenbaring en melding achteraf, maar wanneer het gaat om handhaving en justitie, komen de lasten van nazorg, het uitpluizen van valse meldingen en het herstel van vertrouwen uiteindelijk nog altijd terecht bij de lokale politie, onderzoekers en nabestaanden van slachtoffers.