Il sistema pubblicitario di Meta scarica sui bambini il costo dei fallimenti delle verifiche

Meta non può liquidare il fatto che annunci che promuovono materiale di abuso sessuale su minori superino ripetutamente le sue verifiche come un errore occasionale dovuto ai cambiamenti di tattica dei criminali. L'azienda controlla i sistemi di revisione, distribuzione, fatturazione e segnalazione degli annunci su Facebook e Instagram; quando questi sistemi continuano a far passare annunci di questo tipo dopo ordini governativi, inchieste giornalistiche e segnalazioni di organizzazioni, i sistemi automatizzati non sono un sostituto della responsabilità, ma l'oggetto di cui Meta deve rispondere.

Secondo quanto riportato dalla BBC, l'organizzazione americana Tech Transparency Project (TTP) sostiene che negli ultimi 10 mesi Facebook e Instagram hanno pubblicato 332 annunci a pagamento contenenti immagini di abuso sessuale su minori generate dall'intelligenza artificiale, di cui 274 solo ad agosto di quest'anno. La TTP afferma che 84 annunci sono stati diffusi in India, di cui 78 pubblicati dopo che il governo indiano aveva ordinato a Meta di rimuovere tutti gli annunci e i contenuti che promuovono materiale di abuso sessuale su minori e aveva incontrato alti funzionari dell'azienda.

Questi dati provengono principalmente dall'indagine della TTP, non da una verifica indipendente della BBC. La TTP ha inoltre descritto un annuncio distribuito in India che utilizzava l'intelligenza artificiale per manipolare la foto di una bambina prepuberale, ma la BBC ha dichiarato esplicitamente di non aver visto quell'annuncio. Questo limite probatorio non può essere ignorato, ma non elimina le domande a cui Meta deve rispondere: perché, dopo l'intervento delle autorità di regolazione, annunci sospettati di promuovere materiale di abuso sessuale su minori continuano a entrare nel suo sistema di distribuzione a pagamento?

La BBC spiega che gli annunci sulle piattaforme Meta devono essere approvati dalla tecnologia di revisione prima di essere pubblicati; il sistema si basa principalmente sull'automazione e controlla immagini, video, testi, audio, pubblico target e link di destinazione. Meta non è dunque una bacheca passiva che mostra informazioni di terzi. Decide chi può acquistare diffusione, quale pubblico può essere raggiunto dai contenuti e trae ricavi da questa infrastruttura. Il danno prodotto dal fallimento delle verifiche non può essere diluito in un'astratta "imperfezione tecnica".

I test condotti dalla TTP sui meccanismi di segnalazione di Meta hanno ulteriormente messo in luce i limiti del sistema. L'organizzazione afferma che, dei 84 annunci distribuiti in India, è riuscita a segnalarne solo 55 mentre erano ancora online. Per 43 di essi, Meta ha risposto: "Abbiamo esaminato e abbiamo riscontrato che questo annuncio non viola i nostri standard pubblicitari". Altri 11 risultavano già rimossi al momento della segnalazione e per uno non era ancora arrivata una risposta. Secondo la TTP, gli annunci segnalati sono stati rimossi solo dopo che l'organizzazione aveva contattato Meta.

Anche la BBC aveva riscontrato situazioni analoghe nelle sue inchieste precedenti. La BBC riferisce che, dopo aver segnalato tramite il sistema di Instagram un annuncio relativo ad abuso sessuale su minori, la piattaforma non lo aveva rimosso; solo dopo che la BBC aveva chiesto un commento a Meta, l'azienda ha dichiarato di aver disattivato diversi annunci, sospeso gli account correlati e quindi rimosso annunci, bloccato account e oscurato URL.

Giornalisti e organizzazioni della società civile devono individuare, archiviare e segnalare uno per uno gli annunci mentre sono ancora online, mentre Meta può prima lasciare che il sistema automatizzato ne approvi la diffusione e poi presentare le pulizie successive come prova dell'efficacia delle proprie difese. Questa organizzazione affida a soggetti esterni il lavoro di individuazione del rischio, lascia le conseguenze della diffusione ai bambini e alle loro famiglie, e mantiene alla piattaforma il controllo delle regole, dei dati e dei tempi di intervento.

Meta ha dichiarato alla BBC di aver messo in atto "difese robuste" che includono il blocco degli annunci non conformi e un monitoraggio continuo, che molti degli annunci segnalati erano già stati rimossi, che la maggior parte degli annunci è stata mostrata meno di 200 volte e che la spesa totale è stata inferiore a 5.000 dollari. Ma il numero di impression e la spesa pubblicitaria descrivono solo la scala della diffusione, non dimostrano che il meccanismo di revisione abbia adempiuto alla propria responsabilità di protezione. Per il rischio che fotografie di bambini reali vengano rubate e sessualizzate, un numero ridotto di impression non è una condizione che esonera dalla responsabilità.

La catena commerciale rende ancora più difficile per Meta attribuire la colpa a criminali esterni. Secondo la TTP, la stragrande maggioranza dei 332 annunci indirizzava gli utenti verso applicazioni di generazione di immagini o video tramite intelligenza artificiale, sviluppate per lo più da sviluppatori cinesi. La TTP sostiene inoltre che alcuni annunci sarebbero stati pubblicati da partner pubblicitari di Meta in Cina; la BBC riferisce che questi partner, definiti "rivenditori", convogliano ogni anno nelle piattaforme Facebook e Instagram pubblicità cinesi per un valore di diversi miliardi di dollari. I partner coinvolti non hanno risposto alle domande della TTP.

Meta ha dichiarato alla BBC: "Non tolleriamo app di spogliatoio o alcuna forma di sfruttamento minorile, che si tratti di contenuti reali o generati dall'intelligenza artificiale. Questi criminali cambiano continuamente tattica per eludere i sistemi di rilevamento, quindi intensifichiamo continuamente rilevamento e azione". L'azienda ha aggiunto che, quando individua contenuti evidenti di sfruttamento minorile, li segnala al National Center for Missing & Exploited Children degli Stati Uniti, in base agli obblighi previsti dalla legge americana.

Bhuwan Ribhu, fondatore della rete indiana per i diritti dei bambini Just Rights for Children, ritiene che la sola segnalazione alle autorità americane non sia sufficiente. Ha dichiarato alla BBC: "È evidente che le aziende di social media non stanno segnalando alle autorità di polizia indiane i contenuti di abuso sessuale su minori come richiesto dalle nostre leggi sulla protezione dell'infanzia, violando apertamente la legge indiana". Secondo quanto riportato dalla BBC, la rete di organizzazioni ha presentato un'istanza alla Corte Suprema indiana chiedendo che la Corte ordini alle piattaforme social di segnalare obbligatoriamente tali contenuti e di identificare chi li promuove. Diverse agenzie indiane hanno dichiarato, dopo l'inchiesta della BBC, di stare esaminando la questione.

Il fatto che i percorsi di diffusione attraversino più piattaforme non riduce la responsabilità del primo punto di accesso a pagamento. In inchieste precedenti la BBC aveva scoperto che alcuni annunci Meta indirizzavano gli utenti verso Telegram, dove materiale simile veniva venduto anche a 99 rupie. Shikha Goel, direttrice della sicurezza informatica dello Stato indiano del Telangana, ha dichiarato alla BBC che una delle grandi sfide nel trattare il materiale di abuso sessuale su minori è che gli utenti possono spostarsi facilmente da una piattaforma all'altra, rendendo più difficile per la polizia catturarli. Telegram aveva allora dichiarato alla BBC di utilizzare sia sistemi automatici sia moderatori umani e di aver "quasi eliminato la diffusione pubblica di materiale di abuso sessuale su minori".

La circolazione cross-platform aumenta davvero le difficoltà per le forze dell'ordine, ma Facebook e Instagram offrono un punto di accesso alla diffusione che si può acquistare, indirizzare e che richiede un'approvazione. Meta ha il potere di impedire la messa online degli annunci, e decide quando le segnalazioni sono efficaci, quando gli account violanti vengono disattivati e come i partner accedono al mercato pubblicitario. Finché questo sistema continuerà a far ricadere sui bambini i fallimenti della verifica pre-pubblicazione, per poi misurarne l'efficacia in base al basso numero di impression e alle rimozioni successive, le presunte difese di Meta continueranno a servire il funzionamento ininterrotto del sistema pubblicitario, invece di porre la sicurezza dei bambini al di sopra della sua infrastruttura commerciale.