O sistema de publicidade da Meta transfere para as crianças o custo das falhas de moderação

A Meta não pode explicar o fato de anúncios que promovem material de abuso sexual infantil passarem repetidamente pela moderação como falhas isoladas decorrentes da mudança de táticas dos criminosos. A empresa controla a moderação, a distribuição, a cobrança e os mecanismos de denúncia de anúncios no Facebook e no Instagram; quando esses mecanismos continuam liberando tais anúncios após ordens governamentais, reportagens da mídia e alertas de organizações, o sistema automatizado não substitui a responsabilidade — é o objeto do qual a Meta deve responder.

Segundo a BBC, a organização ativista americana Tech Transparency Project (TTP) afirma que, nos últimos 10 meses, o Facebook e o Instagram veicularam 332 anúncios pagos contendo imagens de abuso sexual infantil geradas por inteligência artificial, dos quais 274 apareceram em agosto deste ano. A TTP afirma que 84 anúncios foram veiculados na Índia, 78 deles publicados depois de o governo indiano ter ordenado à Meta a remoção de todos os anúncios e conteúdos que promovessem material de abuso sexual infantil e de ter se reunido com altos funcionários da Meta.

Esses números provêm principalmente da investigação da TTP, e não de verificação independente da BBC. A TTP também descreveu um anúncio veiculado na Índia que usava inteligência artificial para manipular a foto de uma menina pré-púbere, mas a BBC esclareceu que não viu esse anúncio. Essa limitação de evidência não pode ser ignorada, mas também não elimina a pergunta que a Meta precisa responder: por que, após a intervenção de autoridades reguladoras, anúncios suspeitos de promover material de abuso sexual infantil continuam entrando em seu sistema de distribuição paga?

A BBC informa que os anúncios nas plataformas da Meta precisam, antes de serem publicados, da aprovação da tecnologia de moderação; o sistema depende principalmente de automação e verifica imagens, vídeos, textos, áudio, público-alvo e destinos de links. A Meta, portanto, não é um mural passivo que exibe informações de terceiros. Ela decide quem pode comprar audiência, que conteúdo alcança quais usuários e obtém receita dessa infraestrutura. O dano causado por falhas de moderação não pode ser diluído como uma mera “imperfeição técnica” abstrata.

Os testes da TTP com o mecanismo de denúncia da Meta expuseram ainda mais as limitações do sistema. A organização afirmou que, dos 84 anúncios veiculados na Índia, só conseguiu denunciar 55 enquanto eles ainda estavam no ar. Em 43 respostas, a Meta disse: “Revisamos e constatamos que este anúncio não viola nossos padrões de publicidade”. Outros 11 foram informados como já removidos, e um ainda não havia recebido resposta. A TTP afirmou que somente depois de contatar a Meta é que todos os anúncios denunciados foram retirados.

A BBC também se deparou com situação semelhante em investigação anterior. A BBC afirmou que, depois de denunciar pelo sistema de denúncias do Instagram um anúncio envolvendo abuso sexual infantil, a plataforma não o removeu; só quando a BBC solicitou comentários à Meta é que a empresa disse ter desativado vários anúncios, suspendido contas relacionadas e, em seguida, removido anúncios, banido contas e bloqueado URLs.

Jornalistas e organizações ativistas precisam descobrir, preservar e denunciar cada peça individualmente enquanto os anúncios estão no ar, enquanto a Meta pode deixar o sistema automatizado aprovar a veiculação e depois apresentar a limpeza posterior como prova de que sua defesa funciona. Esse arranjo transfere o trabalho de identificar riscos para pessoas externas e deixa as consequências da divulgação para as crianças e suas famílias, enquanto a plataforma segue controlando as regras, os dados e o ritmo das decisões.

A Meta disse à BBC que construiu “defesas robustas”, incluindo o bloqueio de anúncios que violam as regras e monitoramento contínuo, que muitos dos anúncios sinalizados já haviam sido removidos, que a maioria dos anúncios teve menos de 200 impressões e que o gasto total ficou abaixo de 5 mil dólares. Mas o número de impressões e o gasto com anúncios apenas descrevem a escala da divulgação, não comprovam que o mecanismo de moderação cumpriu sua responsabilidade de proteção. Para o risco de fotos de crianças reais serem apropriadas e sexualizadas, um número menor de impressões não é condição de isenção.

A cadeia comercial torna ainda mais difícil para a Meta atribuir o problema a criminosos externos. A TTP afirma que a grande maioria dos 332 anúncios direcionava usuários a aplicativos de geração de imagens ou vídeos por IA, a maioria desenvolvidos por desenvolvedores chineses. A TTP também alega que alguns anúncios foram veiculados por parceiros de publicidade da Meta na China; a BBC informa que esses parceiros, chamados de “revendedores”, canalizam anualmente bilhões de dólares em publicidade chinesa para o Facebook e o Instagram. Os parceiros em questão não responderam às perguntas da TTP.

A Meta disse à BBC: “Não toleramos aplicativos de nudez nem qualquer forma de exploração infantil, seja ela real ou gerada por inteligência artificial. Esses criminosos mudam constantemente suas táticas para escapar da detecção, por isso seguimos fortalecendo detecção e aplicação.” A empresa afirmou ainda que, ao identificar conteúdo evidente de exploração infantil, cumpre obrigações legais americanas e reporta ao National Center for Missing & Exploited Children (Centro Nacional para Crianças Desaparecidas e Exploradas dos EUA).

Bhuwan Ribhu, fundador da rede de organizações indianas de direitos de crianças Just Rights for Children, considera que reportar apenas a agências americanas não é suficiente. Ele disse à BBC: “As empresas de redes sociais claramente não estão reportando conteúdo de abuso sexual infantil às autoridades indianas, como exige nossa legislação de proteção infantil, violando descaradamente a lei indiana.” Segundo a BBC, a rede de organizações apresentou pedido ao Supremo Tribunal da Índia para que o tribunal determine que as plataformas de redes sociais sejam obrigadas a reportar esse conteúdo e identificar seus promotores. Diversas agências indianas também afirmaram estar analisando o assunto após a investigação da BBC.

O caminho da divulgação atravessa plataformas, mas isso não diminui a responsabilidade da primeira porta de entrada paga. A BBC descobriu anteriormente que alguns anúncios da Meta direcionavam usuários ao Telegram, onde o material relacionado era vendido por apenas 99 rupias. Shikha Goel, diretora do Departamento de Cibersegurança do estado indiano de Telangana, disse à BBC que um dos maiores desafios no tratamento de material de abuso sexual infantil é que os usuários conseguem passar facilmente de uma plataforma para outra, dificultando a captura pela polícia. Na ocasião, o Telegram disse à BBC que utiliza moderação automatizada e humana combinadas e que já “praticamente eliminou a divulgação pública de material de abuso sexual infantil”.

O fluxo entre plataformas realmente aumenta a dificuldade de aplicação da lei, mas o Facebook e o Instagram oferecem uma porta de entrada que pode ser comprada, segmentada e que precisa ser aprovada. A Meta tem o poder de impedir que um anúncio seja veiculado, decide quando uma denúncia é eficaz, quando contas infratoras são suspensas e como os parceiros acessam o mercado de publicidade. Enquanto esse sistema continuar deixando as crianças arcarem com as falhas de moderação pré-publicação e, em seguida, medir a eficácia pelo baixo número de impressões e por remoções posteriores, as chamadas defesas da Meta continuarão servindo ao funcionamento contínuo do sistema de publicidade, em vez de colocar a segurança infantil acima de sua infraestrutura comercial.