Le système publicitaire de Meta fait peser sur les enfants le coût des échecs de la modération

Meta ne peut pas présenter l'approbation répétée de publicités faisant la promotion de matériels d'abus sexuels sur enfants comme de simples erreurs ponctuelles imputables à des criminels changeant de méthodes. L'entreprise contrôle la modération, la diffusion, la facturation et les mécanismes de signalement des publicités sur Facebook et Instagram ; lorsque ces mécanismes laissent passer des publicités concernées après des ordres gouvernementaux, des enquêtes médiatiques et des alertes d'organisations, les systèmes automatisés ne sauraient se substituer à la responsabilité — ils en sont l'objet dont Meta doit répondre.

Selon la BBC, l'organisation américaine Tech Transparency Project (TTP) affirme qu'au cours des dix derniers mois, Facebook et Instagram ont publié 332 publicités payantes contenant des images d'abus sexuels sur enfants générées par intelligence artificielle, dont 274 sont apparues en août dernier. Le TTP indique que 84 publicités ont été diffusées en Inde, dont 78 publiées après que le gouvernement indien a ordonné à Meta de supprimer toutes les publicités et contenus faisant la promotion de matériels d'abus sexuels sur enfants, et après une rencontre avec de hauts responsables de Meta.

Ces chiffres proviennent principalement de l'enquête du TTP, et non d'une vérification indépendante de la BBC. Le TTP décrit également une publicité diffusée en Inde utilisant l'intelligence artificielle pour manipuler la photo d'une fille prépubère, mais la BBC précise clairement ne pas avoir vu cette publicité. Cette limite probante ne peut être ignorée, mais elle n'efface pas la question à laquelle Meta doit répondre : pourquoi, après l'intervention des autorités de régulation, des publicités suspectées de promouvoir des matériels d'abus sexuels sur enfants peuvent-elles encore entrer dans son système de diffusion payante ?

La BBC explique que les publicités sur les plateformes de Meta doivent d'abord être approuvées par la technologie de modération avant d'être publiées, le système reposant principalement sur l'automatisation et vérifiant les images, vidéos, textes, contenus audio, publics cibles et destinations des liens. Meta n'est donc pas un panneau d'affichage passif présentant des informations de tiers. Il décide qui peut acheter de la diffusion, quels utilisateurs le contenu peut atteindre, et tire des revenus de cette infrastructure. Le préjudice causé par les défaillances de la modération ne peut être dilué dans un vague « imperfection technologique ».

Les tests du mécanisme de signalement de Meta par le TTP exposent davantage les carences de ce système. L'organisation affirme que, sur les 84 publicités diffusées en Inde, elle n'a pu en signaler que 55 pendant qu'elles étaient encore en ligne. Meta a répondu à 43 d'entre elles : « Nous avons examiné et constaté que cette publicité n'enfreignait pas nos normes publicitaires. » Pour 11 autres, il a été indiqué qu'elles avaient été supprimées, et une publicité n'avait pas encore reçu de réponse. Le TTP indique qu'après avoir contacté Meta, toutes les publicités signalées ont été retirées.

La BBC a rencontré une situation similaire lors d'une enquête antérieure. La BBC indique qu'après avoir signalé via le système de signalement d'Instagram une publicité impliquant des abus sexuels sur enfants, la plateforme ne l'a pas retirée ; ce n'est qu'après que la BBC a sollicité des commentaires auprès de Meta que l'entreprise a déclaré avoir désactivé plusieurs publicités, suspendu les comptes concernés, et procédé à la suppression d'autres publicités, à l'interdiction de comptes et au blocage d'URL.

Les journalistes et les organisations de plaidoyer doivent repérer, préserver et signaler chaque cas individuellement pendant que la publicité est en ligne, tandis que Meta peut laisser son système automatisé approuver la diffusion, puis présenter le nettoyage a posteriori comme preuve de l'efficacité de sa défense. Cet arrangement confie aux intervenants extérieurs le travail de détection des risques, laisse les conséquences de la diffusion aux enfants et à leurs familles, tandis que la plateforme conserve la maîtrise des règles, des données et du calendrier des suites données.

Meta a indiqué à la BBC que l'entreprise avait mis en place des « défenses robustes », incluant le blocage des publicités fautives et une surveillance continue, que de nombreuses publicités signalées avaient déjà été supprimées, que la plupart des publicités avaient été affichées moins de 200 fois et que les dépenses totales étaient inférieures à 5 000 dollars. Mais le nombre d'affichages et les dépenses publicitaires ne décrivent que l'ampleur de la diffusion ; ils ne démontrent pas que le mécanisme de modération a rempli sa responsabilité de protection. Pour le risque que les photos de vrais enfants soient détournées et sexualisées, un faible nombre d'affichages ne constitue pas une exonération.

La chaîne commerciale rend plus difficile pour Meta l'imputation du problème à des criminels extérieurs. Le TTP indique que la grande majorité des 332 publicités redirigeaient les utilisateurs vers des applications de génération d'images ou de vidéos par IA, dont la plupart provenaient de développeurs chinois. Le TTP affirme également que certaines publicités ont été placées par des partenaires commerciaux de Meta en Chine ; la BBC indique que ces partenaires, appelés « revendeurs », injectent chaque année pour plusieurs milliards de dollars de publicités chinoises dans Facebook et Instagram. Les partenaires concernés n'ont pas répondu aux questions du TTP.

Meta a déclaré à la BBC : « Nous ne tolérons aucune application de déshabillage ni aucune forme d'exploitation des enfants, qu'elle soit réelle ou générée par IA. Ces criminels changent constamment de méthode pour échapper à la détection, c'est pourquoi nous renforçons en permanence la détection et les mesures d'application. » L'entreprise ajoute que, lorsqu'elle détecte des contenus manifestes d'exploitation d'enfants, elle les signale au National Center for Missing and Exploited Children (Centre national américain pour les enfants disparus et exploités), conformément à ses obligations légales américaines.

Le fondateur du réseau indien de défense des droits des enfants Just Rights for Children, Bhuwan Ribhu, estime que signaler uniquement aux autorités américaines n'est pas suffisant. Il a déclaré à la BBC : « Les entreprises de réseaux sociaux ne signalent manifestement pas les contenus d'abus sexuels sur enfants aux autorités indiennes, comme l'exige notre législation sur la protection de l'enfance, violant ainsi ouvertement la loi indienne. » La BBC rapporte que ce réseau d'organisations a déposé une requête devant la Cour suprême indienne pour qu'elle ordonne aux plateformes de signaler obligatoirement ces contenus et d'identifier les promoteurs. Plusieurs autorités indiennes ont également indiqué examiner l'affaire à la suite de l'enquête de la BBC.

Les parcours de diffusion traversent les plateformes, ce qui n'atténue pas la responsabilité de la première porte d'entrée payante. La BBC avait déjà découvert que certaines publicités Meta redirigeaient les utilisateurs vers Telegram, le matériel concerné étant vendu pour aussi peu que 99 roupies. La directrice générale de la cybersécurité de l'État indien du Telangana, Shikha Goel, a déclaré à la BBC que l'un des grands défis dans le traitement des matériels d'abus sexuels sur enfants tient au fait que les utilisateurs peuvent passer facilement d'une plateforme à l'autre, rendant leur arrestation plus difficile pour la police. Telegram avait alors indiqué à la BBC que l'entreprise utilisait à la fois la modération automatisée et humaine, et avait « quasiment éliminé la diffusion publique de matériels d'abus sexuels sur enfants ».

La circulation interplateformes accroît certes les difficultés d'application de la loi, mais Facebook et Instagram fournissent une porte d'entrée diffusable, ciblable et soumise à approbation. Meta détient le pouvoir d'empêcher la mise en ligne des publicités, et décide également de l'efficacité des signalements, du moment où les comptes fautifs sont désactivés, et de la manière dont les partenaires accèdent au marché publicitaire. Tant que ce système continuera de laisser aux enfants le poids des échecs de modération avant diffusion, puis de mesurer l'efficacité au faible nombre d'affichages et aux suppressions a posteriori, les prétendues défenses de Meta continueront de servir la continuité du système publicitaire, plutôt que de placer la sécurité des enfants au-dessus de son infrastructure commerciale.