El sistema publicitario de Meta traslada a los niños el coste de los fallos de moderación

Meta no puede presentar la repetición de anuncios que promocionan material de abuso sexual infantil que logran superar la moderación como un fallo puntual achacable a los cambios de táctica de los delincuentes. La empresa controla la moderación, la distribución, la facturación y los mecanismos de denuncia de los anuncios en Facebook e Instagram. Cuando esos mecanismos siguen dejando pasar los anuncios pertinentes tras órdenes gubernamentales, investigaciones periodísticas y alertas de organizaciones, el sistema automatizado no sustituye la responsabilidad: es el objeto de la responsabilidad que Meta debe asumir.

Según la BBC, la organización estadounidense Tech Transparency Project (TTP) afirma que, en los últimos diez meses, Facebook e Instagram publicaron 332 anuncios de pago que contenían imágenes de abuso sexual infantil generadas por inteligencia artificial, de los cuales 274 aparecieron en agosto de este año. La TTP señala que 84 anuncios se difundieron en India y que 78 de ellos se publicaron después de que el gobierno indio ordenara a Meta retirar todos los anuncios y contenidos que promocionaran material de abuso sexual infantil y se reuniera con altos cargos de la empresa.

Estas cifras proceden principalmente de la investigación de la TTP, no de una verificación independiente de la BBC. La TTP también describió un anuncio difundido en India que manipulaba mediante inteligencia artificial la fotografía de una niña prepúber, pero la BBC aclaró que no había visto ese anuncio. Esa limitación probatoria no puede ignorarse, aunque tampoco elimina las preguntas que Meta debe responder: ¿por qué, tras la intervención de las autoridades reguladoras, los anuncios sospechosos de promocionar material de abuso sexual infantil siguen entrando en su sistema de distribución de pago?

La BBC explica que los anuncios en las plataformas de Meta deben ser aprobados por la tecnología de moderación antes de publicarse. El sistema se apoya sobre todo en la automatización y revisa imágenes, vídeo, texto, audio, público objetivo y enlaces de destino. Meta no es, por tanto, un tablón de anuncios pasivo que muestra información de terceros. Decide quién puede comprar difusión, a qué usuarios llega el contenido y obtiene ingresos de esa infraestructura. El daño derivado del fallo de moderación no puede diluirse como una mera "imperfección técnica" abstracta.

Las pruebas de la TTP sobre el mecanismo de denuncia de Meta expusieron aún más los límites del sistema. La organización afirma que, de los 84 anuncios difundidos en India, solo pudo denunciar 55 mientras seguían en línea. Meta respondió a 43 de ellos con el siguiente mensaje: "Hemos revisado esto y hemos detectado que este anuncio no infringe nuestras normas publicitarias". Otros 11 fueron informados como ya eliminados y a uno no se había recibido respuesta. La TTP asegura que, tras ponerse en contacto con Meta, todos los anuncios denunciados fueron retirados.

La BBC también había tropezado antes con situaciones parecidas durante sus investigaciones. La BBC afirma que, tras denunciar a través del sistema de Instagram un anuncio relativo a abuso sexual infantil, la plataforma no lo retiró. No fue hasta que la BBC pidió comentarios a Meta cuando la empresa indicó que había desactivado varios anuncios, suspendido las cuentas implicadas, y procedido además a eliminar anuncios, bloquear cuentas y restringir URL.

Los periodistas y las organizaciones de defensa deben detectar, preservar y denunciar uno por uno los anuncios mientras siguen en línea, mientras Meta puede permitir que su sistema automatizado apruebe la difusión y luego presentar la limpieza posterior como prueba de defensa eficaz. Ese arreglo traslada el trabajo de detección del riesgo a personas externas, deja las consecuencias de la difusión en manos de los niños y sus familias, y mantiene a la plataforma al mando de las reglas, los datos y el ritmo de respuesta.

Meta declaró a la BBC que la compañía ha construido "defensas sólidas" que incluyen el bloqueo de anuncios infractores y la supervisión continua, que muchos de los anuncios señalados ya habían sido eliminados, que la mayoría de los anuncios se mostraron menos de 200 veces y que el gasto total fue inferior a 5.000 dólares. Pero el número de impresiones y el gasto publicitario solo describen la escala de la difusión, no demuestran que el mecanismo de moderación haya cumplido su responsabilidad de protección. Para el riesgo de que fotografías de niños reales sean apropiadas y sexualizadas, un número reducido de impresiones no es una causa de exoneración.

La cadena comercial dificulta aún más que Meta atribuya el problema a delincuentes externos. La TTP señala que la gran mayoría de los 332 anuncios dirigían a los usuarios hacia aplicaciones de generación de imágenes o vídeo mediante inteligencia artificial, en su mayor parte desarrolladas por creadores chinos. La TTP también afirma que algunos anuncios fueron publicados por socios de agencias publicitarias de Meta en China; la BBC indica que esos socios, conocidos como "revendedores", canalizan cada año miles de millones de dólares en publicidad china hacia Facebook e Instagram. Los socios afectados no respondieron a las preguntas de la TTP.

Meta declaró a la BBC: "No toleramos las aplicaciones de desnudos ni ninguna forma de explotación infantil, ya sea real o generada por inteligencia artificial. Estos delincuentes cambian constantemente de táctica para eludir la detección, por lo que reforzamos continuamente nuestra detección y nuestra aplicación". La compañía añadió que, cuando detecta contenidos evidentes de explotación infantil, los notifica al Centro Nacional para Niños Desaparecidos y Explotados de Estados Unidos, en cumplimiento de sus obligaciones legales estadounidenses.

Bhuwan Ribhu, fundador de la red india de organizaciones de derechos de la infancia Just Rights for Children, considera que notificar únicamente a la entidad estadounidense no es suficiente. Dijo a la BBC: "Es evidente que las empresas de redes sociales no están notificando a las fuerzas de seguridad indias los contenidos de abuso sexual infantil, como exige nuestra legislación de protección de la infancia, incumpliendo de forma flagrante la ley india". La BBC informa de que esa red de organizaciones ha presentado una solicitud ante el Tribunal Supremo de la India para que ordene a las plataformas de redes sociales la notificación obligatoria de esos contenidos y la identificación de quienes los promocionan. Varios organismos indios también han indicado, tras la investigación de la BBC, que están examinando el asunto.

El hecho de que la ruta de difusión atraviese plataformas no reduce la responsabilidad de la primera puerta de entrada de pago. La BBC ya había descubierto antes que algunos anuncios de Meta dirigían a los usuarios hacia Telegram, donde el material en cuestión se vendía por tan solo 99 rupias. Shikha Goel, directora general de Seguridad Cibernética del estado indio de Telangana, declaró a la BBC que uno de los principales retos en la lucha contra el material de abuso sexual infantil es que los usuarios pueden pasar con facilidad de una plataforma a otra, lo que dificulta que la policía los identifique y detenga. Telegram declaró entonces a la BBC que la compañía utiliza tanto moderación automatizada como humana y que había "prácticamente eliminado la difusión pública de material de abuso sexual infantil".

El flujo entre plataformas，的确 añade dificultades a la aplicación de la ley, pero Facebook e Instagram ofrecen una entrada de difusión comprable, dirigible y sujeta a aprobación. Meta tiene el poder de impedir que los anuncios salgan al aire, decide cuándo surten efecto las denuncias, cuándo se desactivan las cuentas infractoras y cómo acceden los socios al mercado publicitario. Mientras este sistema siga dejando que los fallos de moderación previos a la publicación los padezcan los niños y mida después su eficacia por el bajo número de impresiones y la eliminación tardía, las llamadas defensas de Meta seguirán al servicio del funcionamiento continuo del sistema publicitario, y no de situar la seguridad infantil por encima de su infraestructura comercial.