Metas Werbesystem verlagert die Kosten gescheiterter Prüfung auf Kinder

Meta kann das wiederholte Durchkommen von Werbeanzeigen, die Material zu sexuellem Kindesmissbrauch bewerben, nicht als vereinzelte Fehler erklären, die entstehen, weil Kriminelle ihre Methoden ändern. Das Unternehmen kontrolliert die Prüfung, Verbreitung, Abrechnung und die Meldewege der Werbung auf Facebook und Instagram. Wenn diese Mechanismen trotz behördlicher Anordnungen, journalistischer Recherchen und Warnungen von Organisationen entsprechende Anzeigen weiterhin passieren lassen, dann ist ein automatisiertes System kein Ersatz für Verantwortung, sondern der Gegenstand, für den Meta Verantwortung übernehmen muss.

Laut BBC, die eine Untersuchung der US-Interessengruppe Tech Transparency Project (TTP) wiedergibt, veröffentlichten Facebook und Instagram in den vergangenen zehn Monaten insgesamt 332 bezahlte Werbeanzeigen mit KI-generierten Bildern sexuellen Kindesmissbrauchs, von denen 274 im August dieses Jahres erschienen. TTP zufolge wurden 84 Anzeigen in Indien ausgeliefert, 78 davon, nachdem die indische Regierung Meta angewiesen hatte, sämtliche Werbung und Inhalte zu entfernen, die sexuellen Kindesmissbrauch bewerben, und ein Treffen mit hochrangigen Meta-Vertretern stattgefunden hatte.

Diese Zahlen stammen überwiegend aus TTP-Recherchen und wurden nicht unabhängig von der BBC überprüft. TTP beschrieb zudem eine in Indien ausgelieferte Anzeige, die mit KI das Foto eines vorpubertären Mädchens manipulierte; die BBC erklärte jedoch ausdrücklich, diese Anzeige nicht gesehen zu haben. Diese Beleggrenze darf nicht übergangen werden, entlässt Meta jedoch nicht aus der Frage, die beantwortet werden muss: Warum können Werbeanzeigen, die mutmaßlich Material zu sexuellem Kindesmissbrauch bewerben, nach dem Eingreifen der Aufsichtsbehörden weiterhin in das bezahlte Verbreitungssystem gelangen?

Die BBC berichtet, dass Werbeanzeigen auf Metas Plattformen erst nach Freigabe durch die Prüftechnik veröffentlicht werden dürfen; das System stützt sich überwiegend auf Automatisierung und prüft Bilder, Videos, Texte, Audio, Zielgruppen und die Ziele von Links. Meta ist daher keine passive Anschlagtafel, die Inhalte Dritter anzeigt. Das Unternehmen entscheidet, wer Reichweite kaufen kann, welche Nutzer Inhalte erreichen, und erzielt aus dieser Infrastruktur Einnahmen. Die Schäden, die durch versagende Prüfung entstehen, dürfen nicht zu einem abstrakten ‚technischen Unvollkommen' verwässert werden.

TTPs Tests der Meldewege bei Meta legten die Grenzen dieses Systems weiter offen. Die Gruppe erklärte, von den 84 in Indien ausgelieferten Anzeigen lediglich 55 melden zu können, solange sie noch online waren. Auf 43 davon antwortete Meta: ‚Wir haben das überprüft und festgestellt, dass diese Anzeige nicht gegen unsere Werbestandards verstößt.' Bei weiteren 11 wurde mitgeteilt, sie seien bereits entfernt worden, zu einer lag noch keine Antwort vor. Erst nachdem TTP Meta kontaktiert hatte, seien alle gemeldeten Anzeigen entfernt worden.

Auch bei früheren Recherchen stieß die BBC auf eine vergleichbare Lage. Die BBC erklärte, dass die Plattform eine über das Meldesystem von Instagram gemeldete Anzeige zu sexuellem Kindesmissbrauch nicht entfernt habe; erst nachdem die BBC Meta um eine Stellungnahme gebeten hatte, teilte das Unternehmen mit, mehrere Anzeigen deaktiviert, die zugehörigen Konten gesperrt und darüber hinaus Anzeigen gelöscht, Konten gesperrt und URLs blockiert zu haben.

Journalisten und Interessengruppen müssen die Anzeigen, solange sie online sind, einzeln aufspüren, sichern und melden, während Meta zunächst das automatisierte System die Auslieferung genehmigen lassen und anschließend die spätere Bereinigung als Beweis wirksamer Abwehr anführen kann. Dieses Arrangement überträgt die Arbeit der Risikoerkennung an Außenstehende, überlässt die Folgen der Verbreitung den Kindern und ihren Familien, während die Plattform weiterhin über Regeln, Daten und das Tempo des Vorgehens bestimmt.

Meta erklärte gegenüber der BBC, das Unternehmen habe ‚robuste Schutzmaßnahmen' aufgebaut, darunter das Blockieren regelwidriger Anzeigen und kontinuierliche Überwachung; viele der markierten Anzeigen seien zuvor bereits entfernt worden, die meisten hätten weniger als 200 Impressionen erzielt und weniger als 5.000 US-Dollar gekostet. Impressionen und Werbeausgaben beschreiben jedoch lediglich das Ausmaß der Verbreitung und belegen nicht, dass der Prüfmechanismus seiner Schutzverantwortung nachgekommen ist. Für das Risiko, dass Fotos realer Kinder zweckentfremdet und sexualisiert werden, ist eine geringere Zahl von Impressionen kein Entlastungsgrund.

Die kommerzielle Kette erschwert es Meta, das Problem auf externe Täter zurückzuführen. Laut TTP leiteten die meisten der 332 Anzeigen Nutzer auf Anwendungen zur KI-Bilder- oder Videoerzeugung weiter, die überwiegend von chinesischen Entwicklern stammen. TTP behauptet zudem, dass einige Anzeigen von Werbeagenturpartnern Metas in China geschaltet wurden; die BBC berichtet, dass diese als ‚Reseller' bezeichneten Partner jährlich Werbung im Wert von mehreren Milliarden US-Dollar aus China auf Facebook und Instagram einspeisen. Die betreffenden Partner haben auf TTP-Fragen nicht reagiert.

Meta erklärte gegenüber der BBC: ‚Wir dulden keine Nacktheits-Apps und keine Form von Kindesausbeutung, weder real noch KI-generiert. Diese Kriminellen ändern ständig ihre Methoden, um der Erkennung zu entgehen, deshalb verstärken wir kontinuierlich Erkennung und Durchsetzung.' Das Unternehmen erklärte weiterhin, dass es beim Auffinden eindeutiger Inhalte zu Kindesausbeutung seiner US-Rechtspflicht nachkomme und diese dem National Center for Missing and Exploited Children der USA melde.

Der Gründer des indischen Kinderrechte-Netzwerks Just Rights for Children, Bhuwan Ribhu, hält eine alleinige Meldung an US-Stellen für nicht ausreichend. Er sagte der BBC: ‚Soziale Medienunternehmen melden Inhalte zu sexuellem Kindesmissbrauch offensichtlich nicht gemäß unseren Kinderschutzgesetzen an indische Strafverfolgungsbehörden und verstoßen damit offen gegen indisches Recht.' Laut BBC hat das Netzwerk beim Obersten Gerichtshof Indiens einen Antrag eingereicht, mit dem das Gericht angewiesen werden soll, Social-Media-Plattformen zur verpflichtenden Meldung entsprechender Inhalte und zur Identifizierung der Verbreiter zu verpflichten. Mehrere indische Stellen prüfen den Fall nach den BBC-Recherchen ebenfalls.

Dass Verbreitungswege plattformübergreifend verlaufen, entlastet die erste bezahlte Zugangsstelle nicht von ihrer Verantwortung. Die BBC hatte zuvor festgestellt, dass einige Meta-Anzeigen Nutzer auf Telegram weiterleiteten, wo entsprechendes Material bereits für 99 Rupien erhältlich war. Die Leiterin der Cyberabteilung des indischen Bundesstaats Telangana, Shikha Goel, sagte der BBC, eine große Herausforderung im Umgang mit Material zu sexuellem Kindesmissbrauch sei, dass Nutzer leicht von einer Plattform zur anderen wechseln könnten, was es der Polizei erschwere, sie zu fassen. Telegram erklärte damals gegenüber der BBC, das Unternehmen setze sowohl automatisierte als auch manuelle Prüfung ein und habe ‚die öffentliche Verbreitung von Material zu sexuellem Kindesmissbrauch nahezu beseitigt'.

Plattformübergreifende Ströme erhöhen tatsächlich die Schwierigkeit der Strafverfolgung, doch Facebook und Instagram bieten einen kaufbaren, gezielt aussteuerbaren und genehmigungspflichtigen Verbreitungszugang. Meta verfügt über die Macht, das Erscheinen von Anzeigen zu verhindern, und entscheidet, wann Meldungen wirksam sind, wann regelwidrige Konten gesperrt werden und wie Partner Zugang zum Werbemarkt erhalten. Solange dieses System die Prüfversager vor der Auslieferung weiterhin den Kindern aufbürdet und seinen Erfolg anschließend an geringen Impressionen und späteren Löschungen misst, dient Metas sogenannte Abwehr weiterhin dem kontinuierlichen Betrieb des Werbesystems – nicht der Verpflichtung, Kindersicherheit über seine kommerzielle Infrastruktur zu stellen.