System reklamowy Mety przenosi koszty niepowodzenia moderacji na dzieci

Meta nie może tłumaczyć powtarzającego się przepuszczania przez moderację płatnych reklam promujących materiały przedstawiające seksualne wykorzystywanie dzieci sporadycznymi potknięciami wynikającymi ze zmiany taktyki przez przestępców. Firma kontroluje procesy moderacji, dystrybucji, pobierania opłat i zgłoszeń reklam na Facebooku i Instagramie. Gdy mechanizmy te wciąż przepuszczają odpowiednie reklamy po wydaniu poleceń rządowych, dziennikarskich śledztwach i ostrzeżeniach organizacji, systemy automatyczne nie zastępują odpowiedzialności — są obiektem, za który Meta musi tę odpowiedzialność ponosić.

Według relacji BBC amerykańska organizacja rzecznicza Tech Transparency Project (TTP) podała, że w ciągu ostatnich 10 miesięcy Facebook i Instagram wyemitowały łącznie 332 płatne reklamy zawierające generowane przez sztuczną inteligencję obrazy seksualnego wykorzystywania dzieci, z czego 274 pojawiły się w sierpniu tego roku. TTP podała, że 84 reklamy wyemitowano w Indiach, w tym 78 po tym, jak rząd Indii nakazał Mecie usunięcie wszystkich reklam i treści promujących materiały seksualnego wykorzystywania dzieci oraz odbył spotkanie z wysokimi rangą urzędnikami Mety.

Liczby te pochodzą głównie z dochodzenia TTP, a nie z niezależnej weryfikacji BBC. TTP opisała także reklamę wyemitowaną w Indiach, w której za pomocą sztucznej inteligencji zmanipulowano zdjęcie dziewczynki w wieku przedpokwitaniowym, lecz BBC wyraźnie stwierdziło, że nie widziało tej reklamy. Tego ograniczenia dowodowego nie można pominąć, nie zwalnia ono jednak Mety z konieczności udzielenia odpowiedzi na pytanie: dlaczego po interwencji organów regulacyjnych reklamy podejrzewane o promowanie materiałów seksualnego wykorzystywania dzieci wciąż trafiają do jej płatnego systemu dystrybucji?

BBC wyjaśnia, że reklamy na platformach Mety muszą najpierw uzyskać zatwierdzenie przez technologię moderacyjną, zanim zostaną opublikowane. System opiera się głównie na automatyzacji i sprawdza obrazy, wideo, tekst, dźwięk, grupę docelową odbiorców oraz miejsca docelowe linków. Meta nie jest zatem pasywną tablicą ogłoszeń wyświetlającą treści osób trzecich. Decyduje, kto może kupić zasięg, do jakich użytkowników dociera treść, i czerpie przychody z tej infrastruktury. Szkody wynikające z awarii moderacji nie mogą być rozmywane do abstrakcyjnej „niedoskonałości technologicznej”.

Testy mechanizmów zgłoszeniowych Mety przeprowadzone przez TTP dodatkowo ujawniły ograniczenia tego systemu. Organizacja podała, że spośród 84 reklam wyemitowanych w Indiach zdołała zgłosić jedynie 55, gdy reklamy były jeszcze online. Meta odpowiedziała na 43 z nich: „Przeprowadziliśmy kontrolę i stwierdziliśmy, że ta reklama nie narusza naszych standardów reklamowych.” W przypadku kolejnych 11 poinformowano o ich usunięciu, a na jedną nie udzielono jeszcze odpowiedzi. Według TTP dopiero po skontaktowaniu się z Metą wszystkie zgłoszone reklamy zostały usunięte.

BBC napotkało podobną sytuację podczas wcześniejszego dochodzenia. BBC podało, że po zgłoszeniu przez system raportowy Instagrama reklamy dotyczącej seksualnego wykorzystywania dzieci platforma jej nie usunęła; dopiero gdy BBC zwróciło się do Mety o komentarz, firma stwierdziła, że wyłączyła już wiele reklam, zawiesiła powiązane konta, a następnie usunęła reklamy, zablokowała konta i zablokowała adresy URL.

Dziennikarze i organizacje rzecznicze muszą odkrywać, archiwizować i zgłaszać każdą reklamę, gdy jest jeszcze aktywna, podczas gdy Meta może najpierw pozwolić systemowi automatycznemu na zatwierdzenie emisji, a następnie przedstawiać reaktywne czyszczenie jako dowód skuteczności obrony. Taki układ przenosi pracę związaną z identyfikacją ryzyka na podmioty zewnętrzne, konsekwencje rozpowszechniania pozostawia dzieciom i ich rodzinom, a platforma zachowuje kontrolę nad regułami, danymi i tempem reakcji.

Meta poinformowała BBC, że firma zbudowała „solidną obronę”, obejmującą blokowanie reklam naruszających zasady i ciągłe monitorowanie, że wiele oznaczonych reklam zostało wcześniej usuniętych, a większość reklam wyświetlono mniej niż 200 razy przy łącznych wydatkach poniżej 5000 dolarów. Liczba wyświetleń i wydatki na reklamy opisują jednak jedynie skalę rozpowszechnienia, nie dowodzą, że mechanizmy moderacji wypełniły obowiązek ochrony. W przypadku ryzyka przywłaszczenia i seksualizacji zdjęć prawdziwych dzieci mniejsza liczba wyświetleń nie jest okolicznością zwalniającą z odpowiedzialności.

Łańcuch komercyjny utrudnia Mecie zrzucanie problemu na zewnętrznych przestępców. Według TTP zdecydowana większość ze 332 reklam kierowała użytkowników do aplikacji do generowania obrazów lub wideo za pomocą sztucznej inteligencji, z których większość pochodzi od chińskich deweloperów. TTP twierdzi także, że część reklam zamieszczono za pośrednictwem chińskich partnerskich pośredników reklamowych Mety; BBC podaje, że ci partnerzy, określani jako „resellerzy”, każdego roku wprowadzają do Facebooka i Instagrama chińskie reklamy o wartości dziesiątek miliardów dolarów. Wspomniani partnerzy nie odpowiedzieli na pytania TTP.

Meta oświadczyła BBC: „Nie tolerujemy aplikacji do rozbierania ani żadnej formy wykorzystywania dzieci, czy to rzeczywistego, czy generowanego przez sztuczną inteligencję. Ci przestępcy nieustannie zmieniają taktykę, aby unikać wykrycia, dlatego stale wzmacniamy nasze mechanizmy wykrywania i egzekwowania zasad.” Firma dodała, że w przypadku wykrycia oczywistych treści przedstawiających wykorzystywanie dzieci zgłasza je do amerykańskiego National Center for Missing & Exploited Children zgodnie z obowiązkiem wynikającym z prawa Stanów Zjednoczonych.

Założyciel indyjskiej sieci organizacji działających na rzecz praw dziecka Just Rights for Children, Bhuwan Ribhu, uważa, że raportowanie wyłącznie do instytucji amerykańskiej jest niewystarczające. Powiedział BBC: „Firmy z mediów społecznościowych wyraźnie nie zgłaszają indyjskim organom ścigania treści przedstawiających seksualne wykorzystywanie dzieci zgodnie z naszym prawem ochrony dzieci, czym rażąco naruszają prawo indyjskie.” BBC podało, że sieć organizacji złożyła wniosek do Sądu Najwyższego Indii, aby nakazał platformom społecznościowym obowiązkowe raportowanie takich treści oraz identyfikację ich promotorów. Kilka indyjskich instytucji poinformowało po dochodzeniu BBC, że analizuje tę sprawę.

Fakt, że ścieżki rozpowszechniania przebiegają między platformami, nie zmniejsza odpowiedzialności pierwszego płatnego punktu wejścia. BBC ustaliło wcześniej, że niektóre reklamy Mety kierowały użytkowników do Telegramu, gdzie powiązane materiały oferowano za cenę już od 99 rupii. Dyrektor ds. cyberbezpieczeństwa indyjskiego stanu Telangana, Shikha Goel, powiedziała BBC, że jednym z głównych wyzwań w zwalczaniu materiałów przedstawiających seksualne wykorzystywanie dzieci jest łatwość przechodzenia użytkowników między platformami, co utrudnia policji ich zatrzymanie. Telegram poinformował wówczas BBC, że firma stosuje jednocześnie moderację automatyczną i ludzką oraz że „niemal wyeliminowała publiczne rozpowszechnianie materiałów przedstawiających seksualne wykorzystywanie dzieci”.

Przepływ między platformami rzeczywiście zwiększa trudności egzekwowania prawa, lecz Facebook i Instagram zapewniają kupowany, targetowany i wymagający zatwierdzenia punkt wejścia dla rozpowszechniania. Meta dysponuje uprawnieniami, by zablokować emisję reklam, i decyduje, kiedy zgłoszenia są skuteczne, kiedy konta naruszające zasady są wyłączane oraz w jaki sposób partnerzy mają dostęp do rynku reklam. Dopóki ten system pozostawia awarie moderacji sprzed emisji dzieciom, a następnie ocenia skuteczność na podstawie niskiej liczby wyświetleń i reaktywnego usuwania, tak zwana obrona Mety nadal służy ciągłości działania systemu reklamowego, a nie umieszczaniu bezpieczeństwa dzieci ponad jej komercyjną infrastrukturą.