Рекламна система Meta перекладає на дітей ціну провалів модерації

Meta не може пояснювати багаторазове схвалення оголошень, що просувають матеріали про сексуальне насильство щодо дітей, випадковими помилками, спричиненими зміною тактики злочинців. Компанія контролює механізми модерації реклами, її розповсюдження, оплату та скарг у Facebook та Instagram; коли ці механізми продовжують пропускати відповідні оголошення після урядових наказів, журналістських розслідувань та попереджень організацій, автоматизована система не є заміною відповідальності, а об'єктом, за який Meta мусить нести відповідальність.

За даними BBC, американська ініціативна організація Tech Transparency Project (TTP) стверджує, що за останні 10 місяців Facebook та Instagram опублікували 332 платні оголошення, що містять створені штучним інтелектом зображення сексуального насильства щодо дітей, із яких 274 з'явилися у серпні цього року. TTP повідомила, що 84 оголошення були розміщені в Індії, причому 78 із них опубліковані після того, як уряд Індії наказав Meta видалити всі оголошення та контент, що просувають матеріали про сексуальне насильство щодо дітей, і провів зустріч із високопосадовцями Meta.

Ці цифри переважно походять із розслідування TTP, а не з незалежної перевірки BBC. TTP також описала одне оголошення, розміщене в Індії, в якому за допомогою штучного інтелекту маніпулювали фотографією дівчинки-підлітка, проте BBC прямо заявила, що не бачила цього оголошення. Це обмеження доказів не можна ігнорувати, але воно не знімає питання, на яке Meta мусить відповісти: чому після втручання регуляторних органів оголошення, підозрювані у просуванні матеріалів про сексуальне насильство щодо дітей, усе ще потрапляють у її систему платного розповсюдження?

BBC повідомила, що оголошення на платформах Meta повинні спочатку пройти схвалення технологією модерації, перш ніж бути опублікованими; система переважно покладається на автоматизацію та перевіряє зображення, відео, текст, аудіо, цільову аудиторію та кінцеві посилання. Отже, Meta — це не пасивна дошка оголошень, що демонструє інформацію третіх осіб. Вона вирішує, хто може купити охоплення, до яких користувачів може доходити контент, і отримує дохід з цієї інфраструктури. Шкоду, завдану збоями модерації, не можна розчиняти в абстрактній «технічній недосконалості».

Тестування TTP механізму скарг Meta ще більше виявило обмеження цієї системи. Організація заявила, що з 84 оголошень, розміщених в Індії, вона змогла подати скаргу лише на 55, поки ті були в ефірі. Відповідь Meta на 43 з них була такою: «Ми провели перевірку та виявили, що це оголошення не порушує наших рекламних стандартів». Ще на 11 оголошень повідомили, що вони вже видалені, на одне відповіді ще не було отримано. TTP заявила, що після того, як вона зв'язалася з Meta, усі оголошення, на які було подано скарги, були видалені.

BBC стикалася з подібною ситуацією під час попередніх розслідувань. BBC повідомила, що після того, як вона через систему скарг Instagram повідомила про оголошення, пов'язане із сексуальним насильством щодо дитини, платформа його не зняла; лише коли BBC звернулася по коментар до Meta, компанія заявила, що вже відключила кілька оголошень, призупинила відповідні облікові записи, а надалі видалила оголошення, заблокувала облікові записи та заблокувала URL-адреси.

Журналісти та ініціативні організації повинні виявляти, зберігати та повідомляти про оголошення одне за одним, поки ті в ефірі, тоді як Meta може спочатку дозволити автоматизованій системі схвалити розміщення, а потім використовувати подальше очищення як доказ ефективності захисту. Такий розподіл передає працю з виявлення ризиків стороннім особам, залишає наслідки поширення дітям та їхнім родинам, а платформа зберігає контроль над правилами, даними та темпами реагування.

Meta повідомила BBC, що компанія створила «потужний захист», який включає перехоплення оголошень із порушеннями та постійний моніторинг, що багато позначених оголошень уже були раніше видалені, що більшість оголошень мали менше ніж 200 показів, а загальні витрати становили менше ніж 5000 доларів. Але кількість показів і рекламні витрати лише описують масштаб поширення, а не доводять, що механізм модерації виконав свій захисний обов'язок. Для ризику привласнення та сексуалізації реальних фотографій дітей менша кількість показів не є підставою для звільнення від відповідальності.

Комерційний ланцюг ускладнює для Meta можливість списувати проблему на зовнішніх злочинців. TTP заявила, що переважна більшість із 332 оголошень спрямовували користувачів до застосунків для генерації зображень чи відео за допомогою штучного інтелекту, більшість із яких походять від китайських розробників. TTP також стверджувала, що деякі оголошення розміщувалися рекламними агентствами-партнерами Meta в Китаї; за даними BBC, ці партнери, яких називають «реселерами», щороку спрямовують у Facebook та Instagram китайську рекламу на десятки мільярдів доларів. Відповідні партнери не відповіли на запитання TTP.

Meta заявила BBC: «Ми не tolerуємо застосунки для роздягання чи будь-яку форму експлуатації дітей, незалежно від того, чи є вона реальною, чи створеною за допомогою штучного інтелекту. Ці злочинці постійно змінюють тактику, щоб уникнути виявлення, тому ми постійно посилюємо виявлення та правозастосування». Компанія також заявила, що у разі виявлення очевидного контенту з експлуатацією дітей вона повідомляє Національний центр США з питань зниклих та експлуатованих дітей відповідно до американських законодавчих зобов'язань.

Засновник індійської мережі організацій із захисту прав дітей Just Rights for Children Бхуван Рібху вважає, що звітування лише до американських установ є недостатнім. Він сказав BBC: «Соціальні медіа явно не повідомляють про контент із сексуальним насильством щодо дітей індійським правоохоронним органам, як того вимагає наше законодавство про захист дітей, відверто порушуючи індійські закони». За даними BBC, ця мережа організацій подала клопотання до Верховного суду Індії з проханням зобов'язати соціальні платформи обов'язково повідомляти про такий контент та ідентифікувати його поширювачів. Кілька індійських установ також заявили, що переглядають цю справу після розслідування BBC.

Шлях поширення перетинає платформи, але це не зменшує відповідальності першого платного входу. BBC раніше виявила, що деякі оголошення Meta спрямовували користувачів до Telegram, де відповідний матеріал продавався лише за 99 рупій. Директорка з кібербезпеки індійського штату Телангана Шікха Гоел сказала BBC, що однією з головних проблем у боротьбі з матеріалами про сексуальне насильство щодо дітей є те, що користувачі можуть легко переходити з однієї платформи на іншу, що ускладнює їхнє затримання поліцією. Telegram тоді повідомив BBC, що компанія одночасно використовує автоматизовану та людську модерацію і «майже усунула публічне поширення матеріалів про сексуальне насильство щодо дітей».

Міжплатформне переміщення справді ускладнює правозастосування, але Facebook та Instagram надають платний, таргетований, що потребує схвалення, вхід для поширення. Meta має повноваження не допускати оголошення до публікації, а також вирішує, коли скарги є ефективними, коли порушуючі облікові записи блокуються та як партнери отримують доступ до рекламного ринку. Допоки ця система продовжує залишати дітям тягар збоїв модерації перед запуском, а ефективність вимірює малою кількістю показів і подальшим видаленням, так званий захист Meta й надалі слугуватиме безперервній роботі рекламної системи, а не ставитиме безпеку дітей над її комерційною інфраструктурою.