Рекламная система Meta перекладывает цену провалов модерации на детей

Meta не может объяснять неоднократное прохождение модерации рекламой, продвигающей материалы о сексуальном насилии над детьми, случайными ошибками, вызванными сменой методов злоумышленников. Компания контролирует системы модерации рекламы, её распространения, взимания платы и подачи жалоб на Facebook и Instagram; когда эти механизмы продолжают пропускать соответствующую рекламу после правительственных распоряжений, журналистских расследований и предупреждений организаций, автоматизированные системы перестают быть заменой ответственности — они становятся объектом, за который Meta обязана нести ответственность.

По данным BBC со ссылкой на американскую правозащитную организацию Tech Transparency Project (TTP), за последние 10 месяцев Facebook и Instagram разместили в общей сложности 332 платных рекламных объявления, содержащих сгенерированные с помощью искусственного интеллекта изображения сексуального насилия над детьми, из которых 274 были размещены в августе этого года. По данным TTP, 84 рекламных объявления были размещены в Индии, причём 78 из них появились после того, как правительство Индии распорядилось, чтобы Meta удалила всю рекламу и контент, продвигающие материалы о сексуальном насилии над детьми, и провело встречу с высокопоставленными представителями Meta.

Эти цифры в основном взяты из расследования TTP, а не из независимой проверки BBC. TTP также описала одно размещённое в Индии рекламное объявление, в котором с помощью искусственного интеллекта была изменена фотография девочки предподросткового возраста, однако BBC прямо заявила, что не видела данную рекламу. Это ограничение доказательств нельзя игнорировать, но оно не снимает вопрос, на который Meta необходимо ответить: почему после вмешательства регулирующих органов реклама, предположительно продвигающая материалы о сексуальном насилии над детьми, по-прежнему попадает в систему платного распространения?

Как сообщает BBC, реклама на платформах Meta должна быть предварительно одобрена технологией модерации перед размещением; система преимущественно полагается на автоматизацию и проверяет изображения, видео, текст, аудио, целевую аудиторию и направления ссылок. Таким образом, Meta не является пассивным рекламным щитом, демонстрирующим информацию третьих лиц. Она решает, кто может покупать распространение, до каких пользователей доходит контент, и получает доход от этой инфраструктуры. Ущерб, вызванный провалом модерации, нельзя преуменьшать до абстрактного «технического несовершенства».

Тестирование TTP механизма подачи жалоб Meta дополнительно обнажило ограничения этой системы. Организация заявила, что из 84 рекламных объявлений, размещённых в Индии, ей удалось подать жалобу только на 55, пока реклама оставалась в эфире. Ответ Meta по 43 из них гласил: «Мы провели проверку и обнаружили, что данное рекламное объявление не нарушает наших рекламных стандартов». Ещё по 11 было сообщено, что они удалены, по одному ответ ещё не получен. По данным TTP, после того как она связалась с Meta, все указанные в жалобах рекламные объявления были удалены.

При предыдущем расследовании BBC столкнулась с аналогичной ситуацией. BBC сообщила, что после того как она через систему жалоб Instagram сообщила о рекламном объявлении, связанном с сексуальным насилием над детьми, платформа не сняла его; лишь когда BBC обратилась к Meta за комментарием, компания заявила, что уже отключила ряд рекламных объявлений, приостановила действие соответствующих аккаунтов, а также удалила рекламу, заблокировала аккаунты и ограничила доступ к сайтам.

Журналисты и правозащитные организации вынуждены в период размещения рекламы обнаруживать, сохранять и сообщать о ней по одному объявлению, тогда как Meta может сначала позволить автоматизированной системе одобрить размещение, а затем представить последующую очистку как доказательство эффективности защиты. Такое устройство передаёт труд по выявлению рисков внешним лицам, оставляет последствия распространения детям и их семьям, а платформа при этом сохраняет контроль над правилами, данными и темпами реагирования.

Meta заявила BBC, что компания выстроила «мощную систему защиты», включающую блокировку нарушающей рекламы и постоянный мониторинг, что многие из отмеченных рекламных объявлений были удалены ранее, что большинство объявлений было показано менее 200 раз, а общие расходы на них составили менее 5000 долларов. Однако количество показов и расходы на рекламу могут лишь описать масштаб распространения, но не доказать, что механизм модерации выполнил свою защитную функцию. Для рисков использования и сексуализации реальных фотографий детей меньшее количество показов не является основанием для освобождения от ответственности.

Коммерческая цепочка затрудняет для Meta отнесение проблемы на счёт внешних злоумышленников. По данным TTP, подавляющее большинство из 332 рекламных объявлений направляли пользователей к приложениям для генерации изображений или видео с помощью искусственного интеллекта, большинство из которых созданы китайскими разработчиками. TTP также утверждает, что часть рекламы была размещена рекламными агентствами-партнёрами Meta в Китае; по данным BBC, эти партнёры, называемые «реселлерами», ежегодно привлекают в Facebook и Instagram китайскую рекламу на сумму в несколько миллиардов долларов. Соответствующие партнёры не ответили на вопросы TTP.

Meta заявила BBC: «Мы нетерпимы к приложениям для обнажения или к любым формам эксплуатации детей, будь то реальным или сгенерированным с помощью искусственного интеллекта. Эти злоумышленники постоянно меняют методы, чтобы избежать обнаружения, поэтому мы постоянно усиливаем выявление и правоприменение». Компания также заявила, что при обнаружении явного контента с эксплуатацией детей она сообщает о нём в Национальный центр пропавших и эксплуатируемых детей США в соответствии с американскими законодательными обязанностями.

Основатель индийской сети организаций по правам детей Just Rights for Children Бхуван Рихбу считает, что сообщения только в американские структуры недостаточны. Он заявил BBC: «Компании социальных сетей явно не сообщают о содержании сексуального насилия над детьми в индийские правоохранительные органы, как того требует наше законодательство о защите детей, открыто нарушая индийские законы». Как сообщает BBC, эта сеть организаций подала в Верховный суд Индии ходатайство с просьбой обязать социальные платформы принудительно сообщать о соответствующем контенте и устанавливать лиц, его распространяющих. Ряд индийских ведомств также заявили после расследования BBC, что изучают это дело.

Тот факт, что пути распространения выходят за пределы одной платформы, не снимает ответственности с первого платного входа. Ранее BBC обнаружила, что некоторые рекламные объявления Meta направляли пользователей в Telegram, где соответствующие материалы продавались по цене от 99 рупий. Глава Управления кибербезопасности индийского штата Телангана Шиха Гоел заявила BBC, что одной из серьёзных проблем в борьбе с материалами о сексуальном насилии над детьми является то, что пользователи легко переходят с одной платформы на другую, что затрудняет их задержание полицией. Telegram тогда заявил BBC, что одновременно использует автоматическую и ручную модерацию и «практически устранил публичное распространение материалов о сексуальном насилии над детьми».

Трансплатформенное перемещение действительно усложняет правоприменение, однако Facebook и Instagram предоставляют покупаемый, таргетируемый и подлежащий одобрению вход для распространения. Meta обладает полномочиями не допускать размещение рекламы, определяет, когда жалобы считаются действенными, когда приостанавливаются нарушающие аккаунты, а также каким образом партнёры получают доступ к рекламному рынку. До тех пор пока эта система по-прежнему возлагает на детей последствия провалов предпубликационной модерации, а затем оценивает результативность по малым числу показов и последующему удалению, так называемая защита Meta продолжает обслуживать бесперебойную работу рекламной системы, а не ставить безопасность детей во главу своей коммерческой инфраструктуры.