Австралия отбирает право выбора у технологических платформ — это лишь начало алгоритмической подотчётности

Крупные технологические платформы долгое время обладают правами на распространение информации и проектирование продуктов, однако перекладывают предвидимые риски, вызванные алгоритмическими рекомендациями, на детей, родителей и обычных пользователей; «цифровой долг осмотрительности», который правительство Австралии намерено ввести, призван скорректировать этот дисбаланс, а не лишить пользователей выбора.

Этот находящийся на стадии общественного обсуждения проект обязывает такие платформы, как TikTok, Instagram и Facebook, активно спрашивать пользователей, согласны ли они получать рекомендованный контент, и позволяет им переключаться на отображение только публикаций аккаунтов, на которые они подписаны. Для пользователей младше 16 лет платформы также обязаны отключать персонализированные алгоритмы и функцию бесконечной прокрутки. Реформа признаёт давно скрываемый продуктовой логикой технологических компаний факт: рекомендательные алгоритмы — это не природная среда, от которой пользователь не может отказаться, а активно развёртываемая платформами система, которую можно отключить и за которую необходимо нести последствия.

Платформы обладают технической властью определять, каким образом контент доходит до пользователя, тогда как обычные люди с трудом могут разглядеть эту схему и тем более избавиться от непрерывных рекомендаций. Перечисленные в проекте риски для детей включают травлю, порнографию, женоненавистнический контент, романтизацию преступлений и материалы, поощряющие расстройства пищевого поведения; обязательства в отношении взрослых сосредоточены на уже являющихся преступлениями действиях — жестоком обращении, сексуальном насилии, серьёзных угрозах, поддержке террористических организаций и побуждении к самоубийству. Австралийская организация помощи при расстройствах пищевого поведения Butterfly Foundation заявляет, что они постоянно сталкиваются с пользователями, чьи ленты заполнены идеализированным, искажённым и ориентированным на вес контентом, и считают такой контент одним из важных триггеров расстройств пищевого поведения. Родители, пережившие потерю детей, и защитники интересов детей поддерживают законодательство, что также свидетельствует: так называемые продуктовые функции платформ уже вторглись в сферу семейной безопасности.

Проект предусматривает штрафы свыше ста миллионов австралийских долларов для платформ, не выполняющих обязательства, — и это принципиально важно. Без наказаний, способных повлиять на решения компаний, «пользовательская автономия» легко превращается в декоративный элемент, спрятанный в меню настроек. Раз платформы способны проектировать персонализированные рекомендации и бесконечную прокрутку, они не могут, когда вред уже нанесён, перекладывать всю ответственность обратно на детей и родителей, лишённых технических возможностей.

Оппоненты опасаются, что правительство использует обязательства по безопасности как предлог для вмешательства в информационный контент, — этот риск должен ограничиваться правовыми рамками; проект в настоящее время ограничивает сферу защиты взрослых уже существующими преступлениями, а решение министра о добавлении новых категорий вреда может быть заблокировано Сенатом. Настоящая статья основана на единственном репортаже Австралийской радиовещательной корпорации о проекте и связанных с ним заявлениях; ответы платформ и окончательный текст закона для сверки отсутствуют.

Действительно необходимо сломать тот порядок, при котором технологические платформы считают контроль над алгоритмами своей привилегией по умолчанию. Австралийский вариант как минимум устанавливает ясный принцип: выбирать рекомендуемый контент должен пользователь, а компания, проектирующая и эксплуатирующая систему, обязана нести ответственность за предотвращение вреда; семьи не должны и дальше расплачиваться за безопасность глобальных технологических корпораций.