Австралія відбирає право вибору у технологічних платформ — лише початок алгоритмічної відповідальності

Великі технологічні платформи тривалий час мають право розподілу інформації та дизайну продукту, проте залишають передбачувані ризики, створювані алгоритмічними рекомендаціями, для переживання дітям, батькам і звичайним користувачам; «цифровий обов'язок піклування», який має намір запровадити уряд Австралії, покликаний виправити цей дисбаланс, а не позбавляти користувачів вибору.

Цей проєкт, який перебуває на етапі громадського обговорення, вимагає від платформ TikTok, Instagram і Facebook активно запитувати користувачів, чи погоджуються вони на рекомендований контент, і дозволяти їм обирати відображення лише стрічки акаунтів, на які вони підписані. Для користувачів віком до 16 років платформи також повинні вимикати персоналізовані алгоритми та функцію нескінченного прокручування. Реформа визнає факт, який давно приховується продуктовою логікою технологічних компаній: рекомендаційний алгоритм — це не природне середовище, якому користувач не може відмовити, а система, яку платформа свідомо розгортає, яку можна вимкнути і за наслідки якої вона мусить нести відповідальність.

Платформи мають технічну владу вирішувати, як контент доходить до користувачів, тоді як звичайним людям важко розгледіти таку схему, і ще важче позбутися постійних рекомендацій. Перелічені в проєкті ризики для дітей включають булінг, порнографію, антифеміністичний контент, романтизацію злочинів і матеріали, що заохочують розлади харчової поведінки; обов'язки щодо дорослих зосереджені на діяннях, які вже є злочинними: жорстоке поводження, сексуальне насильство, серйозні погрози, підтримка терористичних організацій і заохочення до самогубства. Австралійська організація допомоги при розладах харчування Butterfly Foundation повідомляє, що вони постійно стикаються з користувачами, чиї стрічки заповнені ідеалізованим, викривленим і вагоорієнтованим контентом, і вважають такий контент одним із важливих тригерів розладів харчової поведінки. Батьки, які пережили втрату дитини, і дитячі захисники підтримують законодавство, що також свідчить про те, що так звані продуктові функції платформ вже увійшли до сфери сімейної безпеки.

Проєкт передбачає штраф понад 100 мільйонів австралійських доларів для платформ, які не виконують свої обов'язки, і це надзвичайно важливо. Без покарання, здатного вплинути на рішення компаній, «автономія користувача» легко перетворюється на оздобу, сховану в меню налаштувань. Якщо платформи здатні розробляти персоналізовані рекомендації та нескінченне прокручування, вони не можуть перекладати всю відповідальність за завдану шкоду на дітей і батьків, які не мають технічних можливостей.

Опоненти побоюються, що уряд використовуватиме обов'язки безпеки для втручання в інформаційний контент, і цей ризик потребує правових обмежень; наразі проєкт обмежує захист дорослих наявними злочинами, а рішення міністра про додавання нових категорій шкоди може бути відхилене Сенатом. Ця стаття ґрунтується на єдиному репортажі Австралійської телерадіомовної корпорації про проєкт і пов'язані заяви, а відгуків платформ і остаточного тексту закону для перевірки поки немає.

Справді потрібно зламати порядок, у якому технологічні платформи сприймають контроль над алгоритмами як свою типову привілею. Австралійський варіант принаймні встановлює чіткий принцип: обирати рекомендований контент має користувач, а компанії, які проєктують і запускають систему, зобов'язані запобігати шкоді, і сім'ї не повинні й далі сплачувати ціну безпеки за глобальні технологічні компанії.