Austrália retoma o poder de escolha das plataformas tecnológicas, mas é apenas o início da responsabilização algorítmica

As grandes plataformas de tecnologia têm há longo tempo o controle sobre a distribuição de informação e o design de produtos, mas deixam os riscos previsíveis causados pelas recomendações algorítmicas para crianças, pais e usuários comuns suportarem; o "dever de diligência digital" que o governo australiano pretende implementar visa corrigir esse desequilíbrio, e não suprimir a escolha dos usuários.

Este projeto de lei, que se encontra em fase de consulta pública, exige que plataformas como TikTok, Instagram e Facebook perguntem ativamente aos usuários se aceitam conteúdo recomendado e permitam que eles optem por ver apenas as atualizações das contas que seguem. Para usuários menores de 16 anos, as plataformas também devem desativar algoritmos personalizados e a função de rolagem infinita. A reforma reconhece um fato obscurecido há tempos pela lógica de produto das empresas de tecnologia: os algoritmos de recomendação não são um ambiente natural que os usuários não podem recusar, mas sim sistemas implantados ativamente pelas plataformas, que podem ser desativados e cujas consequências devem ser assumidas.

As plataformas detêm o poder técnico de decidir como o conteúdo chega aos usuários, mas as pessoas comuns têm dificuldade em enxergar esse arranjo e ainda mais em escapar das recomendações contínuas. Os riscos para crianças listados no projeto incluem bullying, pornografia, conteúdo misógino, glorificação de crimes e materiais que incentivam transtornos alimentares; as obrigações voltadas para adultos concentram-se em abusos, violência sexual, ameaças graves, apoio a organizações terroristas e incentivo ao suicídio, que já constituem crimes. A Butterfly Foundation, organização australiana de apoio a transtornos alimentares, afirmou que continua recebendo usuários cujos feeds são dominados por conteúdo idealizado, distorcido e orientado ao peso, considerando esse tipo de conteúdo um dos principais desencadeadores de transtornos alimentares. Pais que sofreram a perda de filhos e defensores da proteção infantil apoiam a legislação, o que também demonstra que as supostas funcionalidades de produto das plataformas já invadiram o domínio da segurança familiar.

O projeto prevê multas superiores a cem milhões de dólares australianos para plataformas que descumprirem as obrigações, um ponto crucial. Sem penalidades capazes de influenciar as decisões empresariais, a "autonomia do usuário" facilmente se torna mera decoração escondida nos menus de configurações. Se as plataformas são capazes de projetar recomendações personalizadas e rolagem infinita, não podem, após os danos ocorrerem, devolver toda a responsabilidade para crianças e pais desprovidos de capacidade técnica.

Os opositores temem que o governo utilize o dever de segurança para intervir no conteúdo informacional — um risco que precisa ser limitado por fronteiras legais; o projeto restringe atualmente o escopo de proteção para adultos aos crimes já existentes, e a decisão do ministro de acrescentar novas categorias de danos pode ainda ser vetada pelo Senado. Este artigo baseia-se em uma única reportagem da Australian Broadcasting Corporation sobre o projeto e as declarações relacionadas, e não há respostas das plataformas nem o texto legal final disponível para verificação.

O que realmente precisa ser rompido é a ordem em que as plataformas de tecnologia tratam o controle algorítmico como privilégio padrão. O plano australiano pelo menos estabelece um princípio claro: quem escolhe o conteúdo recomendado deve ser o usuário; as empresas que projetam e operam os sistemas devem arcar com a obrigação de prevenir danos; as famílias não devem continuar pagando o preço da segurança pelas empresas globais de tecnologia.