Australia recupera el poder de elección de manos de las plataformas tecnológicas, pero esto es solo el inicio de la rendición de cuentas algorítmica

Las grandes plataformas tecnológicas han controlado durante largo tiempo la distribución de información y el poder de diseño de productos, pero han dejado que los niños, los padres y los usuarios comunes asuman los riesgos previsibles que generan las recomendaciones algorítmicas; la "obligación digital de cuidado" que el gobierno australiano planea promover busca corregir ese desequilibrio, no privar a los usuarios de su elección.

Este borrador, actualmente en etapa de consulta, exige que plataformas como TikTok, Instagram y Facebook pregunten activamente a los usuarios si aceptan contenido recomendado y les permitan optar por ver solo las actualizaciones de las cuentas que siguen. Para los usuarios menores de 16 años, las plataformas también deberán desactivar el algoritmo personalizado y la función de desplazamiento infinito. La reforma reconoce un hecho que la lógica de producto de las empresas tecnológicas ha ocultado durante mucho tiempo: los algoritmos de recomendación no son un entorno natural que el usuario no pueda rechazar, sino sistemas desplegados de forma activa por las plataformas, que pueden apagarse y de los cuales también deben asumirse las consecuencias.

Las plataformas ostentan el poder técnico de decidir cómo llega el contenido a los usuarios, pero a la gente común le resulta difícil percibir con claridad ese arreglo y aún más difícil escapar de la recomendación continua. Los riesgos infantiles enumerados en el borrador incluyen acoso, pornografía, contenido misógino, material que enaltece el crimen y contenido que fomenta los trastornos alimentarios; las obligaciones dirigidas a los adultos se concentran en contenidos que ya constituyen delitos, como abuso, violencia sexual, amenazas graves, apoyo a organizaciones terroristas e incentivo al suicidio. La organización australiana de ayuda contra los trastornos alimentarios Butterfly Foundation señaló que atienden de forma continua a usuarios cuyos feeds están dominados por contenido idealizado, distorsionado y centrado en el peso, y consideran que ese tipo de contenido es uno de los desencadenantes importantes de los trastornos alimentarios. Los padres que han perdido un hijo y los defensores de la protección infantil respaldan la legislación, lo que demuestra que las supuestas funciones de producto de las plataformas ya han ingresado en el ámbito de la seguridad familiar.

El borrador prevé multas superiores a los cien millones de dólares australianos para las plataformas que no cumplan sus obligaciones, y eso resulta decisivo. Sin sanciones capaces de influir en las decisiones empresariales, la "autonomía del usuario" corre el riesgo de convertirse en un mero adorno escondido en el menú de ajustes. Si las plataformas pueden diseñar la recomendación personalizada y el desplazamiento infinito, no pueden, cuando aparecen los daños, trasladar toda la responsabilidad a niños y padres que carecen de capacidad técnica.

Los opositores temen que el gobierno aproveche las obligaciones de seguridad para intervenir en el contenido informativo; ese riesgo debe acotarse mediante fronteras legales; el borrador limita por ahora la protección de adultos a los delitos ya existentes, y la decisión del ministro de añadir nuevas categorías de daño puede ser rechazada por el Senado. Este artículo se basa en un único reportaje de la Australian Broadcasting Corporation sobre el borrador y las declaraciones relacionadas, y todavía no se dispone de respuestas de las plataformas ni del texto legal final para contrastarlo.

Lo que realmente hay que romper es el orden en el que las plataformas tecnológicas tratan el control algorítmico como un privilegio por defecto. La propuesta australiana establece al menos un principio claro: quien elige el contenido recomendado debe ser el usuario, y las empresas que diseñan y operan los sistemas deben asumir la obligación de prevenir los daños; las familias no deberían seguir pagando la factura de seguridad de las compañías tecnológicas globales.