L'Australie reprend le choix aux mains des plateformes technologiques : ce n'est que le début de la responsabilité algorithmique

Les grandes plateformes technologiques détiennent depuis longtemps le pouvoir de distribution de l'information et de conception des produits, tout en laissant les enfants, les parents et les utilisateurs ordinaires supporter les risques prévisibles causés par les recommandations algorithmiques ; le « devoir de diligence numérique » que le gouvernement australien entend mettre en œuvre vise à corriger ce déséquilibre, et non à priver les utilisateurs de leur choix.

Ce projet de loi, actuellement en phase de consultation, exige que des plateformes telles que TikTok, Instagram et Facebook demandent activement aux utilisateurs s'ils acceptent les contenus recommandés, et leur permettent de choisir de n'afficher que les actualités des comptes qu'ils suivent. Pour les utilisateurs de moins de 16 ans, les plateformes doivent en outre désactiver les algorithmes personnalisés et la fonction de défilement infini. La réforme reconnaît un fait longtemps occulté par la logique produit des entreprises technologiques : les algorithmes de recommandation ne constituent pas un environnement naturel que les utilisateurs ne peuvent refuser, mais un système déployé activement par les plateformes, qui peut être désactivé et dont les conséquences doivent être assumées.

Les plateformes détiennent le pouvoir technique de décider comment les contenus parviennent aux utilisateurs, mais il est difficile pour les gens ordinaires de discerner clairement cet arrangement, et plus difficile encore d'échapper aux recommandations incessantes. Les risques pour les enfants énumérés dans le projet comprennent le harcèlement, la pornographie, les contenus misogynes, la glorification de la criminalité et les matériaux encourageant les troubles alimentaires ; les obligations envers les adultes se concentrent quant à elles sur des contenus relevant déjà du droit pénal : maltraitance, violences sexuelles, menaces graves, soutien à des organisations terroristes et incitation au suicide. La Butterfly Foundation, organisation australienne d'aide aux personnes souffrant de troubles alimentaires, indique être régulièrement en contact avec des utilisateurs dont les fils d'actualité sont envahis de contenus idéalisés, déformés et axés sur le poids, et considère ces contenus comme l'un des facteurs importants des troubles alimentaires. Le soutien à la législation apporté par des parents ayant perdu un enfant et par des défenseurs de la protection de l'enfance montre également que les prétendues fonctionnalités des plateformes relèvent désormais de la sécurité familiale.

Le projet prévoit d'infliger aux plateformes qui ne respectent pas leurs obligations des amendes dépassant les cent millions de dollars australiens, ce qui est crucial. Sans sanctions susceptibles d'influencer les décisions des entreprises, « l'autonomie des utilisateurs » risque de se réduire à un simple ornement dissimulé dans les menus de paramètres. Puisque les plateformes sont capables de concevoir des recommandations personnalisées et le défilement infini, elles ne peuvent, une fois les préjudices survenus, rejeter l'entière responsabilité sur des enfants et des parents dépourvus de compétences techniques.

Les opposants craignent que le gouvernement n'utilise les obligations de sécurité pour intervenir dans le contenu informationnel, un risque qui doit être encadré par des limites juridiques ; le projet limite actuellement la protection des adultes aux infractions déjà constituées, et la décision du ministre d'ajouter de nouvelles catégories de préjudices peut encore être rejetée par le Sénat. Cet article repose sur le seul reportage de l'Australian Broadcasting Corporation concernant le projet et les déclarations associées, et aucune réponse des plateformes ni texte juridique définitif n'est encore disponible pour vérification.

Ce qu'il faut véritablement briser, c'est l'ordre selon lequel les plateformes technologiques considèrent le contrôle algorithmique comme un privilège par défaut. La proposition australienne établit au moins un principe clair : la personne qui choisit les contenus recommandés doit être l'utilisateur, les entreprises qui conçoivent et exploitent les systèmes doivent assumer l'obligation de prévenir les préjudices, et les familles ne devraient pas continuer à payer le tribut de la sécurité pour les entreprises technologiques mondiales.