L'Australia riprende il potere di scelta dalle mani delle piattaforme tecnologiche, ma è solo l'inizio della responsabilità algoritmica

Le grandi piattaforme tecnologiche detengono da tempo il potere sulla distribuzione delle informazioni e sulla progettazione dei prodotti, ma lasciano che i rischi prevedibili derivanti dalle raccomandazioni algoritmiche vengano sopportati da bambini, genitori e utenti comuni; il cosiddetto «obbligo di diligenza digitale» che il governo australiano intende introdurre mira a correggere questo squilibrio, non a privare gli utenti delle loro scelte.

La bozza, attualmente in fase di consultazione, impone a piattaforme come TikTok, Instagram e Facebook di chiedere attivamente agli utenti se accettano i contenuti raccomandati e di consentire loro di scegliere di visualizzare solo i feed degli account seguiti. Per gli utenti sotto i 16 anni, le piattaforme dovranno inoltre disattivare gli algoritmi di personalizzazione e la funzione di scorrimento infinito. La riforma riconosce un fatto a lungo occultato dalla logica di prodotto delle aziende tecnologiche: gli algoritmi di raccomandazione non sono un ambiente naturale che l'utente non può rifiutare, ma sistemi attivamente implementati dalle piattaforme, che possono essere disattivati e dei quali queste devono assumersi le conseguenze.

Le piattaforme detengono il potere tecnologico di decidere come i contenuti raggiungono gli utenti, ma è difficile per i cittadini comuni comprendere questo meccanismo e ancor più sottrarsi alle raccomandazioni incessanti. I rischi per i minori elencati nella bozza comprendono bullismo, pornografia, contenuti misogini, glorificazione del crimine e materiali che incoraggiano i disturbi alimentari; gli obblighi rivolti agli adulti si concentrano invece su contenuti che costituiscono già reato, come maltrattamenti, violenza sessuale, minacce gravi, sostegno a organizzazioni terroristiche e istigazione al suicidio. La Butterfly Foundation, organizzazione australiana di assistenza per i disturbi alimentari, ha dichiarato di entrare regolarmente in contatto con utenti i cui feed sono dominati da contenuti idealizzati, distorti e incentrati sul peso, ritenendo che tali contenuti siano una delle cause principali dei disturbi alimentari. Il sostegno alla legislazione da parte di genitori che hanno perso i propri figli e di sostenitori della tutela dell'infanzia dimostra che le cosiddette funzionalità di prodotto delle piattaforme sono ormai entrate nell'ambito della sicurezza familiare.

La bozza prevede multe superiori a cento milioni di dollari australiani per le piattaforme che non adempiono agli obblighi, un aspetto cruciale. Senza sanzioni in grado di influenzare le decisioni aziendali, la «libertà di scelta dell'utente» rischia facilmente di ridursi a un elemento decorativo nascosto nei menu delle impostazioni. Se le piattaforme sono in grado di progettare raccomandazioni personalizzate e lo scorrimento infinito, non possono scaricare tutta la responsabilità sui bambini e sui genitori, privi di competenze tecniche, quando si verificano danni.

I critici temono che il governo possa utilizzare gli obblighi di sicurezza per intervenire sui contenuti informativi; questo rischio deve essere contenuto dai limiti giuridici; la bozza attualmente circoscrive la tutela degli adulti ai reati già esistenti, e la decisione del ministro di aggiungere nuove categorie di danno può essere respinta dal Senato. Questo articolo si basa su un'unica cronaca della Australian Broadcasting Corporation sulla bozza e sulle relative dichiarazioni; non sono disponibili risposte delle piattaforme né il testo definitivo della legge da verificare.

Ciò che va davvero spezzato è l'ordine in cui le piattaforme tecnologiche considerano il controllo algoritmico come un privilegio scontato. La proposta australiana stabilisce almeno un principio chiaro: a scegliere i contenuti raccomandati deve essere l'utente, le aziende che progettano e gestiscono i sistemi devono farsi carico dell'obbligo di prevenire i danni, e le famiglie non devono continuare a pagare il prezzo della sicurezza per le aziende tecnologiche globali.