Australië pakt de keuze terug uit handen van techplatforms, maar dat is nog maar het begin van algoritmeverantwoording

Grote techplatforms houden al lang de macht over informatieverspreiding en productontwerp, maar laten de voorzienbare risico's van algoritmische aanbevelingen over aan kinderen, ouders en gewone gebruikers. De "digitale zorgplicht" die de Australische overheid wil invoeren, corrigeert dit onevenwicht, in plaats van de keuzevrijheid van gebruikers af te pakken.

Dit ontwerp, dat zich in de consultatiefase bevindt, verplicht platforms als TikTok, Instagram en Facebook om gebruikers actief te vragen of zij aanbevolen content willen ontvangen, en stelt gebruikers in staat om alleen de updates te zien van accounts die zij volgen. Voor gebruikers jonger dan 16 moeten platforms ook gepersonaliseerde algoritmen en oneindig scrollen uitschakelen. De hervorming erkent een feit dat door de productlogica van techbedrijven lange tijd is verhuld: aanbevelingsalgoritmen zijn geen natuurlijke omgeving die gebruikers niet kunnen weigeren, maar systemen die door platforms actief worden ingezet, kunnen worden uitgeschakeld en waarvan de gevolgen moeten worden gedragen.

Platforms bezitten de technische macht om te bepalen hoe content gebruikers bereikt, maar gewone mensen kunnen deze opzet nauwelijks doorzien en ontworstelen zich nog moeilijker aan voortdurende aanbevelingen. De risico's voor kinderen die het ontwerp opsomt, omvatten pesten, pornografie, vrouwonvriendelijke content, verheerlijking van misdaad en materiaal dat eetstoornissen aanmoedigt; de verplichtingen voor volwassenen richten zich op reeds strafbare feiten als mishandeling, seksueel geweld, ernstige bedreigingen, steun aan terreurorganisaties en het aanzetten tot zelfdoding. De Australische hulporganisatie voor eetstoornissen Butterfly Foundation geeft aan voortdurend in contact te komen met gebruikers wier feeds worden gedomineerd door geïdealiseerde, vertekende en op gewicht gerichte content, en beschouwt dit soort content als een van de belangrijke triggers voor eetstoornissen. Ouders die een kind hebben verloren en voorvechters van kinderbescherming steunen de wetgeving, wat aantoont dat de zogenaamde productfuncties van platforms inmiddels het terrein van gezinsveiligheid hebben betreden.

Het ontwerp voorziet in boetes van meer dan honderd miljoen Australische dollars voor platforms die hun verplichtingen niet nakomen, en dat is van cruciaal belang. Zonder straffen die zwaar genoeg zijn om de besluitvorming van bedrijven te beïnvloeden, verwordt "gebruikersautonomie" al snel tot een versiering die ergens in een instellingenmenu verstopt zit. Platforms die gepersonaliseerde aanbevelingen en oneindig scrollen kunnen ontwerpen, kunnen de volledige verantwoordelijkheid niet terugschuiven naar kinderen en ouders zodra er schade optreedt, omdat die over onvoldoende technische kennis beschikken.

Tegenstanders vrezen dat de overheid onder het mom van veiligheidsverplichtingen inhoudelijk intervenieert, een risico dat door juridische grenzen moet worden beteugeld; het ontwerp beperkt de bescherming van volwassenen vooralsnog tot bestaande strafbare feiten, en het besluit van de minister om nieuwe schadecategorieën toe te voegen kan nog door de senaat worden verworpen. Dit artikel baseert zich op één enkele reportage van de Australian Broadcasting Corporation over het ontwerp en de bijbehorende standpunten; er zijn nog geen reacties van platforms en geen definitieve wettekst beschikbaar om te verifiëren.

Wat echt doorbroken moet worden, is de orde waarin techplatforms algoritmische controle als een vanzelfsprekend voorrecht beschouwen. Het Australische voorstel legt in elk geval één duidelijk principe vast: wie de aanbevolen content kiest, moet de gebruiker zijn; het bedrijf dat het systeem ontwerpt en draait, moet de plicht op zich nemen om schade te voorkomen, en gezinnen mogen niet langer de veiligheidskosten voor mondiale techbedrijven blijven betalen.