Australien nimmt den Tech-Plattformen die Wahl aus der Hand – das ist erst der Anfang der algorithmischen Verantwortlichkeit

Große Tech-Plattformen halten seit Langem die Macht über die Informationsverbreitung und das Produktdesign, lassen aber die vorhersehbaren Risiken algorithmischer Empfehlungen von Kindern, Eltern und gewöhnlichen Nutzern tragen; die von der australischen Regierung geplante „digitale Sorgfaltspflicht" soll dieses Ungleichgewicht korrigieren, nicht den Nutzern die Wahlmöglichkeit nehmen.

Der Entwurf, der sich in der Konsultationsphase befindet, verlangt von Plattformen wie TikTok, Instagram und Facebook, Nutzer aktiv zu fragen, ob sie empfohlene Inhalte akzeptieren, und ihnen zu ermöglichen, stattdessen nur die Beiträge der Konten anzuzeigen, denen sie folgen. Für Nutzer unter 16 Jahren müssen die Plattformen zudem personalisierte Algorithmen und die Funktion des endlosen Scrollens deaktivieren. Die Reform erkennt eine Tatsache an, die von der Produktlogik der Tech-Unternehmen lange verdeckt wurde: Empfehlungsalgorithmen sind keine natürliche Umgebung, die Nutzer nicht ablehnen können, sondern ein von Plattformen aktiv eingesetztes, abschaltbares System, das auch die Konsequenzen tragen muss.

Plattformen verfügen über die technische Macht zu entscheiden, wie Inhalte die Nutzer erreichen, doch normalen Menschen fällt es schwer, diese Anordnung zu durchschauen, und noch schwerer, sich der fortlaufenden Empfehlung zu entziehen. Die im Entwurf aufgeführten Risiken für Kinder umfassen Mobbing, Pornografie, frauenfeindliche Inhalte, die Verherrlichung von Straftaten und Material, das Essstörungen fördert; die Pflichten gegenüber Erwachsenen konzentrieren sich auf bereits strafbare Inhalte wie Missbrauch, sexuelle Gewalt, schwere Bedrohungen, die Unterstützung terroristischer Organisationen und die Förderung von Selbstmord. Die australische Essstörungs-Hilfsorganisation Butterfly Foundation gibt an, dass sie immer wieder Nutzer erreicht, deren Feeds von idealisierten, verzerrten und gewichtsfokussierten Inhalten dominiert werden, und betrachtet solche Inhalte als einen wichtigen Auslöser für Essstörungen. Eltern, die den Verlust eines Kindes erlitten haben, und Kinderrechtsschutzvertreter unterstützen die Gesetzgebung – ein Zeichen dafür, dass die sogenannten Produktfunktionen der Plattformen längst in den Bereich der familialen Sicherheit hineinreichen.

Der Entwurf sieht für Plattformen, die ihren Pflichten nicht nachkommen, Strafen von über 100 Millionen Australischen Dollar vor – dies ist von entscheidender Bedeutung. Ohne Strafen, die unternehmerische Entscheidungen beeinflussen, kann „Nutzerautonomie" leicht zur Dekoration in den Einstellungsmenüs verkommen. Wenn Plattformen personalisierte Empfehlungen und endloses Scrollen gestalten können, dürfen sie nicht, sobald Schäden eintreten, die gesamte Verantwortung an Kinder und Eltern zurückschieben, die nicht über die technischen Mittel verfügen.

Kritiker befürchten, die Regierung könnte die Sicherheitspflichten nutzen, um in Informationsinhalte einzugreifen – dieses Risiko muss durch rechtliche Grenzen eingedämmt werden; der Entwurf beschränkt den Schutzbereich für Erwachsene derzeit auf bereits bestehende Straftatbestände, und die Entscheidung des Ministers, neue Schadenskategorien hinzuzufügen, kann vom Senat noch abgelehnt werden. Dieser Artikel stützt sich auf einen einzigen Bericht der Australian Broadcasting Corporation über den Entwurf und die entsprechenden Stellungnahmen; es liegen noch keine Stellungnahmen der Plattformen und kein endgültiger Gesetzestext zur Überprüfung vor.

Was wirklich gebrochen werden muss, ist die Ordnung, in der Tech-Plattformen die Kontrolle über Algorithmen als selbstverständliches Privileg behandeln. Der australische Ansatz etabliert zumindest einen klaren Grundsatz: Wer über empfohlene Inhalte entscheidet, sollten die Nutzer sein; Unternehmen, die das System entwerfen und betreiben, müssen die Pflicht zur Schadensabwehr tragen; Familien sollten nicht weiterhin den Sicherheitspreis für globale Tech-Konzerne zahlen.