Australia Merebut Hak Pilihan dari Tangan Platform Teknologi, Ini Baru Awal dari Akuntabilitas Algoritma

Platform teknologi besar selama bertahun-tahun menguasai distribusi informasi dan hak desain produk, namun membiarkan risiko yang dapat dicegah akibat rekomendasi algoritma ditanggung oleh anak-anak, orang tua, dan pengguna biasa; "kewajiban perhatian digital" yang akan diterapkan oleh pemerintah Australia bertujuan memperbaiki ketidakseimbangan ini, bukan merampas pilihan pengguna.

Rancangan yang masih dalam tahap konsultasi publik ini mewajibkan platform seperti TikTok, Instagram, dan Facebook untuk secara aktif menanyakan kepada pengguna apakah mereka menerima konten rekomendasi, dan memungkinkan pengguna memilih hanya menampilkan unggahan dari akun yang mereka ikuti. Untuk pengguna di bawah 16 tahun, platform juga diwajibkan menonaktifkan algoritma yang dipersonalisasi dan fitur gulir tak terbatas (infinite scrolling). Reformasi ini mengakui sebuah fakta yang sudah lama ditutup-tutupi oleh logika produk perusahaan teknologi: algoritma rekomendasi bukanlah lingkungan alam yang tidak bisa ditolak pengguna, melainkan sistem yang secara aktif diterapkan oleh platform, bisa dinonaktifkan, dan harus menanggung konsekuensinya.

Platform memiliki kekuasaan teknis untuk menentukan bagaimana konten sampai ke pengguna, namun masyarakat awam sulit melihat pengaturan semacam ini, apalagi keluar dari rekomendasi yang terus-menerus muncul. Risiko terhadap anak yang disebutkan dalam rancangan ini mencakup perundungan, pornografi, konten misogini, pemujaan terhadap kejahatan, dan materi yang mendorong gangguan makan; kewajiban terhadap orang dewasa berfokus pada konten yang sudah merupakan tindak pidana seperti penganiayaan, kekerasan seksual, ancaman serius, dukungan terhadap organisasi teroris, dan dorongan bunuh diri. Lembaga bantuan gangguan makan Australia, Butterfly Foundation, menyatakan bahwa mereka terus menemui pengguna yang lini masnya dipenuhi konten idealisasi, distorsi, dan berbobot pada berat badan, serta menilai konten semacam itu sebagai salah satu pemicu penting gangguan makan. Orang tua yang kehilangan anak dan aktivis perlindungan anak yang mendukung legislasi ini juga menunjukkan bahwa所谓的 fitur produk platform telah memasuki ranah keselamatan keluarga.

Rancangan ini mengusulkan denda lebih dari seratus juta dolar Australia bagi platform yang melanggar kewajiban, dan hal ini sangat penting. Tanpa sanksi yang cukup memengaruhi keputusan perusahaan, "otonomi pengguna" akan mudah menjadi ornamen yang tersembunyi di menu pengaturan. Jika platform mampu merancang rekomendasi yang dipersonalisasi dan gulir tak terbatas, platform tidak boleh mendorong seluruh tanggung jawab kembali kepada anak-anak dan orang tua yang kurang memiliki kemampuan teknis ketika kerugian muncul.

Pihak yang menentang khawatir pemerintah akan menggunakan kewajiban keselamatan untuk mengintervensi konten informasi; risiko ini perlu dibatasi oleh batas-batas hukum; rancangan saat ini membatasi cakupan perlindungan orang dewasa pada tindak pidana yang sudah ada, dan keputusan menteri untuk menambahkan kategori bahaya baru masih dapat ditolak oleh Senat. Artikel ini didasarkan pada satu laporan tunggal dari Australian Broadcasting Corporation mengenai rancangan dan pernyataan terkait, dan belum ada tanggapan dari platform maupun teks hukum akhir yang dapat diverifikasi.

Yang benar-benar perlu dihancurkan adalah tatanan di mana platform teknologi memandang kendali algoritma sebagai hak istimewa bawaan. Skema Australia setidaknya menetapkan satu prinsip yang jelas: pihak yang memilih konten rekomendasi seharusnya adalah pengguna, perusahaan yang merancang dan menjalankan sistem wajib menanggung kewajiban mencegah bahaya, dan keluarga seharusnya tidak terus membayar harga keselamatan atas nama perusahaan teknologi global.