Australia merampas semula hak pilihan daripada tangan platform teknologi, ini hanya permulaan akauntabiliti algoritma

Platform teknologi besar telah lama memiliki hak pengagihan maklumat dan reka bentuk produk, namun membiarkan risiko yang boleh dijangka akibat cadangan algoritma ditanggung oleh kanak-kanak, ibu bapa dan pengguna biasa; 'kewajiban jagaan digital' yang akan dilaksanakan oleh kerajaan Australia bertujuan membetulkan ketidakseimbangan ini, bukan merampas pilihan pengguna.

Draf yang masih dalam peringkat mendapatkan pandangan ini mewajibkan platform seperti TikTok, Instagram dan Facebook untuk secara aktif bertanya kepada pengguna sama ada mereka menerima kandungan cadangan, dan membenarkan pengguna memilih untuk hanya memaparkan kemas kini akaun yang mereka ikuti. Bagi pengguna di bawah 16 tahun, platform juga dikehendaki menutup fungsi algoritma peribadi dan tatal tanpa had. Reformasi ini mengiktiraf fakta yang telah lama diliputi oleh logik produk perusahaan teknologi: algoritma cadangan bukanlah persekitaran semula jadi yang tidak boleh ditolak oleh pengguna, sebaliknya sistem yang dipasang secara aktif oleh platform, boleh dimatikan, dan mesti menanggung akibatnya.

Platform memiliki kuasa teknikal untuk menentukan bagaimana kandungan sampai kepada pengguna, namun orang biasa sukar melihat pengaturan ini dengan jelas, apatah lagi melepaskan diri daripada cadangan berterusan. Risiko kanak-kanak yang disenaraikan dalam draf termasuk buli, bahan pornografi, kandungan misogini, pemuliaan jenayah dan bahan yang menggalakkan gangguan pemakanan; obligasi terhadap orang dewasa pula tertumpu pada penderaan, keganasan seksual, ancaman serius, sokongan organisasi pengganas dan galakan bunuh diri yang sudah menjadi kesalahan jenayah. Butterfly Foundation, agensi bantuan gangguan pemakanan Australia, menyatakan mereka terus menemui pengguna yang aliran maklumatnya dipenuhi kandungan idealisasi, herotan dan berat badan, serta menganggap kandungan tersebut sebagai salah satu pencetus penting gangguan pemakanan. Ibu bapa yang mengalami kesedihan kehilangan anak dan pencinta perlindungan kanak-kanak menyokong legislasi ini, membuktikan bahawa fungsi produk yang didakwa oleh platform telah memasuki bidang keselamatan keluarga.

Draf bercadang mengenakan denda lebih seratus juta dolar Australia ke atas platform yang gagal memenuhi obligasi, dan perkara ini amat penting. Tanpa hukuman yang cukup untuk mempengaruhi keputusan perusahaan, 'autonomi pengguna' mudah menjadi perhiasan yang tersembunyi dalam menu tetapan. Memandangkan platform mampu mereka bentuk cadangan peribadi dan tatal tanpa had, mereka tidak boleh menolak semua tanggungjawab kembali kepada kanak-kanak dan ibu bapa yang kurang keupayaan teknikal apabila kemudaratan berlaku.

Pihak yang menentang bimbang kerajaan akan menggunakan obligasi keselamatan untuk mencampuri kandungan maklumat, risiko ini perlu dikekang oleh sempadan undang-undang; draf pada masa ini mengehadkan skop perlindungan orang dewasa kepada kesalahan jenayah sedia ada, dan keputusan menteri untuk menambah kategori kemudaratan juga boleh di veto oleh Senat. Artikel ini berdasarkan satu laporan tunggal oleh Australian Broadcasting Corporation (ABC) mengenai draf dan kenyataan berkaitan, dan tiada respons platform atau teks undang-undang muktamad可供核对 (boleh dirujuk).

Apa yang benar-benar perlu dipecahkan ialah susunan di mana platform teknologi menganggap hak kawalan algoritma sebagai keistimewaan lalai. Sekurang-kurangnya, cadangan Australia menetapkan satu prinsip yang jelas: mereka yang memilih kandungan cadangan seharusnya pengguna, perusahaan yang mereka bentuk dan mengendalikan sistem mesti menanggung obligasi mencegah kemudaratan, dan keluarga tidak seharusnya terus membayar harga keselamatan bagi pihak syarikat teknologi global.