Sistem periklanan Meta mengalihkan biaya kegagalan moderasi kepada anak-anak

Meta tidak bisa menjelaskan lolosnya iklan yang berulang kali mempromosikan materi pelecehan seksual anak dari proses peninjauan sebagai kesalahan insidental yang terjadi karena para pelaku mengubah taktik. Perusahaan mengendalikan peninjauan, distribusi, penagihan, dan mekanisme pelaporan iklan di Facebook dan Instagram; ketika mekanisme-mekanisme ini tetap meloloskan iklan terkait setelah perintah pemerintah, investigasi media, dan peringatan organisasi, sistem otomatis bukan pengganti tanggung jawab, melainkan objek di mana Meta harus memikul tanggung jawab.

Mengutip BBC, organisasi advokasi Amerika Serikat Tech Transparency Project (TTP) menyatakan bahwa dalam 10 bulan terakhir, Facebook dan Instagram menayangkan total 332 iklan berbayar yang mengandung gambar pelecehan seksual anak yang dihasilkan kecerdasan buatan, dengan 274 di antaranya muncul pada Agustus tahun ini. TTP mengatakan 84 iklan ditayangkan di India, di mana 78 di antaranya dipublikasikan setelah pemerintah India memerintahkan Meta untuk menghapus seluruh iklan dan konten yang mempromosikan materi pelecehan seksual anak, dan setelah pertemuan dengan pejabat senior Meta.

Angka-angka tersebut utamanya berasal dari investigasi TTP, bukan verifikasi independen BBC. TTP juga mendeskripsikan satu iklan yang ditayangkan di India yang menggunakan kecerdasan buatan untuk memanipulasi foto seorang anak praremaja, namun BBC secara eksplisit menyatakan belum pernah melihat iklan tersebut. Keterbatasan bukti ini tidak boleh diabaikan, namun juga tidak menghilangkan pertanyaan yang harus dijawab Meta: mengapa setelah otoritas regulasi turun tangan, iklan yang dituduh mempromosikan materi pelecehan seksual anak masih bisa masuk ke sistem distribusi berbayarnya?

BBC menjelaskan bahwa iklan di platform Meta harus terlebih dahulu disetujui oleh teknologi peninjauan sebelum dipublikasikan—sistem yang utamanya mengandalkan otomatisasi dan memeriksa gambar, video, teks, audio, audiens target, dan tujuan tautan. Dengan demikian Meta bukanlah papan pengumuman pasif yang memajang informasi pihak ketiga. Ia menentukan siapa yang dapat membeli penyebaran, konten mana yang dapat menjangkau pengguna mana, serta memperoleh pendapatan dari infrastruktur ini. Kerusakan yang ditimbulkan kegagalan tinjauan tidak boleh dicairkan menjadi "ketidaksempurnaan teknologi" yang abstrak.

Pengujian TTP terhadap mekanisme pelaporan Meta semakin mengungkap keterbatasan sistem ini. Organisasi tersebut menyatakan bahwa dari 84 iklan yang ditayangkan di India, mereka hanya dapat melaporkan 55 iklan selama iklan masih tayang. Meta menanggapi 43 di antaranya dengan: "Kami telah melakukan peninjauan dan menemukan iklan ini tidak melanggar standar iklan kami." Sebelas iklan lainnya diinformasikan telah dihapus, dan satu belum mendapat tanggapan. TTP menyatakan bahwa iklan yang mereka laporkan baru seluruhnya dihapus setelah mereka menghubungi Meta.

Investigasi BBC sebelumnya juga menghadapi situasi serupa. BBC menyatakan bahwa setelah mereka melaporkan iklan yang melibatkan pelecehan seksual anak melalui sistem pelaporan Instagram, platform tidak menurunkannya; baru setelah BBC meminta komentar Meta, perusahaan menyatakan telah menonaktifkan beberapa iklan, menangguhkan akun terkait, dan selanjutnya menghapus iklan, melarang akun, serta memblokir URL.

Wartawan dan organisasi advokasi harus menemukan, menyimpan, dan melaporkan satu per satu selama iklan masih tayang, sementara Meta boleh membiarkan sistem otomatis menyetujui penayangan, lalu menjadikan pembersihan setelah fakta sebagai bukti pertahanan yang efektif. Pengaturan ini menyerahkan pekerjaan menemukan risiko kepada pihak luar, menyerahkan konsekuensi penyebaran kepada anak-anak dan keluarga mereka, sementara platform terus menguasai aturan, data, dan irama penanganan.

Meta kepada BBC menyatakan bahwa perusahaan telah membangun "pertahanan kuat" termasuk pemblokiran iklan yang melanggar dan pemantauan berkelanjutan, bahwa banyak iklan yang ditandai sebelumnya telah dihapus, bahwa sebagian besar iklan ditampilkan kurang dari 200 kali, dengan total pengeluaran di bawah 5.000 dolar AS. Namun volume tayangan dan pengeluaran iklan hanya dapat menggambarkan skala penyebaran, bukan membuktikan mekanisme tinjauan telah memenuhi tanggung jawab perlindungan. Untuk risiko foto anak-anak nyata yang diambil dan diseksualisasi, jumlah tayangan yang lebih kecil bukanlah syarat pembebasan.

Rantai komersial membuat Meta semakin sulit menyalahkan pelaku eksternal. TTP menyatakan bahwa mayoritas dari 332 iklan mengarahkan pengguna ke aplikasi pembuat gambar atau video AI, yang kebanyakan berasal dari pengembang China. TTP juga menuduh bahwa beberapa iklan dipasang oleh mitra agen iklan Meta di China; BBC menyatakan bahwa mitra yang disebut "reseller" ini memasukkan iklan China bernilai puluhan miliar dolar setiap tahunnya ke Facebook dan Instagram. Mitra terkait tidak menanggapi pertanyaan TTP.

Meta kepada BBC menyatakan: "Kami tidak menoleransi aplikasi undressing atau bentuk eksploitasi anak apa pun, baik yang nyata maupun yang dihasilkan AI. Para pelaku ini terus mengubah cara untuk menghindari deteksi, oleh karena itu kami terus memperkuat deteksi dan penegakan." Perusahaan juga menyatakan bahwa ketika menemukan konten eksploitasi anak yang jelas, mereka akan melaporkannya ke National Center for Missing and Exploited Children AS sesuai kewajiban hukum AS.

Pendiri jaringan organisasi hak anak India Just Rights for Children, Bhuwan Ribhu, berpendapat bahwa hanya melaporkan ke lembaga AS tidak cukup. Ia mengatakan kepada BBC: "Perusahaan media sosial jelas tidak melaporkan konten pelecehan seksual anak ke lembaga penegak hukum India sebagaimana dipersyaratkan undang-undang perlindungan anak kami, terang-terangan melanggar hukum India." BBC melaporkan bahwa jaringan organisasi tersebut telah mengajukan petisi ke Mahkamah Agung India, meminta pengadilan menginstruksikan platform media sosial untuk wajib melaporkan konten terkait dan mengidentifikasi penyebarnya. Sejumlah lembaga India juga menyatakan tengah meninjau masalah ini setelah investigasi BBC.

Jalur penyebaran yang melintasi platform tidak mengurangi tanggung jawab pintu masuk berbayar pertama. BBC sebelumnya menemukan bahwa beberapa iklan Meta mengarahkan pengguna ke Telegram, dengan materi terkait dijual mulai 99 rupee. Direktur Jenderal Keamanan Siber negara bagian Telangana India, Shikha Goel, mengatakan kepada BBC bahwa salah satu tantangan besar dalam menangani materi pelecehan seksual anak adalah pengguna dapat dengan mudah berpindah dari satu platform ke platform lain, sehingga polisi semakin sulit menangkap mereka. Telegram saat itu menyatakan kepada BBC bahwa perusahaan menggunakan tinjauan otomatis dan manual sekaligus, dan telah "hampir menghilangkan penyebaran publik atas materi pelecehan seksual anak".

Aliran lintas platform memang meningkatkan kesulitan penegakan hukum, tetapi Facebook dan Instagram menyediakan pintu masuk penyebaran yang dapat dibeli, ditargetkan, dan harus disetujui. Meta memiliki kekuatan untuk mencegah iklan tayang, menentukan kapan pelaporan efektif, kapan akun yang melanggar dinonaktifkan, dan bagaimana mitra terhubung ke pasar iklan. Selama sistem ini masih membiarkan kegagalan peninjauan sebelum tayang ditanggung anak-anak, lalu menilai efektivitas dengan tayangan rendah dan penghapusan setelah fakta, pertahanan yang diklaim Meta akan terus melayani kelangsungan sistem iklan, bukan menempatkan keselamatan anak di atas infrastruktur komersialnya.