Sistem pengiklanan Meta memindahkan kos kegagalan semakan kepada kanak-kanak

Meta tidak boleh menjelaskan kelulusan berulang kali terhadap iklan yang mempromosikan bahan penderaan seksual kanak-kanak sebagai kesilapan terpencil akibat penjenayah yang menukar taktik. Syarikat ini mengawal mekanisme semakan, pengagihan, caj dan pelaporan iklan Facebook dan Instagram; apabila mekanisme ini terus membiarkan iklan berkaitan lolos selepas arahan kerajaan, siasatan media dan amaran organisasi, sistem automatik bukan pengganti tanggungjawab, tetapi entiti yang mesti dipertanggungjawabkan oleh Meta.

Menurut BBC, organisasi advokasi Amerika Syarikat, Tech Transparency Project (TTP), mendakwa bahawa dalam tempoh 10 bulan yang lalu, Facebook dan Instagram telah bersama-sama menerbitkan 332 iklan berbayar yang mengandungi imej penderaan seksual kanak-kanak yang dijana oleh kecerdasan buatan, dengan 274 daripadanya muncul pada bulan Ogos tahun ini. TTP mendakwa bahawa 84 iklan disiarkan di India, di mana 78 daripadanya diterbitkan selepas kerajaan India mengarahkan Meta supaya membuang semua iklan dan kandungan yang mempromosikan bahan penderaan seksual kanak-kanak, dan selepas pertemuan dengan pegawai kanan Meta.

Angka-angka ini sebahagian besarnya berasal daripada siasatan TTP, dan bukan verifikasi bebas oleh BBC. TTP juga menggambarkan satu iklan yang disiarkan di India, yang menggunakan kecerdasan buatan untuk memanipulasi foto seorang gadis pra-remaja, tetapi BBC dengan jelas menyatakan bahawa ia tidak melihat iklan tersebut. Had bukti ini tidak boleh diabaikan, namun ia juga tidak menghapuskan persoalan yang perlu dijawab oleh Meta: mengapa selepas campur tangan pihak pengawal selia, iklan yang disyaki mempromosikan bahan penderaan seksual kanak-kanak masih boleh memasuki sistem pengagihan berbayarnya?

BBC memperkenalkan bahawa iklan di platform Meta mesti terlebih dahulu diluluskan oleh teknologi semakan sebelum diterbitkan, sistem ini bergantung terutamanya pada automasi, dan menyemak imej, video, teks, audio, khalayak sasaran dan destinasi pautan. Oleh itu, Meta bukan papan notis pasif yang memaparkan maklumat pihak ketiga. Ia menentukan siapa yang boleh membeli penyebaran, khalayak yang boleh dicapai oleh kandungan, dan memperoleh pendapatan daripada infrastruktur ini. Kemudaratan yang disebabkan oleh kegagalan semakan tidak boleh dicairkan menjadi "ketidaksempurnaan teknikal" yang abstrak.

Ujian TTP terhadap mekanisme pelaporan Meta selanjutnya mendedahkan batasan sistem ini. Organisasi itu mendakwa bahawa daripada 84 iklan yang disiarkan di India, ia hanya dapat melaporkan 55 iklan semasa iklan tersebut masih dalam talian. Meta menjawab 43 daripadanya dengan: "Kami telah menjalankan semakan dan mendapati iklan ini tidak melanggar piawaian iklan kami." Sebelas lagi diberitahu telah dipadamkan, dan satu lagi belum menerima maklum balas. TTP mendakwa bahawa hanya selepas ia menghubungi Meta, semua iklan yang dilaporkan telah dialihkan.

BBC juga menghadapi situasi serupa dalam siasatan sebelumnya. BBC mendakwa bahawa selepas ia melaporkan satu iklan yang melibatkan penderaan seksual kanak-kanak melalui sistem pelaporan Instagram, platform itu tidak menurunkannya; hanya selepas BBC meminta komen Meta, syarikat itu menyatakan bahawa ia telah melumpuhkan beberapa iklan, menggantung akaun berkaitan, serta selanjutnya memadam iklan, menyekat akaun dan menapis alamat web.

Wartawan dan organisasi advokasi mesti mencari, menyimpan dan melaporkan satu demi satu semasa iklan masih dalam talian, namun Meta boleh terlebih dahulu membenarkan sistem automatik meluluskan penyiaran, kemudian menggunakan pembersihan selepas fakta sebagai bukti pertahanan yang berkesan. Susunan ini menyerahkan buruh penemuan risiko kepada pihak luar, meninggalkan akibat penyebaran kepada kanak-kanak dan keluarga mereka, manakala platform terus menguasai peraturan, data dan rentang tindakan.

Meta memberitahu BBC bahawa syarikat itu telah menubuhkan "pertahanan yang mantap" termasuk pengepungan iklan yang melanggar peraturan dan pemantauan berterusan, banyak iklan yang ditanda telah dipadamkan sebelum ini, majoriti iklan mempunyai kurang daripada 200 tayangan, dengan perbelanjaan keseluruhan di bawah 5,000 dolar AS. Tetapi bilangan tontonan dan perbelanjaan iklan hanya boleh menggambarkan skala penyebaran, ia tidak boleh membuktikan mekanisme semakan telah menunaikan tanggungjawab perlindungan. Bagi risiko foto kanak-kanak sebenar yang diguna pakai dan diseksualkan, tontonan yang lebih rendah bukan syarat pengecualian.

Rantai komersial menyukarkan Meta untuk mengaitkan masalah dengan penjenayah luar. TTP mendakwa bahawa sebahagian besar daripada 332 iklan mengarahkan pengguna kepada aplikasi penjanaan imej atau video kecerdasan buatan, yang kebanyakannya berasal daripada pembangun China. TTP juga menuduh bahawa beberapa iklan disiarkan oleh rakan kongsi agensi pengiklanan Meta di China; BBC mendakwa bahawa rakan kongsi ini, yang dikenali sebagai "penjual semula", setiap tahun memasukkan iklan China bernilai berbilion dolar ke dalam Facebook dan Instagram. Rakan kongsi berkaitan tidak menjawab soalan TTP.

Meta memberitahu BBC: "Kami tidak bertoleransi aplikasi bogel atau sebarang bentuk eksploitasi kanak-kanak, sama ada sebenar atau dijana oleh kecerdasan buatan. Penjenayah ini sentiasa menukar taktik untuk mengelakkan pengesanan, oleh itu kami terus memperkukuh pengesanan dan penguatkuasaan." Syarikat itu juga mendakwa bahawa apabila kandungan eksploitasi kanak-kanak yang jelas ditemui, ia akan melaporkan kepada Pusat Kanak-kanak yang Hilang dan Dieksploitasi Amerika Syarikat mengikut kewajipan undang-undang AS.

Pengasas rangkaian organisasi hak kanak-kanak India, Just Rights for Children, Bhuwan Ribhu, berpendapat bahawa hanya melaporkan kepada agensi Amerika Syarikat tidak mencukupi. Beliau memberitahu BBC: "Syarikat media sosial jelas tidak melaporkan kandungan penderaan seksual kanak-kanak kepada agensi penguatkuasaan undang-undang India seperti yang dikehendaki oleh undang-undang perlindungan kanak-kanak kami, terang-terangan melanggar undang-undang India." BBC melaporkan bahawa rangkaian organisasi itu telah memfailkan permohonan kepada Mahkamah Agung India, meminta mahkamah mengarahkan platform sosial supaya wajib melaporkan kandungan berkaitan dan mengenal pasti penyebarnya. Pelbagai agensi India juga menyatakan sedang menyemak perkara ini selepas siasatan BBC.

Laluan penyebaran merentasi platform tidak mengurangkan tanggungjawab pintu masuk berbayar yang pertama. BBC sebelum ini mendapati bahawa beberapa iklan Meta mengarahkan pengguna ke Telegram, dengan bahan berkaitan dijual serendah 99 rupee. Ketua Pengarah Jabatan Keselamatan Siber negara bagian Telangana India, Shikha Goel, memberitahu BBC bahawa salah satu cabaran besar dalam mengendalikan bahan penderaan seksual kanak-kanak ialah pengguna boleh dengan mudah berpindah dari satu platform ke platform lain, menyukarkan polis untuk menangkap mereka. Telegram pada masa itu memberitahu BBC bahawa syarikat itu menggunakan kedua-dua semakan automatik dan manual, dan telah "hampir menghapuskan penyebaran awam bahan penderaan seksual kanak-kanak".

Aliran merentasi platform memang meningkatkan kesukaran penguatkuasaan, tetapi Facebook dan Instagram menyediakan pintu masuk penyebaran yang boleh dibeli, disasarkan dan mesti diluluskan. Meta mempunyai kuasa untuk menghalang iklan daripada disiarkan, dan juga menentukan bila laporan berkesan, bila akaun melanggar peraturan digantung, dan bagaimana rakan kongsi mengakses pasaran iklan. Selagi sistem ini masih membiarkan kanak-kanak menanggung kegagalan semakan sebelum penyiaran, kemudian mengukur keberkesanan dengan bilangan tontonan yang rendah dan pemadaman selepas fakta, apa yang Meta anggap sebagai pertahanan masih berkhidmat kepada operasi berterusan sistem pengiklanan, bukan meletakkan keselamatan kanak-kanak di atas infrastruktur komersialnya.