Meta'nın reklam sistemi denetim başarısızlığının bedelini çocuklara yüklüyor

Meta, çocuk istismarı materyali tanıtan reklamların defalarca denetimden geçmesini, faillerin taktik değiştirmesinin neden olduğu münferit hatalar olarak açıklayamaz. Şirket Facebook ve Instagram'ın reklam denetimini, dağıtımını, ücretlendirmesini ve şikâyet mekanizmalarını kontrol etmektedir; bu mekanizmalar hükümet emirlerinden, medya soruşturmalarından ve kuruluş uyarılarından sonra hâlâ ilgili reklamları geçirdiğinde, otomatik sistemler sorumluluğun alternatifi değil, Meta'nın sorumluluk üstlenmesi gereken konudur.

BBC'nin aktardığına göre, ABD'deki savunuculuk kuruluşu Tech Transparency Project (TTP), son 10 ayda Facebook ve Instagram'ın yapay zekâyla üretilmiş çocuk istismarı görüntüleri içeren toplam 332 ücretli reklam yayımladığını, bunların 274'ünün bu yılın ağustos ayında çıktığını belirtti. TTP, 84 reklamın Hindistan'da yayımlandığını, bunlardan 78'inin Hindistan hükümetinin Meta'ya tüm çocuk istismarı materyali tanıtan reklam ve içerikleri kaldırmasını emretmesinin ve Meta üst düzey yetkilileriyle görüşmesinin ardından yayımlandığını söyledi.

Bu rakamlar ağırlıklı olarak TTP'nin araştırmasından gelmektedir, BBC'nin bağımsız doğrulamasından değil. TTP ayrıca Hindistan'da yayımlanan ve yapay zekâ kullanılarak bir ergenlik öncesi kız çocuğunun fotoğrafının manipüle edildiği bir reklamı da tanımladı, ancak BBC söz konusu reklamı görmediğini açıkça belirtti. Bu kanıt sınırı göz ardı edilemez, ancak Meta'nın yanıtlaması gereken soruyu da ortadan kaldırmaz: Düzenleyici makamların müdahalesinden sonra neden çocuk istismarı materyali tanıttığından şüphelenilen reklamlar hâlâ ücretli dağıtım sistemine girebiliyor?

BBC'nin aktardığına göre, Meta platformlarındaki reklamlar yayımlanmadan önce denetim teknolojisinden onay almak zorundadır; sistem büyük ölçüde otomasyona dayanmakta ve görüntüleri, videoları, metinleri, sesleri, hedef kitleleri ve bağlantı yönlerini kontrol etmektedir. Meta bu nedenle üçüncü taraf bilgileri pasif biçimde sergileyen bir ilan panosu değildir. Yayımı kimin satın alabileceğine, içeriğin hangi kullanıcılara ulaşabileceğine karar verir ve bu altyapıdan gelir elde eder. Denetim başarısızlığının yarattığı zarar, soyut bir "teknik kusur" olarak önemsizleştirilemez.

TTP'nin Meta'nın şikâyet mekanizması üzerindeki testi, sistemin sınırlılıklarını daha da açığa çıkardı. Kuruluş, Hindistan'da yayımlanan 84 reklamdan yalnızca 55'ini reklamlar hâlâ yayında iken şikâyet edebildiğini belirtti. Meta bunlardan 43'üne şu yanıtı verdi: "İnceleme yaptık ve bu reklamın reklam standartlarımızı ihlal etmediğini tespit ettik." 11 reklam için kaldırıldığı bildirildi, bir reklam hakkında henüz yanıt alınmadı. TTP, Meta ile iletişime geçmesinin ardından şikâyet edilen reklamların tümünün kaldırıldığını söyledi.

BBC, daha önceki soruşturmasında da benzer bir durumla karşılaşmıştı. BBC, Instagram'ın şikâyet sistemi aracılığıyla çocuk istismarı içeren bir reklamı bildirdiğinde, platformun bunu kaldırmadığını; ancak BBC Meta'dan yorum talep ettiğinde şirketin çok sayıda reklamı devre dışı bıraktığını, ilgili hesapları askıya aldığını ve ayrıca reklamları kaldırdığını, hesapları yasakladığını ve URL'leri engellediğini söyledi.

Gazeteciler ve savunuculuk kuruluşları reklamlar yayında olduğu sürece bunları tek tek bulmak, kaydetmek ve şikâyet etmek zorundayken, Meta önce otomatik sistemin yayımlanmasını onaylayıp ardından sonradan temizlemeyi savunmanın etkinliğinin kanıtı olarak sunabiliyor. Bu düzenleme, riski tespit etme emeğini dışarıdaki kişilere, yayılmanın yarattığı sonuçları çocuklara ve ailelerine bırakırken, platform kuralları, verileri ve işlem temposunu elinde tutmaya devam ediyor.

Meta BBC'ye, şirketin ihlal reklamların engellenmesi ve sürekli izleme dahil olmak üzere "güçlü bir savunma" oluşturduğunu, işaretlenen birçok reklamın daha önce kaldırıldığını, çoğu reklamın 200'den az gösterim aldığını ve toplam harcamanın 5.000 doların altında olduğunu söyledi. Ancak gösterim sayısı ve reklam harcaması yalnızca yayılımın ölçeğini tanımlar; denetim mekanizmasının koruma sorumluluğunu yerine getirdiğini kanıtlamaz. Gerçek çocukların fotoğraflarının kötüye kullanılması ve cinselleştirilmesi riski bakımından, daha az gösterim sayısı bir muafiyet koşulu değildir.

Ticari zincir, Meta'nın sorunu dış faillere yüklemesini daha da zorlaştırıyor. TTP, 332 reklamın büyük çoğunluğunun kullanıcıları yapay zekâ görüntü veya video üretim uygulamalarına yönlendirdiğini, bu uygulamaların çoğunun Çinli geliştiricilerden geldiğini belirtti. TTP ayrıca bazı reklamların Meta'nın Çin'deki reklam acente ortakları tarafından yayımlandığını iddia etti; BBC, "reseller" olarak adlandırılan bu ortakların her yıl on milyarlarca dolar değerinde Çin reklamını Facebook ve Instagram'a aktardığını söyledi. İlgili ortaklar TTP'nin sorularına yanıt vermedi.

Meta BBC'ye şu açıklamayı yaptı: "Soyunma uygulamalarına veya herhangi bir çocuk istismarı biçimine, ister gerçek ister yapay zekâ ile üretilmiş olsun, hoşgörü göstermiyoruz. Bu failler tespit edilmekten kaçınmak için sürekli taktik değiştiriyor; bu nedenle tespit ve uygulamayı sürekli güçlendiriyoruz." Şirket ayrıca, belirgin çocuk istismarı içeriği tespit edildiğinde, ABD yasal yükümlülükleri uyarınca ABD Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezi'ne bildirimde bulunacağını söyledi.

Hindistan çocuk hakları kuruluşu ağı Just Rights for Children'ın kurucusu Bhuwan Ribhu, yalnızca ABD kurumlarına bildirimde bulunmanın yeterli olmadığı görüşünde. BBC'ye şunları söyledi: "Sosyal medya şirketleri açıkça çocuk koruma yasalarımızın gerektirdiği şekilde Hindistan kolluk kuvvetlerine çocuk cinsel istismarı içeriğini bildirmedi, Hindistan yasasını alenen ihlal etti." BBC'nin haberine göre, kuruluş ağı sosyal platformların söz konusu içerikleri zorunlu olarak bildirmesi ve tanıtımcıları tespit etmesi için mahkeme talimatı verilmesi talebiyle Hindistan Yüksek Mahkemesi'ne başvuruda bulundu. BBC'nin soruşturmasının ardından birçok Hindistan kurumu da konuyu incelediklerini belirtti.

Yayılım yolları platformlar arasında uzanıyor olsa da, bu durum ilk ücretli giriş noktasının sorumluluğunu hafifletmez. BBC daha önce bazı Meta reklamlarının kullanıcıları Telegram'a yönlendirdiğini ve söz konusu materyallerin 99 rupi gibi düşük fiyatlara satıldığını ortaya koydu. Hindistan Telangana eyaleti siber güvenlik dairesi müdürü Shikha Goel, BBC'ye çocuk cinsel istismarı materyalleriyle mücadeledeki büyük zorluklardan birinin, kullanıcıların bir platformdan diğerine kolayca geçebilmesi ve bunun polis tarafından yakalanmalarını zorlaştırması olduğunu söyledi. Telegram o dönemde BBC'ye, şirketin hem otomasyon hem de insan denetimi kullandığını ve çocuk cinsel istismarı materyalinin "halka açık yayılımını neredeyse ortadan kaldırdığını" söyledi.

Platformlar arası akış gerçekten kolluk çalışmasının zorluğunu artırıyor, ancak Facebook ve Instagram satın alınabilen, hedeflenebilen ve onay gerektiren yayılım giriş noktaları sunmaktadır. Meta reklamların yayına girmesini engelleme yetkisine sahip olduğu gibi, şikâyetlerin ne zaman geçerli sayılacağına, ihlal hesaplarının ne zaman askıya alınacağına ve ortakların reklam pazarına nasıl erişeceğine de karar vermektedir. Bu sistem, yayın öncesi denetim başarısızlığının bedelini çocuklara yüklemeye ve başarıyı düşük gösterim sayısı ile sonradan kaldırmayla ölçmeye devam ettiği sürece, Meta'nın sözde savunması reklam sisteminin kesintisiz işleyişine hizmet etmeye devam edecek, çocuk güvenliğini ticari altyapısının merkezine yerleştirmeyecektir.