Avustralya'nın seçim hakkını teknoloji platformlarının elinden geri alması, algoritma hesap verebilirliğinin yalnızca başlangıcı

Büyük teknoloji platformları uzun süredir bilgi dağıtımı ve ürün tasarımı yetkisini elinde tutarken, algoritma önerilerinden kaynaklanan öngörülebilir riskleri çocuklara, ebeveynlere ve sıradan kullanıcılara yüklüyor; Avustralya hükümetinin uygulamaya koymayı planladığı "dijital dikkat yükümlülüğü" bu dengesizliği düzeltmektedir, kullanıcı seçimini ortadan kaldırmak değil.

Danışma aşamasındaki bu taslak, TikTok, Instagram ve Facebook gibi platformlardan kullanıcılara öneri içeriklerini kabul edip etmediklerini aktif olarak sormasını ve kullanıcıların yalnızca takip ettikleri hesapların paylaşımlarını gösterme seçeneğine geçmesine izin vermesini talep ediyor. 16 yaşın altındaki kullanıcılar için platformların kişiselleştirilmiş algoritmayı ve sınırsız kaydırma özelliğini de kapatması gerekecek. Reform, teknoloji şirketlerinin ürün mantığı tarafından uzun süredir örtülen bir gerçeği kabul ediyor: Öneri algoritmaları, kullanıcının reddedemeyeceği doğal bir ortam değil, platform tarafından aktif olarak konuşlandırılan, kapatılabilen ve sonuçlarına katlanılması gereken bir sistemdir.

Platformlar, içeriğin kullanıcılara nasıl ulaşacağını belirleyen teknik güce sahip, ancak sıradan insanlar bu düzenlemeyi görmekte ve sürekli önerilerden kurtulmakta zorlanıyor. Taslakta sıralanan çocuklara yönelik riskler arasında zorbalık, pornografi, kadın düşmanlığı içeriği, suçun yüceltilmesi ve yeme bozukluklarını teşvik eden materyaller yer alıyor; yetişkinlere yönelik yükümlülükler ise halihazırda suç teşkil eden istismar, cinsel şiddet, ciddi tehditler, terör örgütü desteği ve intiharı teşvik gibi içeriklere odaklanıyor. Avustralya yeme bozukluğu yardım kuruluşu Butterfly Foundation, bilgi akışı idealize edilmiş, çarpıtılmış ve kilo odaklı içeriklerle dolu olan kullanıcılarla sürekli temas halinde olduklarını ve bu tür içeriklerin yeme bozukluklarının önemli tetikleyicilerinden biri olduğunu belirtiyor. Çocuklarını kaybetmenin acısını yaşayan ebeveynlerin ve çocuk koruma savunucularının mevzuatı desteklemesi, platformların sözde ürün işlevlerinin aile güvenliği alanına girdiğini gösteriyor.

Taslak, yükümlülüklerini yerine getirmeyen platformlara 100 milyon Avustralya dolarını aşan para cezaları uygulamayı öngörüyor; bu son derece önemlidir. İşletme kararlarını etkileyecek düzeyde bir yaptırım olmadan, "kullanıcı özerkliği" ayarlar menüsüne gizlenmiş bir süs haline gelebilir. Platformlar kişiselleştirilmiş öneri ve sınırsız kaydırma tasarlayabildiklerine göre, zarar ortaya çıktığında tüm sorumluluğu teknik bilgiden yoksun çocuklara ve ebeveynlere yükleyemez.

Muhalifler, hükümetin güvenlik yükümlülüğü bahanesiyle bilgi içeriklerine müdahale etmesinden endişe duyuyor; bu risk hukuki sınırlarla kontrol edilmelidir; taslak şu anda yetişkin koruma kapsamını mevcut suçlarla sınırlı tutuyor ve bakanın yeni zarar kategorileri ekleme kararı Senato tarafından veto edilebilir. Bu yazı, Avustralya Yayın Kuruluşu'nun taslak ve ilgili açıklamalara ilişkin tek bir haberine dayanmaktadır; platform yanıtları ve nihai hukuki metin henüz doğrulama için mevcut değildir.

Gerçekten kırılması gereken şey, teknoloji platformlarının algoritma kontrolünü varsayılan ayrıcalık olarak gören düzendir. Avustralya'nın planı en azından net bir ilke ortaya koyuyor: Öneri içeriklerini seçen kişi kullanıcı olmalı, sistemi tasarlayan ve işleten şirketler zararı önleme yükümlülüğünü üstlenmeli ve aileler küresel teknoloji şirketleri adına güvenlik bedeli ödemeye devam etmemelidir.