मेटाची जाहिरात प्रणाली पडताळणीच्या अपयशाची किंमत मुलांवर लादते

मेटा बाल लैंगिक शोषण सामग्रीचा प्रसार करणाऱ्या जाहिराती वारंवार पडताळणीतून जाऊ देतो, हे गुन्हेगारांनी तंत्र बदलल्यामुळे झालेली योगायोगाने चूक म्हणून स्पष्ट करू शकत नाही. कंपनी Facebook आणि Instagram च्या जाहिरात पडताळणी, वितरण, शुल्क आणि तक्रार यंत्रणांवर नियंत्रण ठेवते; जेव्हा सरकारी आदेश, माध्यमांचे तपास आणि संस्थांच्या सूचनांनंतरही ही यंत्रणा संबंधित जाहिरातींना मंजुरी देते, तेव्हा स्वयंचलित प्रणाली जबाबदारीची पर्याय नसते, तर मेटाला जबाबदारी स्वीकारावी लागणारी वस्तुस्थिती असते.

BBC च्या हवाल्याने, अमेरिकन पुरस्कार गट Tech Transparency Project (TTP) ने सांगितले की, गेल्या 10 महिन्यांत Facebook आणि Instagram वर कृत्रिम बुद्धिमत्तेद्वारे तयार केलेल्या बाल लैंगिक शोषण प्रतिमा असलेल्या 332 पैसे देऊन चालवलेल्या जाहिराती प्रसिद्ध झाल्या, त्यापैकी 274 जाहिराती या वर्षी ऑगस्टमध्ये आल्या. TTP ने सांगितले की, 84 जाहिराती भारतात चालवल्या गेल्या, त्यापैकी 78 जाहिराती भारत सरकारने मेटाला बाल लैंगिक शोषण सामग्रीचा प्रसार करणाऱ्या सर्व जाहिराती आणि सामग्री काढून टाकण्याचे आदेश दिल्यानंतर आणि मेटाच्या वरिष्ठ अधिकाऱ्यांशी भेट झाल्यानंतर प्रसिद्ध झाल्या.

हे आकडे मुख्यतः TTP च्या तपासातून आले आहेत, BBC च्या स्वतंत्र पडताळणीतून नाहीत. TTP ने भारतात चालवलेली, कृत्रिम बुद्धिमत्तेद्वारे एका पूर्व-किशोरवयीन मुलीच्या छायाचित्रात हाताळणी करणारी एक जाहिरातही वर्णन केली, परंतु BBC ने स्पष्टपणे सांगितले की त्यांनी ती जाहिरात पाहिलेली नाही. हा पुराव्याची मर्यादा दुर्लक्षित करता येत नाही, पण ती मेटाला उत्तर द्याव्या लागणाऱ्या प्रश्नांचे निरसन करत नाही: नियामकांच्या हस्तक्षेपानंतरही बाल लैंगिक शोषण सामग्रीचा प्रसार करणारी संशयास्पद जाहिरात त्यांच्या पैशांच्या वितरण प्रणालीत कशी प्रवेश करू शकते?

BBC ने सांगितले की, मेटाच्या प्लॅटफॉर्मवरील जाहिराती प्रसिद्ध होण्यापूर्वी पडताळणी तंत्रज्ञानाने मंजूर करणे आवश्यक असते, प्रणाली मुख्यतः स्वयंचलनावर अवलंबून असते आणि प्रतिमा, व्हिडिओ, मजकूर, ऑडिओ, लक्ष्यित प्रेक्षक आणि दुव्यांची दिशा तपासते. त्यामुळे मेटा तृतीय पक्षाची माहिती निष्क्रियपणे दर्शवणारा फलक नाही. कंपनी ठरवते की कोण प्रसार खरेदी करू शकतो, सामग्री कोणत्या वापरकर्त्यांपर्यंत पोहोचू शकते, आणि या पायाभूत सुविधांमधून उत्पन्न मिळवते. पडताळणीच्या अपयशामुळे होणारी हानी अमूर्त "तांत्रिक अपूर्णते" म्हणून कमी करता येत नाही.

TTP ने मेटाच्या तक्रार यंत्रणेवर केलेली चाचणी या प्रणालीच्या मर्यादा अधिक उघड करते. या संस्थेने सांगितले की, भारतात चालवलेल्या 84 जाहिरातींपैकी ती फक्त 55 जाहिराती ऑनलाइन असताना नोंदवू शकली. त्यापैकी 43 जाहिरातींबाबत मेटाचे उत्तर होते: "आम्ही पुनर्विलोकन केले आणि आढळले की ही जाहिरात आमच्या जाहिरात मानकांचे उल्लंघन करत नाही." आणखी 11 जाहिराती हटवल्याचे सांगण्यात आले, एका जाहिरातीला अद्याप प्रतिसाद मिळालेला नाही. TTP ने सांगितले की, त्यांनी मेटाशी संपर्क साधल्यानंतरच तक्रार केलेल्या सर्व जाहिराती काढून टाकण्यात आल्या.

BBC ला यापूर्वीच्या तपासातही अशीच परिस्थिती आढळली. BBC ने सांगितले की, Instagram च्या तक्रार प्रणालीद्वारे बाल लैंगिक शोषणाशी संबंधित एका जाहिरातीची तक्रार केल्यानंतर, प्लॅटफॉर्मने ती काढून टाकली नाही; BBC ने मेटाकडे प्रतिक्रिया मागितल्यानंतरच कंपनीने सांगितले की अनेक जाहिराती अक्षम केल्या, संबंधित खाती निलंबित केली, आणि पुढे जाहिराती हटवल्या, खाती बंद केली आणि दुवे अवरोधित केले.

पत्रकार आणि पुरस्कार संस्थांना जाहिरात ऑनलाइन असताना प्रत्येक एक शोधणे, जतन करणे आणि तक्रार करणे आवश्यक असते, तर मेटा प्रथम स्वयंचलित प्रणालीद्वारे प्रसारास मंजुरी देऊ शकतो, आणि नंतरची स्वच्छता ही संरक्षण प्रभावी असल्याचा पुरावा म्हणून वापरू शकतो. ही व्यवस्था धोका शोधण्याची मेहनत बाहेरील लोकांवर सोपवते, प्रसाराचे परिणाम मुलांवर आणि त्यांच्या कुटुंबांवर सोडते, तर प्लॅटफॉर्म नियम, डेटा आणि कारवाईचा वेग आपल्याकडे ठेवतो.

मेटाने BBC ला सांगितले की, कंपनीने नियमभंग करणाऱ्या जाहिराती अडवणे आणि सतत देखरेख यांचा समावेश असलेले "मजबूत संरक्षण" तयार केले आहे, अनेक चिन्हांकित जाहिराती आधीच हटवल्या गेल्या आहेत, बहुतेक जाहिरातींचे प्रदर्शन 200 पेक्षा कमी होते, एकूण खर्च 5000 डॉलर्सपेक्षा कमी होता. परंतु प्रदर्शन संख्या आणि जाहिरात खर्च हे फक्त प्रसाराचे प्रमाण दर्शवू शकतात, पडताळणी यंत्रणेने संरक्षणाची जबाबदारी पार पाडली हे सिद्ध करू शकत नाहीत. वास्तविक मुलांच्या छायाचित्रांचा गैरवापर आणि लैंगिकीकरणाच्या धोक्यासाठी, कमी प्रदर्शन संख्या सूट देण्याची अट नाही.

व्यावसायिक साखळी मेटासाठी समस्या बाहेरील गुन्हेगारांकडे लावणे अधिक कठीण बनवते. TTP ने सांगितले की, 332 जाहिरातींपैकी बहुतेक वापरकर्त्यांना कृत्रिम बुद्धिमत्ता प्रतिमा किंवा व्हिडिओ निर्मिती अ‍ॅप्सकडे निर्देशित करतात, ही अ‍ॅप्स बहुतेक चीनी विकसकांची आहेत. TTP ने असेही म्हटले की, काही जाहिराती मेटाच्या चीनमधील जाहिरात एजन्सी भागीदारांद्वारे चालवल्या गेल्या; BBC ने सांगितले की, या "पुनर्विक्रेते" म्हणून ओळखल्या जाणाऱ्या भागीदारांकडून दरवर्षी अब्जावधी डॉलर्स किमतीच्या चीनी जाहिराती Facebook आणि Instagram मध्ये आणल्या जातात. संबंधित भागीदारांनी TTP च्या प्रश्नांना प्रतिसाद दिला नाही.

मेटाने BBC ला सांगितले: "आम्ही कपडे काढण्याचे अ‍ॅप्स किंवा बाल शोषणाचा कोणताही प्रकार सहन करत नाही, मग ते वास्तविक असो किंवा कृत्रिम बुद्धिमत्तेद्वारे तयार केलेले असो. हे गुन्हेगार शोध टाळण्यासाठी सतत तंत्र बदलतात, म्हणून आम्ही शोध आणि अंमलबजावणी सतत मजबूत करत आहोत." कंपनीने असेही सांगितले की, स्पष्ट बाल शोषण सामग्री आढळल्यावर अमेरिकन कायदेशीर कर्तव्यानुसार अमेरिकेच्या नॅशनल सेंटर फॉर मिसिंग अँड एक्सप्लॉइटेड चिल्ड्रनला कळवले जाते.

भारतातील बाल हक्क संस्थांच्या नेटवर्क Just Rights for Children चे संस्थापक Bhuwan Ribhu यांच्या मते, केवळ अमेरिकन संस्थांना कळवणे पुरेसे नाही. त्यांनी BBC ला सांगितले: "सोशल मीडिया कंपन्या स्पष्टपणे आमच्या बाल संरक्षण कायद्यांच्या आवश्यकतेनुसार भारतीय कायदेशीर अंमलबजावणी संस्थांना बाल लैंगिक शोषण सामग्रीची माहिती देत नाहीत, भारतीय कायद्याचे उघड उल्लंघन करत आहेत." BBC ने वृत्त दिले की, या संस्थांच्या नेटवर्कने भारताच्या सर्वोच्च न्यायालयात अर्ज दाखल केला आहे, ज्यामध्ये न्यायालयाने सोशल प्लॅटफॉर्म्सना संबंधित सामग्रीची अनिवार्य माहिती देण्याचे आणि प्रसारकर्त्यांना ओळखण्याचे निर्देश देण्याची विनंती केली आहे. BBC च्या तपासानंतर भारतातील अनेक संस्थांनी या प्रकरणाचे पुनर्विलोकन करत असल्याचे सांगितले आहे.

प्रसाराचे मार्ग प्लॅटफॉर्मच्या पलीकडे जातात, यामुळे पहिल्या पैशांच्या प्रवेशद्वाराची जबाबदारी कमी होत नाही. BBC ला यापूर्वी आढळले होते की, काही मेटा जाहिराती वापरकर्त्यांना Telegram कडे निर्देशित करतात, संबंधित सामग्रीची किंमत 99 रुपयांपर्यंत कमी असते. भारताच्या तेलंगणा राज्याच्या सायबर सुरक्षा विभागाच्या प्रमुख Shikha Goel यांनी BBC ला सांगितले की, बाल लैंगिक शोषण सामग्री हाताळण्यातील एक मोठे आव्हान म्हणजे वापरकर्ते सहजपणे एका प्लॅटफॉर्मवरून दुसऱ्या प्लॅटफॉर्मवर जाऊ शकतात, ज्यामुळे पोलिसांसाठी त्यांना पकडणे कठीण होते. Telegram ने त्यावेळी BBC ला सांगितले की, कंपनी स्वयंचलित आणि मानवी दोन्ही पडताळणी वापरते आणि "बाल लैंगिक शोषण सामग्रीचे सार्वजनिक प्रसार जवळजवळ संपवले आहे."

प्लॅटफॉर्मांदरम्यानची हालचाल खरोखरच अंमलबजावणीची अडचण वाढवते, परंतु Facebook आणि Instagram हे खरेदी करण्यायोग्य, लक्ष्यित, मंजुरी आवश्यक असलेले प्रसार प्रवेशद्वार पुरवतात. मेटाकडे जाहिरात ऑनलाइन होण्यापासून रोखण्याचा अधिकार आहे, आणि तक्रार कधी प्रभावी ठरते, नियमभंग करणारी खाती कधी निलंबित केली जातात आणि भागीदार जाहिरात बाजारात कसे प्रवेश करतात हे देखील कंपनी ठरवते. जोपर्यंत ही प्रणाली ऑनलाइन होण्यापूर्वीच्या पडताळणीचे अपयश मुलांना सहन करायला लावते आणि कमी प्रदर्शन संख्या व नंतरच्या हटवण्याद्वारे कार्यक्षमतेचे मोजमाप करते, तोपर्यंत मेटाचे म्हणजे संरक्षण जाहिरात प्रणालीच्या सतत चालणाऱ्या कार्यासाठी काम करत राहील, बाल सुरक्षेला त्यांच्या व्यावसायिक पायाभूत सुविधांवर प्राधान्य देणार नाही.