मेटा का विज्ञापन तंत्र सत्यापन विफलता की कीमत बच्चों पर थोपता है

मेटा बच्चों की यौन शोषण सामग्री को बढ़ावा देने वाले विज्ञापनों की बार-बार स्वीकृति की व्याख्या अपराधियों द्वारा तरीके बदलने से होने वाली अनियमित गलतियों के रूप में नहीं दे सकता। कंपनी फेसबुक और इंस्टाग्राम पर विज्ञापन समीक्षा, वितरण, शुल्क और रिपोर्टिंग तंत्र को नियंत्रित करती है; जब ये तंत्र सरकारी आदेशों, मीडिया जांच और संगठनों की चेतावनियों के बाद भी संबंधित विज्ञापनों को पारित होने देते हैं, तो स्वचालन जिम्मेदारी का विकल्प नहीं है, बल्कि वह चीज़ है जिसके लिए मेटा को जवाबदेह ठहराया जाना चाहिए।

BBC की रिपोर्ट के अनुसार, अमेरिकी एडवोकेसी संगठन टेक ट्रांसपेरेंसी प्रोजेक्ट (TTP) ने बताया कि पिछले 10 महीनों में फेसबुक और इंस्टाग्राम ने कृत्रिम बुद्धिमत्ता द्वारा निर्मित बच्चों की यौन शोषण छवियों वाले 332 सशुल्क विज्ञापन प्रकाशित किए, जिनमें से 274 इस वर्ष अगस्त में प्रकाशित हुए। TTP ने बताया कि इनमें से 84 विज्ञापन भारत में चलाए गए, जिनमें 78 भारत सरकार द्वारा मेटा को बच्चों की यौन शोषण सामग्री को बढ़ावा देने वाले सभी विज्ञापन और सामग्री हटाने का आदेश देने और मेटा के वरिष्ठ अधिकारियों से मुलाकात करने के बाद प्रकाशित हुए।

ये संख्याएँ मुख्य रूप से TTP की जांच से आई हैं, BBC की स्वतंत्र पुष्टि नहीं। TTP ने भारत में चलाए गए एक ऐसे विज्ञापन का भी वर्णन किया जिसमें कृत्रिम बुद्धिमत्ता के माध्यम से एक किशोर लड़की की तस्वीर के साथ छेड़छाड़ की गई थी, लेकिन BBC ने स्पष्ट रूप से कहा कि उसने वह विज्ञापन नहीं देखा। इस साक्ष्य की सीमा को नजरअंदाज नहीं किया जा सकता, लेकिन यह मेटा से पूछे जाने वाले प्रश्नों को भी समाप्त नहीं करता: नियामक हस्तक्षेप के बाद भी बच्चों की यौन शोषण सामग्री को बढ़ावा देने के संदिग्ध विज्ञापन उसके सशुल्क वितरण तंत्र में क्यों प्रवेश करते रहे?

BBC ने बताया कि मेटा के प्लेटफार्मों पर विज्ञापनों को प्रकाशित होने से पहले समीक्षा तकनीक द्वारा अनुमोदित होना आवश्यक है, और यह प्रणाली मुख्य रूप से स्वचालित है, जो छवियों, वीडियो, पाठ, ऑडियो, लक्षित दर्शकों और लिंक गंतव्यों की जाँच करती है। इसलिए मेटा तीसरे पक्ष की जानकारी का निष्क्रिय रूप से प्रदर्शन करने वाला बुलेटिन बोर्ड नहीं है। यह तय करता है कि कौन प्रसार खरीद सकता है, सामग्री किन उपयोगकर्ताओं तक पहुँच सकती है, और इस बुनियादी ढाँचे से आय अर्जित करता है। समीक्षा की विफलता से उत्पन्न नुकसान को अमूर्त "तकनीकी अपूर्णता" के रूप में हल्का नहीं किया जा सकता।

TTP द्वारा मेटा की रिपोर्टिंग तंत्र की जाँच ने इस प्रणाली की सीमाओं को और उजागर किया। संगठन ने बताया कि भारत में चलाए गए 84 विज्ञापनों में से वह केवल 55 की रिपोर्ट तब तक कर सका जब तक वे ऑनलाइन थे। मेटा ने इनमें से 43 का उत्तर इस प्रकार दिया: "हमने समीक्षा की है और पाया है कि यह विज्ञापन हमारे विज्ञापन मानकों का उल्लंघन नहीं करता।" 11 को बताया गया कि वे हटा दिए गए हैं, और एक का अभी तक कोई उत्तर नहीं मिला। TTP ने बताया कि उसने मेटा से संपर्क करने के बाद ही सभी रिपोर्ट किए गए विज्ञापन हटाए गए।

BBC को भी पहले की जाँच में इसी प्रकार की स्थिति का सामना करना पड़ा। BBC ने बताया कि उसने इंस्टाग्राम की रिपोर्टिंग प्रणाली के माध्यम से बच्चों की यौन शोषण से जुड़े एक विज्ञापन की रिपोर्ट की, लेकिन प्लेटफार्म ने उसे हटाया नहीं; जब तक BBC ने मेटा से टिप्पणी नहीं माँगी, कंपनी ने नहीं बताया कि उसने कई विज्ञापन निष्क्रिय कर दिए हैं, संबंधित खाते निलंबित कर दिए हैं, और आगे विज्ञापन हटा दिए हैं, खाते प्रतिबंधित कर दिए हैं और URL अवरुद्ध कर दिए हैं।

पत्रकारों और एडवोकेसी संगठनों को विज्ञापनों को ऑनलाइन रहने के दौरान एक-एक करके खोजना, सहेजना और रिपोर्ट करना पड़ता है, जबकि मेटा पहले स्वचालित प्रणाली से प्रकाशन की स्वीकृति दे सकता है, और फिर बाद में सफाई को प्रभावी रक्षा के प्रमाण के रूप में प्रस्तुत कर सकता है। यह व्यवस्था जोखिम का पता लगाने का श्रम बाहरी लोगों पर डाल देती है, प्रसार के परिणाम बच्चों और उनके परिवारों पर छोड़ देती है, और प्लेटफार्म नियमों, आँकड़ों और निपटान की गति पर अपना नियंत्रण बनाए रखता है।

मेटा ने BBC को बताया कि कंपनी ने अनुपालन उल्लंघन वाले विज्ञापनों की रोकथाम और निरंतर निगरानी सहित "मजबूत रक्षा उपाय" स्थापित किए हैं, कई फ़्लैग किए गए विज्ञापन पहले ही हटाए जा चुके थे, अधिकांश विज्ञापनों को 200 से कम बार दिखाया गया, और कुल व्यय 5,000 डॉलर से कम था। लेकिन प्रदर्शन संख्या और विज्ञापन व्यय केवल प्रसार के पैमाने को बताते हैं, यह साबित नहीं करते कि समीक्षा तंत्र ने सुरक्षा की जिम्मेदारी निभाई। वास्तविक बच्चों की तस्वीरों के दुरुपयोग और यौनीकरण के जोखिम के लिए कम प्रदर्शन संख्या छूट का आधार नहीं है।

व्यावसायिक श्रृंखला मेटा के लिए समस्या को बाहरी अपराधियों का दोष बताना और कठिन बना देती है। TTP ने बताया कि 332 विज्ञापनों में से विशाल बहुमत उपयोगकर्ताओं को कृत्रिम बुद्धिमत्ता छवि या वीडियो निर्माण ऐप्स की ओर निर्देशित करता है, जो अधिकांशतः चीनी डेवलपर्स से हैं। TTP ने यह भी आरोप लगाया कि कुछ विज्ञापन मेटा के चीन में विज्ञापन एजेंसी साझेदारों द्वारा चलाए गए; BBC ने बताया कि इन "पुनर्विक्रेताओं" के रूप में जाने जाने वाले साझेदार प्रतिवर्ष अरबों डॉलर मूल्य के चीनी विज्ञापन फेसबुक और इंस्टाग्राम पर लाते हैं। संबंधित साझेदारों ने TTP के प्रश्नों का उत्तर नहीं दिया।

मेटा ने BBC को बताया: "हम नग्नता बनाने वाले ऐप्स या बच्चों के शोषण के किसी भी रूप को बर्दाश्त नहीं करते, चाहे वह वास्तविक हो या कृत्रिम बुद्धिमत्ता द्वारा निर्मित। ये अपराधी पहचान से बचने के लिए लगातार अपने तरीके बदलते रहते हैं, इसलिए हम पहचान और प्रवर्तन को लगातार मजबूत कर रहे हैं।" कंपनी ने यह भी कहा कि जब स्पष्ट बाल शोषण सामग्री मिलती है, तो वह अमेरिकी कानूनी दायित्वों के अनुसार अमेरिकी राष्ट्रीय गुमशुदा और शोषित बच्चों केंद्र (NCMEC) को रिपोर्ट करती है।

जस्ट राइट्स फॉर चिल्ड्रेन नेटवर्क के संस्थापक भुवन रिभु का मानना है कि केवल अमेरिकी एजेंसी को रिपोर्ट करना पर्याप्त नहीं है। उन्होंने BBC से कहा: "सोशल मीडिया कंपनियाँ स्पष्ट रूप से हमारे बाल संरक्षण कानूनों की आवश्यकताओं के अनुसार भारतीय कानून प्रवर्तन एजेंसियों को बच्चों की यौन शोषण सामग्री की रिपोर्ट नहीं कर रही हैं, जो भारतीय कानून का खुला उल्लंघन है।" BBC ने रिपोर्ट किया कि संगठन नेटवर्क ने भारत के सर्वोच्च न्यायालय में याचिका दायर की है, जिसमें अदालत से सोशल प्लेटफार्मों को संबंधित सामग्री की अनिवार्य रिपोर्टिंग और प्रचारकों की पहचान करने का निर्देश देने का अनुरोध किया गया है। BBC की जाँच के बाद भारत के कई एजेंसियों ने भी इस मामले की समीक्षा करने की बात कही है।

प्रसार का मार्ग प्लेटफार्मों को पार करता है, जो पहले सशुल्क प्रवेश बिंदु की जिम्मेदारी को कम नहीं करता। BBC ने पहले पाया था कि कुछ मेटा विज्ञापन उपयोगकर्ताओं को टेलीग्राम की ओर निर्देशित करते हैं, जहाँ संबंधित सामग्री 99 रुपये जितनी कम कीमत पर बेची जाती है। भारत के तेलंगाना राज्य साइबर सुरक्षा ब्यूरो की प्रमुख शिखा गोयल ने BBC को बताया कि बच्चों की यौन शोषण सामग्री से निपटने में एक बड़ी चुनौती यह है कि उपयोगकर्ता आसानी से एक प्लेटफार्म से दूसरे पर जा सकते हैं, जिससे पुलिस के लिए उन्हें पकड़ना कठिन हो जाता है। टेलीग्राम ने उस समय BBC को बताया था कि कंपनी स्वचालित और मानव समीक्षा दोनों का उपयोग करती है, और उसने "बच्चों की यौन शोषण सामग्री के सार्वजनिक प्रसार को लगभग समाप्त कर दिया है।"

प्लेटफार्मों के बीच प्रवाह वास्तव में कानून प्रवर्तन की कठिनाई को बढ़ाता है, लेकिन फेसबुक और इंस्टाग्राम एक ऐसा प्रवेश बिंदु प्रदान करते हैं जिसे खरीदा जा सकता है, लक्षित किया जा सकता है, और जिसके लिए अनुमोदन आवश्यक है। मेटा के पास विज्ञापनों को ऑनलाइन होने से रोकने की शक्ति है, और यह भी तय करता है कि रिपोर्ट कब प्रभावी होगी, उल्लंघन करने वाले खाते कब निलंबित किए जाएँगे, और साझेदार विज्ञापन बाज़ार तक कैसे पहुँचेंगे। जब तक यह प्रणाली प्रक्षेपण से पहले की समीक्षा विफलताओं को बच्चों पर छोड़ती रहेगी, और फिर कम प्रदर्शन संख्या तथा बाद में हटाने से प्रभावशीलता मापती रहेगी, मेटा का तथाकथित रक्षा तंत्र विज्ञापन प्रणाली के निरंतर संचालन की सेवा करता रहेगा, न कि बाल सुरक्षा को उसके व्यावसायिक बुनियादी ढाँचे के ऊपर रखेगा।