سیستم تبلیغاتی متا، هزینهٔ شکست در بازبینی را بر گردن کودکان میاندازد
بیبیسی با استناد به تحقیق سازمان حمایتی آمریکایی «پروژه شفافیت فناوری» گزارش داد که پس از آنکه دولت هند دستور حذف محتوای مربوطه را صادر کرد و با مقامات ارشد متا دیدار کرد، فیسبوک و اینستاگرام همچنان به انتشار تبلیغات پولی برای ترویج مواد سوءاستفاده جنسی از کودکان ادامه دادند. متا کنترل دسترسی، توزیع، هزینهها و سازوکار گزارشدهی تبلیغات را در دست دارد، اما عمدتاً بر پاکسازی پسینی برای مقابله با آسیب تکیه میکند؛ این نظام تجاری با توازن نامتعادل قدرت و مسئولیت، خود هستهٔ مسئله است.
متا نمیتواند تکرار تأیید تبلیغات ترویجکنندهٔ مواد سوءاستفاده جنسی از کودکان را بهعنوان خطای موردی ناشی از تغییر شیوهٔ مجرمان توضیح دهد. این شرکت بر بازبینی، توزیع، هزینهها و سازوکار گزارشدهی تبلیغات در فیسبوک و اینستاگرام کنترل دارد؛ زمانی که این سازوکارها پس از دستورهای دولتی، تحقیقات رسانهای و هشدارهای سازمانها همچنان اجازهٔ عبور تبلیغات مربوطه را میدهند، سیستم خودکار جایگزین مسئولیت نیست، بلکه موضوعی است که متا باید در قبال آن پاسخگو باشد.
به نقل از بیبیسی، سازمان حمایتی آمریکایی «پروژه شفافیت فناوری» (TTP) اعلام کرد که در ده ماه گذشته، فیسبوک و اینستاگرام در مجموع ۳۳۲ تبلیغ پولی حاوی تصاویر تولیدشده توسط هوش مصنوعی از سوءاستفاده جنسی از کودکان منتشر کردهاند که ۲۷۴ مورد از آنها در ماه اوت امسال ظاهر شده است. به گفتهٔ TTP، ۸۴ تبلیغ در هند منتشر شده که ۷۸ مورد آن پس از آنکه دولت هند به متا دستور داد تمامی تبلیغات و محتوای ترویجکنندهٔ مواد سوءاستفاده جنسی از کودکان را حذف کند و با مقامات ارشد متا دیدار کرد، منتشر شدهاند.
این ارقام عمدتاً از تحقیق TTP نشأت میگیرد و توسط بیبیسی بهطور مستقل راستیآزمایی نشده است. TTP همچنین یک تبلیغ منتشرشده در هند را توصیف کرده که در آن عکس دختری پیشنوجوان با استفاده از هوش مصنوعی دستکاری شده بود، اما بیبیسی بهصراحت اعلام کرده است که آن تبلیغ را مشاهده نکرده است. این محدودیت شواهد نباید نادیده گرفته شود، اما پرسشهایی را که متا باید پاسخ دهد نیز از میان نمیبرد: چرا پس از ورود نهادهای نظارتی، تبلیغاتی که مظنون به ترویج مواد سوءاستفاده جنسی از کودکان هستند همچنان توانستهاند به سیستم توزیع پولی آن راه یابند؟
به گزارش بیبیسی، تبلیغات در پلتفرمهای متا باید پیش از انتشار، ابتدا توسط فناوری بازبینی تأیید شوند؛ این سیستم عمدتاً به خودکارسازی متکی است و تصاویر، ویدئوها، متن، صدا، مخاطبان هدف و مقصد پیوندها را بررسی میکند. ازاینرو متا یک تابلوی اعلانات غیرفعال برای نمایش اطلاعات شخص ثالث نیست. این شرکت تصمیم میگیرد چه کسی حق خرید انتشار را داشته باشد، محتوا به کدام کاربران برسد و از همین زیرساخت درآمد کسب میکند. آسیب ناشی از شکست بازبینی را نمیتوان بهعنوان یک «ناکامل بودن فنی» انتزاعی رقیق کرد.
آزمایش TTP از سازوکار گزارشدهی متا محدودیتهای این سیستم را بیشتر آشکار کرد. این سازمان اعلام کرد که از میان ۸۴ تبلیغ منتشرشده در هند، تنها توانسته است در مدتی که تبلیغات هنوز آنلاین بودند، ۵۵ مورد را گزارش کند. پاسخ متا به ۴۳ مورد از آنها این بود: «ما این تبلیغ را بررسی کردیم و دریافتیم که این تبلیغ استانداردهای تبلیغاتی ما را نقض نکرده است.» ۱۱ مورد دیگر به آنها اطلاع داده شد که حذف شدهاند و در مورد یک مورد هنوز پاسخی دریافت نشده است. به گفتهٔ TTP، تمامی تبلیغات گزارششده تنها پس از تماس این سازمان با متا حذف شدند.
بیبیسی پیشتر نیز در جریان تحقیقاتش با وضعیت مشابهی روبهرو شده بود. بیبیسی اعلام کرد که پس از گزارش یک تبلیغ مرتبط با سوءاستفاده جنسی از کودکان از طریق سیستم گزارشدهی اینستاگرام، پلتفرم آن را حذف نکرده است؛ این تبلیغ تنها زمانی از روی صفحه برداشته شد که بیبیسی از متا نظرخواهی کرد و این شرکت اعلام کرد که چندین تبلیغ را غیرفعال کرده، حسابهای مرتبط را به حالت تعلیق درآورده و همچنین تبلیغات را حذف، حسابها را مسدود و نشانیهای اینترنتی را بسته است.
روزنامهنگاران و سازمانهای حمایتی باید در مدتی که تبلیغات آنلاین هستند، هر کدام را یکییکی کشف، ذخیره و گزارش کنند، در حالی که متا میتواند ابتدا اجازه دهد سیستم خودکار انتشار را تأیید کند و سپس پاکسازی پسینی را بهعنوان مدرک اثربخشی دفاعی خود ارائه دهد. این ترتیب، بار کشف خطر را بر عهدهٔ افراد خارجی میگذارد و پیامدهای ناشی از انتشار را به کودکان و خانوادههایشان واگذار میکند، در حالی که پلتفرم همچنان بر قوانین، دادهها و روند رسیدگی تسلط دارد.
متا به بیبیسی گفته است که این شرکت «دفاعهای قدرتمندی» شامل مسدودسازی تبلیغات متخلف و نظارت مستمر ایجاد کرده است، بسیاری از تبلیغاتی که پرچمگذاری شدهاند پیشتر حذف شده بودند، و بیشتر تبلیغات کمتر از ۲۰۰ بار نمایش داده شدهاند و کل هزینهٔ آنها کمتر از ۵۰۰۰ دلار بوده است. اما تعداد نمایشها و هزینهٔ تبلیغات فقط مقیاس انتشار را توصیف میکند و اثبات نمیکند که سازوکار بازبینی مسئولیت حفاظتی خود را ایفا کرده است. در قبال خطر تصاحب و جنسیسازی عکسهای کودکان واقعی، تعداد نمایشهای کمتر، شرط رفع مسئولیت نیست.
زنجیرهٔ تجاری نسبت دادن مسئله به مجرمان خارجی را برای متا دشوارتر میکند. به گفتهٔ TTP، بخش عمدهٔ ۳۳۲ تبلیغ، کاربران را به سمت اپلیکیشنهای تولید تصویر یا ویدئو با هوش مصنوعی هدایت میکرده است که بیشتر آنها از توسعهدهندگان چینی بودهاند. TTP همچنین ادعا کرده است که برخی از تبلیغات توسط شرکای تبلیغاتی متا در چین منتشر شدهاند؛ به گزارش بیبیسی، این شرکا که «توزیعکنندگان مجدد» نامیده میشوند، سالانه میلیاردها دلار تبلیغات چینی را وارد فیسبوک و اینستاگرام میکنند. شرکای مربوطه به پرسشهای TTP پاسخ ندادهاند.
متا به بیبیسی گفت: «ما اپلیکیشنهای برهنهسازی یا هر شکلی از بهرهکشی از کودکان، چه واقعی و چه تولیدشده توسط هوش مصنوعی را تحمل نمیکنیم. این مجرمان بهطور مداوم شیوههای خود را تغییر میدهند تا از شناسایی بگریزند، بنابراین ما بهطور مستمر تشخیص و اجرای قانون را تقویت میکنیم.» این شرکت همچنین گفته است که در صورت کشف محتوای آشکار بهرهکشی از کودکان، طبق تکلیف قانونی آمریکا آن را به مرکز ملی کودکان گمشده و مورد بهرهکشی آمریکا گزارش میدهد.
بووان ریبو، بنیانگذار شبکهٔ سازمانهای حقوق کودک هند «Just Rights for Children»، معتقد است که تنها گزارش به نهاد آمریکایی کافی نیست. او به بیبیسی گفت: «شرکتهای شبکههای اجتماعی آشکارا محتوای سوءاستفاده جنسی از کودکان را طبق قوانین حفاظت از کودکان ما به نهادهای مجری قانون هند گزارش ندادهاند و بهطور آشکار قوانین هند را نقض کردهاند.» به گزارش بیبیسی، این شبکهٔ سازمانی دادخواستی را به دیوان عالی هند ارائه کرده و خواستار آن شده است که دادگاه به پلتفرمهای اجتماعی دستور دهد محتوای مربوطه را بهطور اجباری گزارش دهند و ترویجکنندگان آن را شناسایی کنند. چندین نهاد هندی نیز پس از تحقیق بیبیسی اعلام کردهاند که در حال بررسی این موضوع هستند.
مسیر انتشار از پلتفرمی به پلتفرم دیگر میگذرد، اما این امر از مسئولیت نخستین درگاه پولی نمیکاهد. بیبیسی پیشتر دریافته بود که برخی از تبلیغات متا کاربران را به تلگرام هدایت میکنند و مواد مرتبط با قیمتی تا ۹۹ روپیه به فروش میرسد. شیکا گوئل، رئیس ادارهٔ امنیت سایبری ایالت تلنگانای هند، به بیبیسی گفت که یکی از چالشهای بزرگ در رسیدگی به مواد سوءاستفاده جنسی از کودکان این است که کاربران بهراحتی میتوانند از یک پلتفرم به پلتفرم دیگر منتقل شوند و این امر دستگیری آنها را برای پلیس دشوارتر میکند. تلگرام در آن زمان به بیبیسی گفت که این شرکت بهطور همزمان از بازبینی خودکار و انسانی استفاده میکند و «تقریباً انتشار عمومی مواد سوءاستفاده جنسی از کودکان را از بین برده است».
جریان میانپلتفرمی واقعاً دشواریهایی را برای مجریان قانون افزایش میدهد، اما فیسبوک و اینستاگرام درگاه انتشاری قابل خریداری، هدفگذاریشده و نیازمند تأیید را فراهم میکنند. متا از قدرت جلوگیری از انتشار تبلیغات برخوردار است و همچنین تعیین میکند که گزارشها چه زمانی مؤثر باشند، حسابهای متخلف چه زمانی به حالت تعلیق درآیند و شرکا چگونه به بازار تبلیغات متصل شوند. تا زمانی که این سیستم همچنان شکستهای پیش از انتشار را به کودکان تحمیل میکند و سپس اثربخشی را با تعداد نمایش کم و حذفهای پسینی میسنجد، دفاعیاتی که متا ادعا میکند همچنان در خدمت تداوم کارکرد سیستم تبلیغاتی است، نه در خدمت قرار دادن ایمنی کودکان در رأس زیرساخت تجاری آن.
هنوز دیدگاهی نیست. گفتوگو را آغاز کنید.