מערכת הפרסום של Meta מעבירה את מחיר כשלונות הבקרה אל הילדים

Meta אינה יכולה להסביר את העובדה שמודעות המקדמות חומרי התעללות מינית בילדים עוברות שוב ושוב את הבקרה כטעויות מקריות שנגרמות משינוי שיטותיהם של עבריינים. החברה שולטת במנגנוני הבקרה, ההפצה, החיוב והדיווח של הפרסום בפייסבוק ובאינסטגרם; כאשר מנגנונים אלו ממשיכים לאפשר העברת מודעות רלוונטיות גם לאחר צווים ממשלתיים, חקירות תקשורתיות והתרעות מצד ארגונים, המערכת האוטומטית אינה תחליף לאחריות, אלא האובייקט שעליו Meta חייבת לשאת באחריות.

לפי BBC, ארגון היוזמה האמריקאי Tech Transparency Project (TTP) מסר כי במהלך 10 החודשים האחרונים פייסבוק ואינסטגרם הציגו 332 מודעות בתשלום הכוללות תמונות של התעללות מינית בילדים שנוצרו באמצעות בינה מלאכותית, מתוכן 274 הופיעו באוגוסט השנה. לדברי TTP, 84 מודעות שווקו בהודו, מתוכן 78 פורסמו לאחר שממשלת הודו הורתה ל-Meta להסיר את כל המודעות והתכנים המקדמים חומרי התעללות מינית בילדים, ולאחר שנפגשה עם בכירי Meta.

המספרים הללו מקורם בעיקר בחקירת TTP, ולא באימות עצמאי של BBC. TTP תיארה גם מודעה ששווקה בהודו ועשתה שימוש בבינה מלאכותית כדי לעוות תמונה של ילדה טרום-התבגרותית, אך BBC הבהירה כי לא צפתה במודעה זו. מגבלת ראיות זו אינה יכולה להיעלם מן העין, אך היא גם אינה מבטלת את השאלות שעליהן Meta נדרשת להשיב: מדוע גם לאחר התערבות הרגולטורים, מודעות החשודות בקידום חומרי התעללות מינית בילדים עדיין מצליחות לחדור למערכת ההפצה בתשלום שלה?

BBC מסבירה כי מודעות בפלטפורמות של Meta חייבות לקבל אישור של טכנולוגיית הבקרה לפני פרסומן, והמערכת נשענת בעיקר על אוטומציה ובודקת תמונות, וידאו, טקסט, אודיו, קהלי יעד ויעדי קישורים. Meta אינה, אם כן, לוח מודעות המציג באופן פסיבי מידע של צדדים שלישיים. היא קובעת מי רשאי לרכוש הפצה, לאילו משתמשים התוכן יגיע, ומפיקה הכנסות מתשתית זו. הנזק שנגרם מכשל בבקרה אינו יכול להיות מדולל למושג מופשט של "שלמות טכנית לא מושלמת".

בדיקות מנגנון הדיווח של Meta שערכה TTP חשפו עוד יותר את מגבלות המערכת. הארגון מסר כי מתוך 84 המודעות ששווקו בהודו, הוא הצליח לדווח על 55 רק בזמן שהיו עדיין מקוונות. Meta השיבה לגבי 43 מהן: "ערכנו בדיקה וגילינו כי מודעה זו אינה מפרה את תקני הפרסום שלנו." לגבי 11 נוספות נמסר כי הוסרו, ולגבי אחת טרם התקבלה תגובה. לדברי TTP, רק לאחר שיצרה קשר עם Meta, כל המודעות שדווחו הוסרו.

BBC נתקלה במצב דומה גם בחקירות קודמות. לדברי BBC, לאחר שדיווחה דרך מערכת הדיווח של אינסטגרם על מודעה הכוללת התעללות מינית בילדים, הפלטפורמה לא הורידה אותה; רק כאשר BBC פנתה ל-Meta לבקשת תגובה, החברה מסרה כי השביתה מספר מודעות, השעתה חשבונות רלוונטיים, ובהמשך מחקה מודעות, חסמה חשבונות וחסמה כתובות אינטרנט.

עיתונאים וארגוני יוזמה נדרשים לגלות, לשמר ולדווח על כל מודעה בנפרד במהלך היותה מקוונת, בעוד Meta יכולה לאפשר למערכת האוטומטית לאשר הפצה תחילה, ולאחר מכן להציג את הניקוי בדיעבד כהוכחה לכך שההגנה יעילה. הסדר זה מטיל את עבודת גילוי הסיכון על גורמים חיצוניים, מותיר את ההשלכות של ההפצה לילדים ולמשפחותיהם, בעוד הפלטפורמה ממשיכה לשלוט בכללים, בנתונים ובקצב הטיפול.

Meta מסרה ל-BBC כי החברה הקימה "הגנה חזקה" הכוללת חסימת מודעות מפרות וניטור שוטף, כי רבות מהמודעות שסומנו הוסרו בעבר, וכי רוב המודעות הוצגו פחות מ-200 פעמים, עם סך הוצאה נמוך מ-5,000 דולר. אך מספר החשיפות והוצאות הפרסום יכולים רק לתאר את היקף ההפצה, ואינם מוכיחים כי מנגנון הבקרה מילא את חובת ההגנה. ביחס לסיכון שתמונותיהם של ילדים אמיתיים ייעשה בהן שימוש ומינון, מספר חשיפות נמוך אינו תנאי לפטור מאחריות.

שרשרת המסחר מקשה על Meta לייחס את הבעיה לעבריינים חיצוניים. לדברי TTP, הרוב המכריע של 332 המודעות הפנו משתמשים ליישומי יצירת תמונות או וידאו בבינה מלאכותית, ורוב היישומים הללו פותחו על ידי מפתחים סיניים. TTP טענה גם כי חלק מהמודעות הופצו על ידי שותפי סוכנויות פרסום של Meta בסין; לדברי BBC, שותפים אלה, המכונים "resellers", מזרימים מדי שנה פרסום סיני בשווי עשרות מיליארדי דולרים אל פייסבוק ואינסטגרם. השותפים הרלוונטיים לא הגיבו לפניות TTP.

Meta מסרה ל-BBC: "אנו לא מקבלים יישומי הסרת בגדים או כל צורה של ניצול ילדים, בין אם מדובר בתוכן אמיתי או כזה שנוצר בבינה מלאכותית. עבריינים אלה משנים ללא הרף את שיטותיהם כדי להתחמק מזיהוי, ולכן אנו מחזקים ללא הרף את הזיהוי והאכיפה." החברה מסרה עוד כי כאשר מתגלה תוכן ברור של ניצול ילדים, היא מדווחת למרכז האמריקאי לילדים נעדרים ומנוצלים, בהתאם לחובתה על פי החוק האמריקאי.

מייסד רשת ארגוני זכויות הילדים ההודית Just Rights for Children, בהוואן ריבהו, סבור כי דיווח לגורמים אמריקאיים בלבד אינו מספיק. הוא אמר ל-BBC: "חברות המדיה החברתית בבירור אינן מדווחות לרשויות אכיפת החוק ההודיות על תכני התעללות מינית בילדים, כפי שדורש חוק ההגנה על ילדים שלנו, ומפירות בגלוי את החוק ההודי." לפי דיווחי BBC, רשת ארגונים זו הגישה בקשה לבית המשפט העליון של הודו בדרישה להורות לפלטפורמות החברתיות לדווח באופן חובה על תכנים רלוונטיים ולזהות את מקדמיהן. מספר גורמים בהודו אף מסרו כי הם בוחנים את הנושא בעקבות חקירת BBC.

מסלולי ההפצה חוצים פלטפורמות, אך הדבר אינו מקל את אחריותה של נקודת הכניסה הראשונה בתשלום. BBC גילתה בעבר כי חלק מהמודעות של Meta הפנו משתמשים לטלגרם, שם חומרים רלוונטיים נמכרו במחיר נמוך של 99 רופי. ראש מחלקת אבטחת הסייבר של מדינת טלנגנה בהודו, שיקה גואל, אמרה ל-BBC כי אתגר מרכזי בטיפול בחומרי התעללות מינית בילדים הוא הקלות שבה משתמשים יכולים לעבור מפלטפורמה אחת לאחרת, מה שמקשה על המשטרה לתפוס אותם. טלגרם מסרה אז ל-BBC כי החברה עושה שימוש הן בבקרה אוטומטית והן בבקרה ידנית, וכי "כמעט חיסלה את ההפצה הפומבית של חומרי התעללות מינית בילדים".

זרימה בין-פלטפורמתית אכן מגבירה את קושי האכיפה, אך פייסבוק ואינסטגרם מספקות שערי כניסה להפצה הניתנים לרכישה, ניתנים למיקוד ודורשים אישור. ל-Meta יש את הכוח למנוע עלייה של מודעות, והיא גם קובעת מתי דיווחים יעילים, מתי חשבונות מפרים יושעו, וכיצד שותפים מתחברים לשוק הפרסום. כל עוד המערכת הזו מותירה את כשלונות הבקרה שלפני העלייה לסבול של הילדים, ומודדת הצלחה במספר חשיפות נמוך ובמחיקה בדיעבד, מה שמכונה בפי Meta "הגנה" ממשיך לשרת את הרציפות של מערכת הפרסום, ולא את הצבת בטיחות הילדים מעל לתשתית המסחרית שלה.