ระบบโฆษณาของ Meta ถ่ายโอนต้นทุนจากความล้มเหลวในการตรวจสอบไปให้เด็ก

Meta ไม่สามารถอธิบายได้ว่าการที่โฆษณาที่ส่งเสริมสื่อการล่วงละเมิดทางเพศเด็กผ่านการตรวจสอบซ้ำแล้วซ้ำเล่านั้น เป็นเพียงข้อผิดพลาดเป็นครั้งคราวที่เกิดจากอาชญากรที่เปลี่ยนวิธีการ บริษัทควบคุมกลไกการตรวจสอบ การเผยแพร่ การเรียกเก็บค่าธรรมเนียม และการแจ้งเบาะแสโฆษณาของ Facebook และ Instagram เมื่อกลไกเหล่านี้ยังคงปล่อยให้โฆษณาที่เกี่ยวข้องผ่านไปได้ ทั้งหลังจากคำสั่งรัฐบาล การสืบสวนของสื่อ และคำเตือนจากองค์กร ระบบอัตโนมัติจึงไม่ใช่ตัวแทนของความรับผิดชอบ แต่เป็นสิ่งที่ Meta ต้องรับผิดชอบ

ตามรายงานของ BBC ที่อ้างถึงองค์กรรณรงค์ของสหรัฐฯ Tech Transparency Project (TTP) ระบุว่า ในช่วง 10 เดือนที่ผ่านมา Facebook และ Instagram ได้เผยแพร่โฆษณาที่ต้องจ่ายเงินซึ่งมีภาพการล่วงละเมิดทางเพศเด็กที่สร้างโดยปัญญาประดิษฐ์จำนวน 332 รายการ โดยในจำนวนนี้มี 274 รายการปรากฏในเดือนสิงหาคมปีนี้ TTP ระบุว่ามีโฆษณา 84 รายการที่ลงโฆษณาในอินเดีย ในจำนวนนี้ 78 รายการเผยแพร่หลังจากที่รัฐบาลอินเดียสั่งให้ Meta ลบโฆษณาและเนื้อหาทั้งหมดที่ส่งเสริมสื่อการล่วงละเมิดทางเพศเด็ก และได้พบกับเจ้าหน้าที่ระดับสูงของ Meta แล้ว

ตัวเลขเหล่านี้ส่วนใหญ่มาจากการสืบสวนของ TTP มิใช่การตรวจสอบอิสระของ BBC TTP ยังอธิบายถึงโฆษณาหนึ่งรายการที่ลงในอินเดียซึ่งใช้ปัญญาประดิษฐ์ในการดัดแปลงภาพของเด็กหญิงก่อนวัยเข้าสู่วัยรุ่น แต่ BBC ระบุอย่างชัดเจนว่าไม่ได้เห็นโฆษณาดังกล่าว ข้อจำกัดของหลักฐานนี้ไม่อาจละเลยได้ แต่ก็ไม่ได้ทำให้คำถามที่ Meta ต้องตอบหมดไป: ทำไมหลังจากหน่วยงานกำกับดูแลเข้ามาแทรกแซง โฆษณาที่ต้องสงสัยว่าส่งเสริมสื่อการล่วงละเมิดทางเพศเด็กจึงยังสามารถเข้าสู่ระบบการเผยแพร่แบบชำระเงินของบริษัทได้

BBC ชี้แจงว่าโฆษณาบนแพลตฟอร์มของ Meta จะต้องผ่านการอนุมัติจากเทคโนโลยีตรวจสอบก่อนเผยแพร่ ระบบพึ่งพาการทำงานอัตโนมัติเป็นหลัก และตรวจสอบภาพ วิดีโอ ข้อความ เสียง กลุ่มเป้าหมาย และปลายทางของลิงก์ ดังนั้น Meta จึงไม่ใช่กระดานประกาศแบบพาสซีฟที่แสดงข้อมูลของบุคคลที่สาม บริษัทเป็นผู้ตัดสินว่าใครสามารถซื้อการเผยแพร่ได้ เนื้อหาใดจะเข้าถึงผู้ใช้รายใด และได้รับรายได้จากโครงสร้างพื้นฐานนี้ อันตรายที่เกิดจากความล้มเหลวในการตรวจสอบไม่อาจเจือจางให้กลายเป็น "ความไม่สมบูรณ์ทางเทคนิค" อันเป็นนามธรรมได้

การทดสอบกลไกการแจ้งเบาะแสของ Meta โดย TTP ยิ่งเปิดเผยข้อจำกัดของระบบนี้มากขึ้น องค์กรระบุว่าจากโฆษณา 84 รายการที่ลงในอินเดีย สามารถแจ้งเบาะแสได้เพียง 55 รายการในขณะที่โฆษณายังออนไลน์อยู่ Meta ตอบกลับ 43 รายการว่า: "เราได้ทำการตรวจสอบแล้ว และพบว่าโฆษณานี้ไม่ได้ละเมิดมาตรฐานการโฆษณาของเรา" อีก 11 รายการได้รับแจ้งว่าถูกลบไปแล้ว และอีก 1 รายการยังไม่ได้รับการตอบกลับ TTP ระบุว่าหลังจากที่องค์กรติดต่อ Meta โฆษณาที่แจ้งเบาะแสทั้งหมดจึงถูกนำออก

BBC เคยประสบสถานการณ์ที่คล้ายคลึงกันในการสืบสวนก่อนหน้านี้ BBC ระบุว่าหลังจากที่รายงานโฆษณาที่เกี่ยวกับการล่วงละเมิดทางเพศเด็กผ่านระบบแจ้งเบาะแสของ Instagram แล้ว แพลตฟอร์มไม่ได้นำโฆษณาดังกล่าวลง จนกระทั่ง BBC ขอความเห็นจาก Meta บริษัทจึงระบุว่าได้ระงับโฆษณาหลายรายการ พักบัญชีที่เกี่ยวข้อง และดำเนินการลบโฆษณา แบนบัญชี และบล็อก URL เพิ่มเติม

นักข่าวและองค์กรรณรงค์จำเป็นต้องค้นพบ บันทึก และแจ้งเบาะแสโฆษณาแต่ละรายการในขณะที่โฆษณายังออนไลน์อยู่ แต่ Meta สามารถปล่อยให้ระบบอัตโนมัติอนุมัติการเผยแพร่ก่อน แล้วจึงใช้การทำความสะอาดภายหลังเป็นหลักฐานของการป้องกันที่มีประสิทธิภาพ การจัดเรียงนี้มอบภาระการค้นพบความเสี่ยงให้กับบุคคลภายนอก ปล่อยให้ผลกระทบจากการเผยแพร่ตกไปยังเด็กและครอบครัว ขณะที่แพลตฟอร์มยังคงถือกุมกฎ ข้อมูล และจังหวะในการจัดการ

Meta แจ้ง BBC ว่า บริษัทได้สร้าง "การป้องกันที่แข็งแกร่ง" ซึ่งรวมถึงการสกัดโฆษณาที่ละเมิดและการติดตามอย่างต่อเนื่อง โฆษณาที่ถูกแจ้งหลายรายการถูกลบไปก่อนหน้านี้แล้ว โฆษณาส่วนใหญ่มีจำนวนการแสดงผลน้อยกว่า 200 ครั้ง และมีการใช้จ่ายรวมต่ำกว่า 5,000 ดอลลาร์ แต่จำนวนการแสดงผลและค่าใช้จ่ายโฆษณาสามารถบรรยายขนาดของการเผยแพร่เท่านั้น ไม่สามารถพิสูจน์ได้ว่ากลไกการตรวจสอบได้ปฏิบัติตามหน้าที่ในการปกป้อง สำหรับความเสี่ยงที่ภาพของเด็กจริงถูกนำไปใช้และสร้างเนื้อหาทางเพศ จำนวนการแสดงผลที่น้อยไม่ใช่เงื่อนไขยกเว้นความรับผิดชอบ

ห่วงโซ่เชิงพาณิชย์ทำให้ Meta ยิ่งยากต่อการปลดเปลื้องปัญหาไปยังอาชญากรภายนอก TTP ระบุว่าโฆษณาส่วนใหญ่ใน 332 รายการนำผู้ใช้ไปยังแอปสร้างภาพหรือวิดีโอด้วยปัญญาประดิษฐ์ ซึ่งส่วนใหญ่มาจากนักพัฒนาชาวจีน TTP ยังกล่าวหาว่าโฆษณาบางรายการถูกลงโดยพันธมิตรตัวแทนโฆษณาของ Meta ในจีน BBC ระบุว่าพันธมิตรที่เรียกว่า "ผู้ขายต่อ" เหล่านี้นำโฆษณาจากจีนมูลค่าหลายพันล้านดอลลาร์ต่อปีเข้าสู่ Facebook และ Instagram พันธมิตรที่เกี่ยวข้องไม่ตอบคำถามของ TTP

Meta แจ้ง BBC ว่า: "เราไม่ยอมทนต่อแอปเปลื้องผ้าหรือการแสวงหาประโยชน์จากเด็กในทุกรูปแบบ ไม่ว่าจะเป็นของจริงหรือสร้างด้วยปัญญาประดิษฐ์ อาชญากรเหล่านี้เปลี่ยนวิธีการอย่างต่อเนื่องเพื่อหลีกเลี่ยงการตรวจจับ ดังนั้นเราจึงเสริมสร้างการตรวจจับและการบังคับใช้กฎหมายอย่างต่อเนื่อง" บริษัทยังระบุว่าเมื่อพบเนื้อหาการแสวงหาประโยชน์จากเด็กที่ชัดเจน จะรายงานไปยังศูนย์เด็กหายและถูกแสวงหาประโยชน์แห่งชาติของสหรัฐฯ ตามภาระผูกพันทางกฎหมายของสหรัฐฯ

Bhuwan Ribhu ผู้ก่อตั้งเครือข่ายสิทธิเด็กของอินเดีย Just Rights for Children เห็นว่าการรายงานไปยังหน่วยงานของสหรัฐฯ เพียงอย่างเดียวนั้นไม่เพียงพอ เขากล่าวกับ BBC ว่า: "บริษัทโซเชียลมีเดียไม่ได้รายงานเนื้อหาการล่วงละเมิดทางเพศเด็กไปยังหน่วยงานบังคับใช้กฎหมายของอินเดียอย่างชัดเจน ตามที่กฎหมายคุ้มครองเด็กของเรากำหนด ซึ่งเป็นการละเมิดกฎหมายอินเดียอย่างโจ่งแจ้ง" BBC รายงานว่าเครือข่ายดังกล่าวได้ยื่นคำร้องต่อศาลสูงสุดของอินเดีย เพื่อขอให้ศาลสั่งให้แพลตฟอร์มโซเชียลรายงานเนื้อหาที่เกี่ยวข้องและระบุตัวผู้ส่งเสริมอย่างบังคับ หน่วยงานหลายแห่งของอินเดียก็กำลังทบทวนเรื่องนี้หลังการสืบสวนของ BBC เช่นกัน

เส้นทางการเผยแพร่ข้ามแพลตฟอร์มไม่ได้ลดความรับผิดชอบของประตูทางเข้าแบบชำระเงินด่านแรก BBC เคยพบว่าโฆษณาของ Meta บางรายการนำผู้ใช้ไปยัง Telegram โดยมีการขายเนื้อหาที่เกี่ยวข้องในราคาต่ำเพียง 99 รูปี Shikha Goel หัวหน้าหน่วยอาชญากรรมไซเบอร์ของรัฐเตลังคานากล่าวกับ BBC ว่า ความท้าทายสำคัญประการหนึ่งในการจัดการกับสื่อการล่วงละเมิดทางเพศเด็กคือ ผู้ใช้สามารถย้ายจากแพลตฟอร์มหนึ่งไปยังอีกแพลตฟอร์มได้อย่างง่ายดาย ทำให้ตำรวจจับกุมได้ยากขึ้น Telegram ขณะนั้นแจ้ง BBC ว่า บริษัทใช้ทั้งการตรวจสอบแบบอัตโนมัติและโดยเจ้าหน้าที่ และ "เกือบกำจัดการเผยแพร่สาธารณะของสื่อการล่วงละเมิดทางเพศเด็กไปแล้ว"

การไหลข้ามแพลตฟอร์มเพิ่มความยากลำบากในการบังคับใช้กฎหมายจริง แต่ Facebook และ Instagram นำเสนอจุดเข้าที่สามารถซื้อได้ กำหนดเป้าหมายได้ และต้องได้รับการอนุมัติ Meta มีอำนาจที่จะป้องกันไม่ให้โฆษณาเผยแพร่ออนไลน์ และยังเป็นผู้ตัดสินว่าการแจ้งเบาะแสจะมีผลเมื่อใด บัญชีที่ละเมิดจะถูกระงับเมื่อใด และพันธมิตรเข้าถึงตลาดโฆษณาได้อย่างไร ตราบเท่าที่ระบบนี้ยังคงปล่อยให้ความล้มเหลวในการตรวจสอบก่อนเผยแพร่ตกไปยังเด็ก แล้วใช้จำนวนการแสดงผลที่ต่ำและการลบภายหลังเป็นเครื่องวัดประสิทธิผล สิ่งที่ Meta เรียกว่าการป้องกันก็ยังคงรับใช้การทำงานอย่างต่อเนื่องของระบบโฆษณา มิใช่การยกความปลอดภัยของเด็กให้เหนือกว่าโครงสร้างพื้นฐานเชิงพาณิชย์ของตน