Hệ thống quảng cáo của Meta chuyển chi phí từ những lần kiểm duyệt thất bại sang cho trẻ em

Meta không thể giải thích việc liên tục cho phép các quảng cáo quảng bá tài liệu lạm dụng tình dục trẻ em vượt qua kiểm duyệt là lỗi ngẫu nhiên do bọn tội phạm thay đổi thủ đoạn. Công ty kiểm soát quy trình kiểm duyệt, phân phối, thu phí và cơ chế báo cáo quảng cáo trên Facebook và Instagram; khi các cơ chế này vẫn cho phép các quảng cáo liên quan được phát hành sau lệnh của chính phủ, điều tra của truyền thông và cảnh báo của các tổ chức, thì hệ thống tự động hóa không phải là sự thay thế cho trách nhiệm, mà là đối tượng mà Meta phải chịu trách nhiệm.

Theo BBC dẫn lại, tổ chức vận động Mỹ Tech Transparency Project (TTP) cho biết, trong 10 tháng qua, Facebook và Instagram đã đăng tải tổng cộng 332 quảng cáo trả phí có chứa hình ảnh lạm dụng tình dục trẻ em do trí tuệ nhân tạo tạo ra, trong đó 274 quảng cáo xuất hiện vào tháng 8 năm nay. TTP cho biết, 84 quảng cáo được phát hành tại Ấn Độ, trong đó 78 quảng cáo được đăng sau khi chính phủ Ấn Độ ra lệnh cho Meta dọn dẹp tất cả quảng cáo và nội dung quảng bá tài liệu lạm dụng tình dục trẻ em, và sau cuộc gặp với các quan chức cấp cao của Meta.

Những con số này chủ yếu đến từ cuộc điều tra của TTP, chứ không phải do BBC xác minh độc lập. TTP còn mô tả một quảng cáo được phát tại Ấn Độ, sử dụng trí tuệ nhân tạo để thao túng ảnh của một bé gái chưa đến tuổi dậy thì, nhưng BBC nói rõ rằng họ chưa xem quảng cáo đó. Giới hạn bằng chứng này không thể bị bỏ qua, nhưng cũng không loại bỏ câu hỏi mà Meta cần trả lời: tại sao sau khi cơ quan quản lý can thiệp, các quảng cáo bị tình nghi quảng bá tài liệu lạm dụng tình dục trẻ em vẫn có thể xâm nhập hệ thống phân phối trả phí của họ?

BBC giới thiệu, quảng cáo trên nền tảng Meta phải được công nghệ kiểm duyệt phê duyệt trước khi đăng, hệ thống chủ yếu dựa vào tự động hóa, và kiểm tra hình ảnh, video, văn bản, âm thanh, đối tượng mục tiêu và đích đến của liên kết. Do đó Meta không phải là bảng thông báo thụ động hiển thị thông tin của bên thứ ba. Nó quyết định ai có thể mua quảng bá, nội dung có thể tiếp cận những người dùng nào, và thu doanh thu từ cơ sở hạ tầng này. Tác hại do kiểm duyệt thất bại không thể bị pha loãng thành "sự không hoàn hảo kỹ thuật" trừu tượng.

Việc TTP thử nghiệm cơ chế báo cáo của Meta càng phơi bày giới hạn của hệ thống này. Tổ chức này cho biết, trong 84 quảng cáo được phát tại Ấn Độ, họ chỉ có thể báo cáo 55 quảng cáo trong khi quảng cáo vẫn còn trực tuyến. Meta trả lời về 43 quảng cáo trong số đó: "Chúng tôi đã xem xét và phát hiện quảng cáo này không vi phạm tiêu chuẩn quảng cáo của chúng tôi." 11 quảng cáo khác được thông báo đã bị xóa, một quảng cáo chưa nhận được phản hồi. TTP cho biết, sau khi họ liên hệ Meta, các quảng cáo bị báo cáo mới được gỡ bỏ hoàn toàn.

Trước đó BBC cũng gặp tình huống tương tự khi điều tra. BBC cho biết, sau khi họ báo cáo một quảng cáo liên quan đến lạm dụng tình dục trẻ em qua hệ thống báo cáo của Instagram, nền tảng không gỡ nó xuống; cho đến khi BBC yêu cầu Meta bình luận, công ty mới cho biết đã vô hiệu hóa nhiều quảng cáo, đình chỉ các tài khoản liên quan, đồng thời xóa thêm quảng cáo, cấm tài khoản và chặn địa chỉ web.

Các nhà báo và tổ chức vận động phải phát hiện, lưu giữ và báo cáo từng quảng cáo một trong khi quảng cáo còn trực tuyến, nhưng Meta có thể để hệ thống tự động phê duyệt phát hành trước, rồi lấy việc dọn dẹp sau đó làm bằng chứng cho thấy phòng thủ có hiệu quả. Cách sắp xếp này giao lao động phát hiện rủi ro cho người bên ngoài, để hậu quả do việc phát tán gây ra cho trẻ em và gia đình các em, trong khi nền tảng tiếp tục nắm giữ các quy tắc, dữ liệu và nhịp độ xử lý.

Meta nói với BBC rằng, công ty đã xây dựng "hệ thống phòng thủ mạnh mẽ" bao gồm chặn quảng cáo vi phạm và giám sát liên tục, nhiều quảng cáo bị gắn cờ trước đó đã bị xóa, hầu hết quảng cáo có số lần hiển thị dưới 200 lần, tổng chi tiêu dưới 5.000 đô la Mỹ. Nhưng số lần hiển thị và chi tiêu quảng cáo chỉ có thể mô tả quy mô phát tán, không chứng minh cơ chế kiểm duyệt đã thực hiện trách nhiệm bảo vệ. Đối với rủi ro ảnh thật của trẻ em bị sử dụng trái phép và bị tình dục hóa, ít lần hiển thị hơn không phải là điều kiện miễn trừ trách nhiệm.

Chuỗi thương mại khiến Meta càng khó đổ lỗi vấn đề cho tội phạm bên ngoài. TTP cho biết, phần lớn trong 332 quảng cáo dẫn người dùng đến các ứng dụng tạo ảnh hoặc video bằng trí tuệ nhân tạo, phần lớn các ứng dụng này đến từ các nhà phát triển Trung Quốc. TTP còn cáo buộc rằng, một số quảng cáo được đặt bởi các đối tác đại lý quảng cáo của Meta tại Trung Quốc; BBC cho biết, các đối tác được gọi là "nhà bán lại" này mỗi năm đưa hàng tỷ đô la Mỹ quảng cáo Trung Quốc vào Facebook và Instagram. Các đối tác liên quan không trả lời câu hỏi của TTP.

Meta nói với BBC: "Chúng tôi không dung túng các ứng dụng khỏa thân hay bất kỳ hình thức bóc lột trẻ em nào, dù là thật hay do trí tuệ nhân tạo tạo ra. Những tên tội phạm này liên tục thay đổi thủ đoạn để tránh bị phát hiện, vì vậy chúng tôi tiếp tục tăng cường khả năng phát hiện và thực thi." Công ty còn cho biết, khi phát hiện nội dung bóc lột trẻ em rõ ràng, sẽ báo cáo cho Trung tâm Trẻ em Mất tích và Bị bóc lột Quốc gia Mỹ theo nghĩa vụ pháp lý Mỹ.

Bhuwan Ribhu, người sáng lập mạng lưới tổ chức quyền trẻ em Ấn Độ Just Rights for Children, cho rằng chỉ báo cáo cho cơ quan Mỹ là chưa đủ. Ông nói với BBC: "Các công ty truyền thông xã hội rõ ràng không báo cáo nội dung lạm dụng tình dục trẻ em cho cơ quan thực thi pháp luật Ấn Độ theo yêu cầu của luật bảo vệ trẻ em nước ta, công khai vi phạm pháp luật Ấn Độ." BBC đưa tin, mạng lưới tổ chức này đã nộp đơn lên Tòa án Tối cao Ấn Độ, yêu cầu tòa chỉ đạo các nền tảng truyền thông xã hội buộc phải báo cáo nội dung liên quan và xác định danh tính người quảng bá. Nhiều cơ quan Ấn Độ cũng cho biết đang xem xét vấn đề này sau cuộc điều tra của BBC.

Đường dẫn phát tán vượt qua các nền tảng, không làm giảm trách nhiệm của cửa vào trả phí đầu tiên. Trước đó BBC phát hiện, một số quảng cáo của Meta dẫn người dùng đến Telegram, tài liệu liên quan được bán với giá thấp đến 99 rupee. Shikha Goel, Giám đốc Cục An ninh mạng bang Telangana của Ấn Độ, nói với BBC rằng, một thách thức lớn trong xử lý tài liệu lạm dụng tình dục trẻ em là người dùng có thể dễ dàng chuyển từ nền tảng này sang nền tảng khác, khiến cảnh sát khó bắt hơn. Telegram khi đó nói với BBC rằng, công ty đồng thời sử dụng kiểm duyệt tự động và thủ công, và đã "gần như loại bỏ hoàn toàn sự phát tán công khai của tài liệu lạm dụng tình dục trẻ em".

Dòng chảy xuyên nền tảng đúng là tăng thêm khó khăn cho việc thực thi pháp luật, nhưng Facebook và Instagram cung cấp cửa vào phát tán có thể mua, có thể nhắm mục tiêu, phải được phê duyệt. Meta có quyền ngăn quảng cáo lên sóng, cũng quyết định khi nào báo cáo có hiệu lực, khi nào vô hiệu hóa tài khoản vi phạm, và đối tác kết nối thị trường quảng cáo như thế nào. Chừng nào hệ thống này vẫn để thất bại kiểm duyệt trước khi lên sóng cho trẻ em gánh chịu, rồi lại đo lường hiệu quả bằng số lần hiển thị thấp và xóa sau đó, cái gọi là phòng thủ của Meta vẫn phục vụ cho hoạt động liên tục của hệ thống quảng cáo, chứ không đặt an toàn của trẻ em lên trên cơ sở hạ tầng thương mại của họ.