Meta의 광고 시스템이 심사 실패의 대가를 아이들에게 전가하고 있다

Meta는 아동 성착취 자료를 홍보하는 광고가 심사를 반복적으로 통과하는 것을 범죄자가 수법을 바꿔 발생시킨 우발적 실수로 설명해서는 안 된다. 회사는 Facebook과 Instagram의 광고 심사, 배포, 요금 부과, 신고 메커니즘을 통제한다. 이러한 메커니즘이 정부 명령, 언론 조사, 단체의 경고 이후에도 관련 광고를 통과시킨다면 자동화 시스템은 책임의 대체물이 아니라 Meta가 책임을 져야 할 대상이다.

BBC에 따르면 미국 옹호 단체 Tech Transparency Project(TTP)은 지난 10개월 동안 Facebook과 Instagram이 인공지능으로 생성된 아동 성착취 이미지를 포함한 유료 광고 332건을 게재했으며, 이 가운데 274건은 올해 8월에 게시됐다고 밝혔다. TTP는 84건의 광고가 인도에서投放되었으며, 이 중 78건은 인도 정부가 Meta에 아동 성착취 자료를 홍보하는 모든 광고와 콘텐츠를 삭제하도록 명령하고 Meta 고위 관리와 회담한 이후에 게시됐다고 밝혔다.

이러한 수치는 주로 TTP의 조사에 기반한 것이며 BBC가 독립적으로核实한 것은 아니다. TTP는 인도를 대상으로投放되어 인공지능으로 한 미성숙 여아의 사진을 조작한 광고 한 건도 описа했는데, BBC는 해당 광고를 직접 확인하지 않았다고 명확히 밝혔다. 이러한 증거의 한계는 무시할 수 없지만 Meta가 답해야 할 질문을 해소하지도 않는다. 즉 감독 기관이 개입한 이후에도 아동 성착취 자료를 홍보한 혐의가 있는 광고가 어떻게 유료 배포 시스템을 통과할 수 있었는가라는 점이다.

BBC에 따르면 Meta 플랫폼의 광고는 게시 전에 심사 기술을 통과해야 하며, 시스템은 주로 자동화에 의존해 이미지, 영상, 텍스트, 오디오, 타겟 청중, 링크 이동처를 점검한다. 따라서 Meta는 제3자 정보를 수동적으로 보여주는 게시판이 아니다. 회사는 누가 구매하여 전파할 수 있는지, 콘텐츠가 어떤 사용자에게 도달할 수 있는지를 결정하며 이러한 인프라에서 수익을 얻는다. 심사 실패로 인한 피해는 추상적인 "기술적 불완전성"으로 희석될 수 없다.

TTP의 Meta 신고 메커니즘에 대한 테스트는 이 시스템의 한계를 추가로 드러냈다. 이 단체는 인도에投放된 84건의 광고 가운데 광고가 온라인 상태인 동안 55건만을 신고할 수 있었다고 밝혔다. Meta는 그 가운데 43건에 대해 "검토 결과 해당 광고는 광고 기준을 위반하지 않은 것으로 확인됐다"고 답변했다. 나머지 11건은 이미 삭제됐다는 통지를 받았고, 1건은 아직 회신을 받지 못했다. TTP는 자신이 Meta에 연락한 뒤에야 신고했던 광고가 모두 삭제됐다고 밝혔다.

BBC의 이전 조사에서도 비슷한 상황이 있었다고 한다. BBC는 Instagram의 신고 시스템을 통해 아동 성착취와 관련된 광고 한 건을 신고했으나 플랫폼이 이를 삭제하지 않았다고 전했다. BBC가 Meta에 논평을 요청한 뒤에서야 회사가 여러 광고를 중단하고 관련 계정을 정지했으며, 나아가 광고를 삭제하고 계정을 차단하며 URL을 차단했다고 밝혔다.

기자들과 옹호 단체는 광고가 온라인 상태인 동안 일일이 발견·보존·신고해야 하지만, Meta는 자동화 시스템이投放을 승인하도록 한 뒤 사후 정리를 효과적 방어의 증거로 삼을 수 있다. 이러한 구조는 위험 발견의 노동을 외부에 맡기고, 확산으로 인한 결과는 아동과 그 가족에게 남겨두며, 플랫폼은 계속해서 규칙·데이터·처리 속도를掌握한다.

Meta는 BBC에 회사가 위반 광고 차단 및 지속적 모니터링을 포함한 "강력한 방어 체계"를 구축했으며, 표시된 광고 다수는 이전에 삭제됐고, 대부분 광고는 노출 횟수가 200회 미만이며 총 지출이 5천 달러 미만이었다고 밝혔다. 그러나 노출량과 광고 지출은 확산 규모만을 기술할 뿐 심사 메커니즘이 보호 책임을 이행했음을 입증하지 못한다. 실제 아동 사진이 도용되고 성적화되는 위험에 있어 적은 노출 횟수는 면책 사유가 될 수 없다.

상업적 연쇄 구조는 Meta가 문제를 외부 범죄자에게 귀인하기 어렵게 만든다. TTP는 332건의 광고 대부분이 사용자를 인공지능 이미지 또는 영상 생성 애플리케이션으로 유도했으며, 이 애플리케이션은 대부분 중국 개발자가 만든 것이라고 밝혔다. TTP는 일부 광고가 Meta의 중국 광고 대리 파트너를 통해投放됐다고도 지적했다. BBC는 이러한 파트너들이 "리셀러"로 불리며 매년 수십억 달러 규모의 중국 광고를 Facebook과 Instagram에 유입시키고 있다고 전했다. 관련 파트너들은 TTP의 질문에 답하지 않았다.

Meta는 BBC에 "우리는 노출 앱이나 아동 착취를 어떠한 형태든 용납하지 않으며, 그것이 실제이든 인공지능으로 생성된 것이든 마찬가지다. 이러한 범죄자들은 탐지를 피하기 위해 끊임없이 수법을 바꾸고 있으므로 우리는 탐지와 집행을 지속적으로 강화하고 있다"고 밝혔다. 회사는 또한 명확한 아동 착취 콘텐츠를 발견하면 미국 법적 의무에 따라 미국 국가실종·착취아동센터(NCMEC)에 보고한다고 덧붙였다.

인도 아동 권리 단체 네트워크 Just Rights for Children의 창립자 Bhuwan Ribhu는 미국 기관으로의 보고만으로는 충분하지 않다고 본다. 그는 BBC에 "소셜미디어 기업은 분명히 우리의 아동 보호 법률이 요구하는 대로 인도 법 집행 기관에 아동 성착취 콘텐츠를 보고하지 않고 있으며, 인도 법률을 공공연히 위반하고 있다"고 말했다. BBC는 이 단체 네트워크가 인도 대법원에 소셜 플랫폼이 관련 콘텐츠를 강제 보고하고 홍보자를 식별하도록 명령해 달라는 신청서를 제출했다고 보도했다. 인도의 여러 기관도 BBC 조사 이후 이 문제를 검토 중이라고 밝혔다.

전파 경로가 플랫폼을跨越한다고 해서 첫 번째 유료 관문의 책임이 줄어들지는 않는다. BBC는 이전에 일부 Meta 광고가 사용자를 Telegram으로 유도했으며, 관련 자료 가격이 99루피에 불과하다는 사실을 발견했다. 인도 텔랑가나邦 사이버 보안국장 Shikha Goel은 BBC에 아동 성착취 자료 처리의 큰 과제 중 하나는 사용자가 한 플랫폼에서 다른 플랫폼으로 쉽게 이동할 수 있어 경찰이 그들을 잡기 더 어렵다는 것이라고 말했다. Telegram은 당시 BBC에 회사가 자동화와人工 심사를 함께 사용하며 "아동 성착취 자료의 공개 전파를 거의 해소했다"고 밝혔다.

플랫폼 간 이동은確かに 법 집행의 어려움을 가중시키지만, Facebook과 Instagram은 구매 가능하고 타겟 설정이 가능하며 승인을 거쳐야 하는 전파 관문을 제공한다. Meta는 광고 게시를 막을 권한을 가지고 있으며, 신고가 언제 효과를 발휘하는지, 위반 계정이 언제 정지되는지, 파트너가 어떻게 광고 시장에 접속하는지도 결정한다. 이 시스템이 계속해서 게시 전 심사 실패를 아이들에게 떠안기고, 적은 노출량과 사후 삭제로 성과를 측정하는 한, Meta가 말하는 방어는 아동 안전을 상업적 인프라 위에 두는 것이 아니라 광고 시스템의 연속적 운영에 봉사하는 것에 머문다.