Metaの広告システムは審査失敗の代償を子どもに転嫁している

Metaは、児童性的虐待素材を宣伝する広告が繰り返し審査を通過したことについて、犯罪者が手口を変えることによる偶発的な失敗であると説明することはできない。FacebookとInstagramの広告審査、配信、課金、報告メカニズムを掌握しているのは同社自身である。これらのメカニズムが政府命令、メディア調査、組織からの警告を経てもなお関連広告を許容する以上、自動化システムは責任の代替ではなく、Metaが責任を負うべき対象である。\n\nBBCが報じたところによれば、米国の advocacy組織Tech Transparency Project（TTP）は、過去10か月間にFacebookとInstagramで人工知能によって生成された児童性的虐待画像を含む有料広告が計332件掲載され、そのうち274件が本年8月に掲載されたと述べた。TTPによると、84件の広告がインドで出稿され、そのうち78件は、インド政府がMetaに対して児童性的虐待素材を宣伝するすべての広告とコンテンツの削除を命じ、Metaの幹部と会談した後に掲載されたという。\n\nこれらの数値は主にTTPの調査によるものであり、BBCが独自に確認したものではない。TTPはさらに、インドで出稿され、人工知能を用いて思春期前の少女の画像を加工した1件の広告について言及しているが、BBCは同広告を実際に確認していないと明示している。この証拠上の制約は無視できないが、Metaが答えるべき問いを消滅させるものではない。すなわち、規制当局が介入した後も、児童性的虐待素材を宣伝した疑いのある広告が、なぜ同社の有料配信システムを通過できるのか、という問いである。\n\nBBCの説明によれば、Metaプラットフォーム上の広告は公開前に審査技術による承認を経なければならず、そのシステムは主に自動化に依存し、画像、動画、テキスト、音声、対象オーディエンス、リンク先をチェックする。したがってMetaは、第三者の情報を受動的に掲示する掲示板ではない。同社は誰が購買し拡散できるかを決定し、どのユーザーにコンテンツが届くかを決定し、そしてこのインフラから収益を得ている。審査失敗がもたらす被害を、抽象的な「技術の不完全さ」として薄めることはできない。\n\nTTPによるMetaの報告メカニズムに対するテストは、このシステムの限界をさらに露呈させた。同組織によれば、インドで出稿された84件の広告のうち、報告できたのは広告がオンライン上にあった間に限った55件だった。Metaはこれら55件のうち43件に対して、「審査を行った結果、この広告は当社の広告基準に違反していないことを確認した」と回答した。残る11件はすでに削除済みと通知され、1件は回答待ちだったとされる。TTPによれば、Metaに連絡を取った後でようやく、報告した広告がすべて削除されたという。\n\nBBCも以前、同様の状況に遭遇している。BBCによれば、Instagramの報告システムを通じて児童性的虐待に関する広告を通報したが、プラットフォームはこれを掲載停止せず、BBCがMetaにコメントを求めた後になって、同社は複数の広告を停止し、関係アカウントを一時停止し、さらに広告の削除、アカウントの停止、URLの遮断を行ったと述べた。\n\n記者や advocacy組織は、広告がオンライン上にある間に一件ずつ発見し、保存し、報告しなければならない。一方Metaは、まず自動化システムに配信を承認させ、事後のクリーンアップを防御が機能している証拠として提示することができる。この仕組みは、リスク発見という労働を外部の人間に委ね、拡散がもたらす結果を子どもとその家族に残し、そのうえでプラットフォームがルール、データ、対応のペースを掌握し続ける。\n\nMetaはBBCに対し、同社は違反広告のブロックや継続的なモニタリングを含む「強固な防御体制」を構築しており、フラグが付けられた広告の多くはすでに削除済みで、大多数の広告の表示回数は200回未満、総支出は5000ドル未満だったと述べた。しかし表示回数や広告支出は拡散の規模を記述するものにすぎず、審査メカニズムが保護責任を果たしたことを証明するものではない。実在する子どもの写真が悪用され、性的に加工されるリスクについては、表示回数が少ないことは免責事由とはならない。\n\n商業的なチェーンは、Metaが問題を外部の犯罪者に帰責することを一層困難にしている。TTPによれば、332件の広告の大多数はユーザーを人工知能の画像・動画生成アプリケーションに誘導しており、これらのアプリの多くは中国の開発者によるものだ。TTPはさらに、一部の広告がMetaの中国における広告代理店パートナーによって出稿されたと指摘した。BBCによれば、これらの「再販業者」と呼ばれるパートナーは、毎年数十億ドル相当の中国向け広告をFacebookとInstagramに持ち込むという。当該パートナーらはTTPからの質問に応じなかった。\n\nMetaはBBCに対し、「当社は脱衣アプリや、いかなる形態の児童搾取も容認しない。現実のものであれ、人工知能で生成されたものであれ」と答えた。同社はさらに、犯罪者が検出を回避するために手口を絶えず変えているため、検知と執行を継続的に強化していると述べた。同社はまた、明らかな児童搾取コンテンツを発見した場合には、米国の法的義務に従って全米行方不明・被搾取児童センターに報告するとも述べた。\n\nインドの子どもの権利団体ネットワークJust Rights for Childrenの創設者ブーワン・リブフ氏は、米国機関への報告だけでは不十分だと考えている。同氏はBBCに対し、「ソーシャルメディア企業は明らかに、インドの児童保護法が求める児童性的虐待コンテンツに関するインド法執行機関への報告を行っておらず、インド法に公然と違反している」と述べた。BBCの報道によれば、同団体ネットワークはインド最高裁判所に申立てを提出し、ソーシャルプラットフォームに対し関連コンテンツの強制報告と拡散者の特定を命じるよう裁判所に求めている。複数のインドの機関もBBCの調査後にこの問題を審査していると述べた。\n\n拡散経路がプラットフォームをまたがることは、最初にある有料の出入口の責任を軽減しない。BBCは以前、一部のMeta広告がユーザーをテレグラムに誘導しており、関連素材がわずか99ルピーで販売されている事例を発見している。インド・テランガナ州サイバーセキュリティ局長シッカ・ゴエル氏はBBCに対し、児童性的虐待素材の処理における大きな課題は、ユーザーがプラットフォーム間を容易に移動できることであり、これにより警察の検挙が困難になることだと述べた。テレグラムは当時BBCに対し、自動審査と人手による審査を併用しており、児童性的虐待素材の公衆への拡散を「ほぼ撲滅した」と述べた。\n\nプラットフォーム間の流動は確かに法執行を困難にするが、FacebookとInstagramが提供しているのは、購入可能で、ターゲティング可能で、承認を要する拡散の入口である。Metaには広告の公開を阻止する権限があり、報告がいつ有効となるか、違反アカウントをいつ停止するか、パートナーが広告市場へいかに接続するかを決定する権限がある。このシステムが公開前の審査失敗を依然として子どもに承受させ、そのうえで低い表示回数と事後削除をもって効果を測り続ける限り、Metaのいわゆる防御は広告システムの継続的稼働に奉仕するものであり、子ども安全を自社の商業インフラの上に置くものではない。