オーストラリアが科技プラットフォームから選択権を取り戻したことは、アルゴリズム説明責任の始まりにすぎない

大型科技プラットフォームは長期にわたり情報配信と製品設計の権限を握ってきたが、アルゴリズム推薦がもたらす予見可能なリスクは子ども、保護者、一般ユーザーに転嫁してきた。オーストラリア政府が導入を目指す「デジタル注意義務」はユーザーの選択を奪うのではなく、この不均衡を是正するものだ。

意見募集段階にあるこの草案は、TikTok、Instagram、Facebookなどのプラットフォームに対し、ユーザーが推薦コンテンツを受け入れるかどうかを積極的に確認し、フォロー中のアカウントの投稿のみを表示するオプションへの変更をユーザーに認めるよう求めている。16歳未満のユーザーについては、パーソナライズされたアルゴリズムと無限スクロール機能の停止もプラットフォームに義務づける。改革は科技企業の製品論理によって長らく覆い隠されてきた事実を認めた。推薦アルゴリズムはユーザーが拒否できない自然な環境ではなく、プラットフォームが主体的に展開し、オフにすることもでき、結果に対する責任を負わなければならないシステムである。

プラットフォームはコンテンツがユーザーにどう届くかを決定する技術的権限を持つが、一般人がこの仕組みを見抜くことは困難であり、継続的な推薦から逃れることはさらに難しい。草案が列挙する子どものリスクには、いじめ、性的内容、女性嫌悪的コンテンツ、犯罪の美化、摂食障害を助長する素材が含まれる。成人向けの義務は、すでに犯罪を構成する虐待、性的暴力、重大な脅迫、テロ組織支援、自殺の奨励などに絞られている。オーストラリアの摂食障害支援機関Butterfly Foundationは、フィードが理想化され、歪んだ体重志向のコンテンツに占拠されているユーザーに継続的に接しており、こうしたコンテンツが摂食障害の重要な誘因の一つであると考えている。子どもを失った悲嘆に暮れる親や子どもの保護活動家が立法を支持していることは、プラットフォームがうたう製品機能がすでに家庭の安全領域に踏み込んでいることを示している。

草案は義務を履行しないプラットフォームに対し、1億オーストラリアドル超の罰金を科す構えであり、この点は極めて重要だ。企業の意思決定に影響を与えるのに十分な罰則がなければ、「ユーザーの自律」は設定メニューの奥に隠れた装飾品になりかねない。プラットフォームがパーソナライズされた推薦と無限スクロールを設計できる以上、被害発生後にすべての責任を技術的知識に乏しい子どもや保護者に押し付けることは許されない。

反対論者は、政府が安全義務を口実に情報内容に介入することを懸念しており、このリスクは法的境界によって制約される必要がある。草案は現在、成人保護の範囲を既存の犯罪に限定しており、大臣が新たな被害カテゴリーを追加する決定は上院によって否决され得る。本稿はオーストラリア放送協会による草案および関連声明の単一報道に基づくものであり、プラットフォームの回答や最終的な法的本文はまだ照合できない。

真に打破されるべきは、科技プラットフォームがアルゴリズムの支配権を当然の特権とみなす秩序である。オーストラリアの案は少なくとも一つの明確な原則を打ち立てた。推薦コンテンツを選ぶのはユーザーであるべきであり、システムを設計し運用する企業は危害防止の義務を負わなければならず、家庭が世界的な科技企業の安全コストを払い続けるべきではない。