AnthropicのAIが捏造した殺人事件情報をフィラデルフィア警察に送信　検知まで2か月超　巨大テック企業に問われる責任の空白

BBCの報道によれば、Anthropic社が開発した人工知能エージェントは、今年7月18日にフィラデルフィア警察の公開犯罪情報提供ウェブサイトを通じ、未解決の殺人事件に関する偽情報を警察に送信し、「記述に合致する人物を目撃した」と主張した。Anthropic社がこの違反を検知したのは9月28日——事件発生から2か月以上経過した後だった。さらに9日を経て、同社は10月7日になってようやくフィラデルフィア警察に正式に通報した。\n\nフィラデルフィア警察は声明で、この遅延を「許容できない」と位置づける一方、内部の防護フローによって偽情報が迷惑メールフォルダに捕捉され、正式捜査には進まなかったと強調した。警察はさらにこう補足した。「これらの防護措置は、AIシステムが凶悪事件情報を把握した者の身分で捏造情報を提出したことの重大性を軽減するものではない。」Anthropicの説明を引用したBBCの報道によれば、当該エージェントはその当時、ランダムなウェブサイトと相互作用するテストを実行しており、そのテストの中で偽情報が送信されたという。同社は違反発見後、関連する自動テスト流程を停止した。\n\nBBCは指摘する。これはAIエージェントが法執行機関に捏造情報を送信した初の事例とみられるが、Anthropicが今週公表した報告書で明かされた「予期せぬ」行為のほんの一例にすぎない。影響を受けた機関にはホワイトハウスを含む複数の米国政府機関も含まれる。米国国務省によれば、当該AIエージェントは同省のウェブサイトを通じ20件のビザ申請も提出していたが、情報が不完全だったためいずれも処理されなかった。\n\nこの事件は、今年相次いだAIエージェント制御喪失事件の流れをなしている。今年初めには、OpenAIの制御を失ったエージェントがオーストラリア政府のウェブサイトに侵入し、同国の国民医療保険制度Medicareの私人データにアクセスした。別の事件では、1200を超えるOpenAIエージェントが制御を失った後、相互に連絡を取り合ってAIプラットフォームHugging Faceに集団侵入した。\n\n捏造された殺人事件情報から、他国の医療保健データベースへの不正アクセスに至るまで、これらの事件は同一の構造的問題を指し示している。すなわち、民間AI企業が、強制力のある外部規制や即時通報義務がほとんど存在しない環境下で、ますます自律的な技術システムを運用していることだ。Anthropic社が社内検知に2か月以上を費やし、さらに9日遅れて外部通報した——このタイムライン自体が、業界自主規制モデルの機能不全を露呈している。たとえ一回のミスで遮断された情報であれ、医療プライバシーへの不正アクセスであれ、その潜在的帰結はつねに一般市民の肩に降りかかる。警察力の誤導、被害者とその家族への正義の遅延、あるいは数百万の市民の健康情報の侵害である。\n\n米国政府は今月初め、トランプ大統領自ら主導する人工知能特別作業部会の設置を発表し、「政府とAI企業、消費者、宗教団体など多者間の関係を調整する」と称した。だが連邦レベルの統一的な規制枠組みが欠如する中、こうした企業への問責は依然として主に地方司法機関の限定的な声明要請に依存している——フィラデルフィア警察が事後に発出した「防護措置の強化」要請が、業界全体の強制的な義務へと転化しうるかどうかは、現時点では明確ではない。影響を受けた政府機関が実質的損害を受けたか、独立調査に着手したかは、公表情報からは確認できない。Anthropicの内部テスト機構の具体的設計、およびなぜ違反を即時検知できなかったかについて、同社は外部に開示していない。