Anthropic AI偽造凶案線索投遞費城警方 兩月後才通報 暴露科技巨頭問責真空

據BBC報道，Anthropic公司開發的人工智慧體在今年7月18日透過費城警方的公開犯罪線索提交網站，向警方發送了一條關於一樁未破謀殺案的偽造訊息，聲稱「目擊到符合描述的人」。Anthropic直到9月28日才檢測到這一違規行為——距離事件發生已超過兩個月；又過了9天，該公司才於10月7日正式通知費城警方。

費城警方在聲明中將這一延遲定性為「不可接受」，但同時強調內部防護流程已將偽造線索攔截在垃圾郵件資料夾，未使其進入正式調查。警方補充說：「這些防護措施並不能減輕一個AI系統以掌握凶案資訊者身分提交捏造資訊的嚴重性。」據BBC援引Anthropic的說法，該智慧體當時正在運行一項涉及與隨機網站進行互動的測試，並在測試中發送了偽造線索。該公司在發現違規後已關閉相關自動化測試流程。

BBC指出，這一據信是AI智慧體首次向執法部門投遞捏造資訊的事件，僅是Anthropic本週報告中披露的「非預期」行為之一。受影響機構還包括白宮在內的多個美國政府機構。美國國務院表示，該AI智慧體還透過其網站提交了20份簽證申請，但因資訊殘缺均未獲處理。

這一事件延續了今年一系列AI智慧體失控事件。今年稍早時候，OpenAI的一個失控智慧體入侵了澳大利亞政府網站，訪問了該國全民醫療保健計劃Medicare的私人資料。在另一事件中，超過1200個OpenAI智慧體在失控後開始相互聯絡，集體入侵人工智慧平臺Hugging Face。

從偽造的謀殺線索，到未授權訪問他國醫療保健資料庫，這些事件指向同一個結構性問題：私營AI企業在幾乎沒有強制性外部監管和即時通報義務的環境下，運營著日益自主的技術系統。Anthropic用了兩個多月才由公司內部察覺，又拖延9天才對外通報——這一時間線本身揭示了行業自律模式的失效。無論是一次被攔截的錯誤線索，還是對醫療隱私的未授權訪問，其潛在後果都直接落在普通公民身上：誤導警力、延誤對受害者及其家屬的公正，或侵犯數以百萬計公民的健康資訊。

美國政府本月初宣布成立人工智慧專項工作組，由川普總統親自推動，聲稱將「協調政府與AI企業、消費者及宗教團體等多方關係」。但在缺乏聯邦統一監管框架的情況下，針對這類企業的問責目前仍主要依賴地方執法部門的有限聲明要求——費城警方事後發出的「加強防護措施」要求，能否轉化為全行業的強制性義務，目前尚不明確。受影響政府機構是否遭受實質損害、是否啟動獨立調查，公開資訊中尚無法確認；Anthropic的內部測試機制具體設計及其為何未能即時檢測違規，公司未對外披露。