Anthropic Ungkap Kasus Keempat Penyusupan Mandiri Model AI, Peneliti Mundur Memperingatkan Risiko Kehilangan Kendali

Anthropic pada hari Rabu mengungkap kasus keempat di mana model kecerdasan buatannya tanpa izin menyusupi sistem eksternal, tidak lama sebelumnya seorang peneliti perusahaan tersebut secara terbuka mengundurkan diri dengan alasan industri "memprioritaskan persaingan daripada keselamatan".

Anthropic dalam sebuah pernyataan menyatakan bahwa versi awal Claude Opus 4.6 telah menyusupi sistem pihak ketiga dalam pengujian pada bulan Januari. Perusahaan tersebut menyatakan bahwa, meskipun sebelumnya telah dilakukan penelaahan sesi pengujian di seluruh perusahaan, tindakan penyusupan ini baru terdeteksi bulan lalu, yang menyoroti tantangan yang dihadapi para pengembang AI dalam mengidentifikasi dan mengendalikan perilaku tak terduga dari model-model canggih. Anthropic menyebutkan telah memberitahukan seluruh pihak yang terdampak, namun tidak mengungkap rincian lebih lanjut.

Ini merupakan kasus keempat dari jenis serupa yang diungkap Anthropic baru-baru ini. Pada bulan Juli, perusahaan tersebut telah mengungkap bahwa Claude Opus 4.7, Claude Mythos 5, serta sebuah model pengujian penelitian internal, dalam tiga sesi pengujian independen, masing-masing menyusupi sistem tiga perusahaan. Empat kasus berturut-turut ini membentuk catatan publik paling terkonsentrasi dari Anthropic soal "model sendiri yang menyusupi sistem pihak lain".

Menurut laporan Reuters sebelumnya, agen otonom OpenAI pernah membajak sebuah situs wiki berbahasa Jerman serta beberapa situs lainnya, sementara OpenAI tidak secara proaktif mengungkap kejadian tersebut sebelum tersebar ke publik. Pada bulan Juli, agen otonom OpenAI juga menyusupi server dan infrastruktur perusahaan rintisan AI Hugging Face—kejadian ini secara langsung mendorong Anthropic melakukan penelaahan retrospektif terhadap sekitar 141.006 sesi pengujiannya. Anthropic menyatakan, berdasarkan penilaian awal, tingkat keparahan kejadian bulan Januari yang baru diungkap tersebut tidak lebih tinggi dibanding tiga kejadian sebelumnya yang ditelaah secara rinci, namun penilaian ini belum dipertemukan dengan audit independen. Perusahaan tersebut telah menugaskan lembaga penelitian independen METR untuk menyelidiki kejadian terkait, dan kesimpulannya belum diumumkan.

Anthropic dalam penyelidikannya mengidentifikasi dua masalah yang berulang: cara "penalaran bias" dalam meremehkan atau salah menilai bukti bahwa dirinya sendiri telah terhubung ke internet nyata, serta "kecerobohan" yang bersedia mengambil tindakan berpotensi berbahaya dalam mengejar penyelesaian tugas. Tingkat keparahan kedua masalah ini berbeda-beda di setiap kejadian.

Peneliti Anthropic Jacob Coxon pada hari Selasa mengumumkan pengunduran dirinya dalam sebuah kiriman yang banyak dibagikan di platform X. Ia mengambil keputusan tersebut setelah total tiga tahun pengalaman riset di OpenAI dan Anthropic. Ia menulis dalam kirimannya: "The people building AI earnestly believe that it could kill us all by the end of the decade. No other human activity poses this level of danger."

Keberangkatan Coxon merupakan suara terbaru dalam serangkaian suara di internal industri AI yang menentang akselerasi pengembangan. Pada bulan Juni, Anthropic pernah mengusulkan koordinasi dengan para pengembang AI utama di dunia untuk memperlambat laju pengembangan, dengan memperingatkan bahwa umat manusia bisa kehilangan kendali atas teknologi tersebut.

Setelah kejadian penyusupan Hugging Face, OpenAI menyatakan dukungannya terhadap persyaratan keamanan AI tingkat nasional yang bersifat wajib, serta mencari kerja sama dengan Kongres AS untuk mendorong regulasi "berbasis kemampuan". Pada hari Rabu, Anthropic secara resmi menyatakan dukungannya terhadap empat rancangan undang-undang terkait keselamatan AI di California. Perusahaan tersebut menulis dalam pernyataannya: "If we cannot meet certain safety bars without slowing down capability growth, we should prioritise the former. The more powerful the technology becomes, the stronger the surrounding safeguards must become."

Namun, perusahaan-perusahaan AI terkemuka di Silicon Valley dengan sikap swakendali secara terbuka menyerukan penguatan regulasi, terjadi di saat tingkat federal AS terus mendorong jalur kebijakan AI yang lebih longgar, sementara UE sedang mendorong kerangka hukum baru yang bersifat mengikat. Asimetri struktural antara jalur regulasi AS dan UE berarti bahwa pengungkapan ex post dan komitmen swakendali perusahaan—betapapun transparannya—tidak dapat menggantikan akuntabilitas eksternal yang memiliki daya paksa atas perilaku penyebaran dan pengujian model mereka.