Kepala Alignment Anthropic Akui Secara Terbuka Risiko Kecerdasan Super 'Tanpa Solusi', Industri Peringatkan 'Mempertaruhkan Nyawa Manusia'

Evan Hubinger, Kepala Sains Alignment di Anthropic, secara langka mengakui secara terbuka minggu ini bahwa internal perusahaan benar-benar percaya bahwa kecerdasan super dapat 'membunuh seluruh umat manusia' dalam dekade ini, dan saat ini belum ada solusi yang jelas untuk apa yang disebut 'masalah alignment'. Ini merupakan guncangan terbaru dari internal perusahaan setelah peneliti Anthropic, Jacob Coxon, mengumumkan pengunduran dirinya.

Menurut laporan ABC News Australia, Coxon secara blak-blakan menyatakan di media sosial X bahwa ia memilih pergi setelah terlibat dalam riset prapelatihan selama tiga tahun di Anthropic dan OpenAI, dengan alasan 'kedua perusahaan tidak bertindak secara bertanggung jawab'. Pernyataannya persis: 'Mereka berlari menuju kecerdasan super yang memperbaiki dirinya sendiri, dengan mempertaruhkan nyawa kita.'

Hubinger kemudian menanggapi di X bahwa pernyataan Coxon 'benar'. Ia menulis: 'Kami memang benar-benar percaya AI dapat membunuh seluruh umat manusia! Secara pribadi saya memperkirakan probabilitas kejadian dalam sepuluh tahun ke depan melebihi 10%.' Dalam persoalan jalur teknologi yang menyangkut kelangsungan hidup perusahaan dan nasib umat manusia, ia juga mengakui: 'Saya percaya Anthropic sedang berusaha semaksimal mungkin, namun kami belum memiliki solusi untuk masalah alignment kecerdasan super, dan juga belum jelas berada di jalur menuju solusi tersebut.'

Coxon bukanlah kasus tunggal. Pada bulan Juli tahun ini, lebih dari 1.300 karyawan dari Anthropic, OpenAI, dan perusahaan AI mutakhir lainnya menandatangani pernyataan publik bersama, memperingatkan bahwa 'kemampuan mungkin berkembang melampaui kapasitas kita untuk memahami atau mengendalikan sistem yang kita hasilkan', dan menyerukan pemerintah AS untuk mendukung upaya internasional membangun alat yang mampu 'secara sadar mengendalikan kecepatan pengembangan AI mutakhir'. Inisiatif ini dinamai 'Pacing the Frontier'.

Namun, tanggapan kedua perusahaan terhadap pernyataan bersama tersebut hanya tetap pada tataran prinsip, bukan pada komitmen tindakan konkret. Menurut pernyataan kedua perusahaan di platform X yang dikutip ABC News Australia, Anthropic mengakui bahwa riset mereka yang dipublikasikan bulan lalu tentang 'perbaikan diri rekursif' 'menunjukkan perlunya alat untuk secara sadar mengendalikan kecepatan pengembangan AI mutakhir agar masyarakat dapat bersiap'; sementara OpenAI secara redaksional samar menyatakan, 'Kami percaya, pada suatu titik di masa depan, akselerasi AI dari pengembangan model mutakhir dapat menjadi begitu tinggi sehingga dunia perlu mengendalikan kecepatan kemajuan AI'. Kedua perusahaan tidak berjanji menghentikan riset dan pengembangan atau menerima regulasi eksternal yang mengikat.

Kekosongan regulasi kini semakin sering disebut secara langsung di panggung internasional. Menurut laporan ABC News Australia, Komisaris Tinggi Urusan HAM PBB Volker Turk, pada hari Senin di Jenewa, memperingatkan bahwa AI canggih dapat menimbulkan 'risiko eksistensial' bagi umat manusia, dan berjanji akan memberi tekanan kepada perusahaan terkait untuk mengurangi risiko yang diuraikan kantornya — termasuk dampak terhadap layanan publik, komunikasi, dan sistem demokrasi. Turk menyerukan 'jaminan yang sekeras besi' bagi keselamatan AI 'sebelum terlambat'. 'Saya sama prihatinnya dengan orang-orang di dalam industri bahwa AI canggih dapat menimbulkan risiko eksistensial bagi umat manusia,' ujarnya saat berbicara di lembaga PBB.

Inti dari 'masalah alignment' terletak pada kenyataan bahwa sistem AI yang melampaui kemampuan manusia belum tentu berbagi nilai-nilai kemanusiaan. Di tengah belum adanya kerangka regulasi yang mengikat di tingkat federal AS terkait AI mutakhir, internal industri kini tengah mengakui dengan cara paling blak-blakan: distribusi risiko dan imbal hasil dari perlombaan ini tidak simetris — keuntungan dikunci oleh perusahaan, sementara biaya dapat ditanggung oleh semua orang.