Ketua Penjajaran Anthropic Akui Secara Terbuka Risiko Kecerdasan Super 'Tanpa Penyelesaian', Industri Amarkan 'Mempertaruhkan Nyawa Manusia'

Ketua Sains Penjajaran Anthropic, Evan Hubinger, minggu ini secara luar biasa mengakui secara terbuka bahawa syarikat itu benar-benar percaya kecerdasan super mungkin akan 'membunuh seluruh manusia' dalam dekad ini, dan pada masa ini tiada penyelesaian yang jelas untuk apa yang dikenali sebagai 'masalah penjajaran'. Ini merupakan gegaran terbaru dari dalam syarikat selepas penyelidik Anthropic, Jacob Coxon, mengumumkan peletakan jawatannya.

Menurut laporan ABC News Australia, Coxon secara terus terang di platform media sosial X berkata bahawa dia memilih untuk keluar selepas mengumpul tiga tahun pengalaman dalam penyelidikan pralatihan di Anthropic dan OpenAI, dengan alasan 'kedua-dua syarikat tidak bertindak secara bertanggungjawab'. Kata-katanya yang asal ialah: 'Mereka sedang berlari menuju kecerdasan super yang boleh memperbaiki diri sendiri, dengan mempertaruhkan nyawa kita.'

Hubinger kemudian membalas di X dengan menyatakan bahawa kata-kata Coxon adalah 'betul'. Dia menulis: 'Kami memang benar-benar percaya AI mungkin membunuh seluruh manusia! Saya secara peribadi percaya kebarangkalian ini berlaku dalam dekad akan datang melebihi 10 peratus.' Dalam isu hala tuju teknologi yang menyentuh kelangsungan hidup syarikat dan nasib manusia, dia turut mengakui: 'Saya percaya Anthropic sedang berusaha sebaik mungkin, tetapi kami masih belum mempunyai penyelesaian untuk masalah penjajaran kecerdasan super, dan juga belum jelas berada di atas laluan menuju penyelesaian tersebut.'

Coxon bukanlah kes terpencil. Pada bulan Julai tahun ini, lebih 1,300 pekerja dari Anthropic, OpenAI dan syarikat AI perintis lain menandatangani kenyataan terbuka, memberi amaran bahawa 'pembangunan keupayaan mungkin dengan pantas mengatasi keupayaan kita untuk memahami atau mengawal sistem yang dihasilkan', dan mendesak kerajaan Amerika Syarikat menyokong usaha antarabangsa untuk menubuhkan alat yang boleh 'secara sedar mengawal kadar pembangunan AI perintis'. Inisiatif itu dinamakan 'Pacing the Frontier'.

Bagaimanapun, respons kedua-dua syarikat terhadap tandatangan tersebut kekal di peringkat prinsip, dan bukannya komitmen tindakan yang konkrit. Menurut kenyataan platform X kedua-dua syarikat yang dipetik oleh ABC News Australia, Anthropic mengakui bahawa penyelidikannya tentang 'peningkatan kendiri rekursif' yang diterbitkan bulan lepas 'menunjukkan keperluan alat untuk secara sedar mengawal kadar pembangunan AI perintis agar masyarakat dapat bersedia'; OpenAI pula menyatakan secara samar-samar bahawa 'kami percaya pada satu ketika pada masa hadapan, pecutan AI dalam pembangunan model perintis mungkin begitu tinggi sehingga dunia perlu mengawal kadar kemajuan AI'. Kedua-dua syarikat tidak berjanji untuk menggantung penyelidikan dan pembangunan atau menerima peraturan luar yang mengikat.

Kekosongan di peringkat peraturan semakin dinamakan secara langsung di peringkat antarabangsa. Menurut laporan ABC News Australia, Pesuruhjaya Tinggi Hak Asasi Manusia Pertubuhan Bangsa-Bangsa Bersatu, Volker Turk, pada hari Isnin memberi amaran di Geneva bahawa AI perintis mungkin menimbulkan 'risiko kemandirian' kepada manusia, dan berikrar untuk memberi tekanan kepada syarikat berkaitan bagi mengurangkan risiko yang disenaraikan oleh pejabatnya — termasuk kesan terhadap perkhidmatan awam, komunikasi dan sistem demokrasi. Turk menyeru supaya 'kewujudan jaminan yang kukuh seperti besi' untuk keselamatan AI 'sebelum terlambat'. 'Saya bimbang, seperti orang dalam industri, bahawa AI perintis mungkin menimbulkan risiko kemandirian kepada manusia,' katanya ketika berucap di agensi PBB.

Pada dasarnya, 'masalah penjajaran' bermaksud: sistem AI yang melebihi keupayaan manusia mungkin tidak berkongsi nilai-nilai manusia. Dalam latar belakang bahawa kerajaan persekutuan Amerika Syarikat belum menubuhkan rangka kerja peraturan yang mengikat untuk AI perintis, pihak dalam industri kini mengakui dengan cara yang paling terus terang: pengagihan risiko dan ganjaran dalam perlumbaan ini tidak simetri — keuntungan dikunci oleh syarikat, manakala kos mungkin menimpa semua orang.