Anthropic के अलाइनमेंट प्रमुख ने सार्वजनिक रूप से स्वीकार किया 'हल न होने योग्य' सुपरइंटेलिजेंस जोखिम, उद्योग ने चेतावनी दी 'मानव जीवन दांव पर है'

Anthropic के अलाइनमेंट विज्ञान प्रमुख Evan Hubinger ने इस सप्ताह एक दुर्लभ सार्वजनिक स्वीकारोक्ति में कहा कि कंपनी आंतरिक रूप से सच में मानती है कि सुपरइंटेलिजेंस इसी दशक में "सभी मनुष्यों को मार सकती है", और तथाकथित "अलाइनमेंट समस्या" का अभी कोई स्पष्ट समाधान मौजूद नहीं है। यह Anthropic के शोधकर्ता Jacob Coxon के इस्तीफे की घोषणा के बाद कंपनी के भीतर से आई नवीनतम हलचल है।

ABC News Australia की रिपोर्ट के अनुसार, Coxon ने सोशल मीडिया X पर सीधे कहा कि उन्होंने Anthropic और OpenAI में कुल मिलाकर तीन वर्षों तक प्री-ट्रेनिंग अनुसंधान करने के बाद जाने का फैसला इसलिए किया क्योंकि "दोनों कंपनियां जिम्मेदारी से काम नहीं कर रही हैं।" उनके शब्दों में: "वे आत्म-सुधार करने वाली सुपरइंटेलिजेंस की ओर तेजी से दौड़ रहे हैं, और दांव पर हमारे जीवन are।"

Hubinger ने बाद में X पर जवाब देते हुए कहा कि Coxon ने "सही" कहा। उन्होंने लिखा: "हम वास्तव में सच में मानते हैं कि AI सभी मनुष्यों को मार सकती है! मेरी व्यक्तिगत राय में अगले दस वर्षों में ऐसा होने की संभावना 10 प्रतिशत से अधिक है।" कॉर्पोरेट अस्तित्व और मानव भाग्य से जुड़े तकनीकी रास्ते के मामले पर उन्होंने यह भी स्वीकार किया: "मुझे विश्वास है कि Anthropic अपना सर्वश्रेष्ठ प्रयास कर रहा है, लेकिन हमारे पास अभी सुपरइंटेलिजेंस अलाइनमेंट समस्या का कोई समाधान नहीं है, और हम उस समाधान की ओर स्पष्ट रूप से आगे भी नहीं बढ़ रहे हैं।"

Coxon अकेला उदाहरण नहीं हैं। इस जुलाई में, Anthropic, OpenAI और अन्य फ्रंटियर AI कंपनियों के 1300 से अधिक कर्मचारियों ने एक संयुक्त सार्वजनिक बयान पर हस्ताक्षर किए, जिसमें चेतावनी दी गई कि "क्षमता का विकास उस गति से आगे निकल सकता है जिस गति से हम इन प्रणालियों को समझ या नियंत्रित कर सकें", और अमेरिकी सरकार से अंतरराष्ट्रीय प्रयासों का समर्थन करने की अपील की गई ताकि "फ्रंटियर AI विकास की गति को सचेत रूप से नियंत्रित करने वाले उपकरण" स्थापित किए जा सकें। इस पहल का नाम "Pacing the Frontier" रखा गया।

हालांकि, दोनों कंपनियों की ओर से संयुक्त बयान पर प्रतिक्रिया सिद्धांत के स्तर पर ही रही, ठोस कार्रवाई के वादे के स्तर पर नहीं। ABC News Australia द्वारा दोनों कंपनियों के X प्लेटफॉर्म बयानों का हवाला देते हुए, Anthropic ने स्वीकार किया कि उसके पिछले महीने "रिकर्सिव सेल्फ-इम्प्रूवमेंट" पर प्रकाशित शोध "इस बात की ओर इशारा करता है कि फ्रंटियर AI विकास की गति को सचेत रूप से नियंत्रित करने वाले उपकरणों की आवश्यकता है ताकि समाज तैयारी कर सके"; OpenAI ने अस्पष्ट शब्दों में कहा कि "हमारा मानना है कि किसी भविष्य के क्षण पर फ्रंटियर मॉडल विकास द्वारा उत्पन्न AI त्वरण इतना अधिक हो सकता है कि दुनिया को AI प्रगति की गति को नियंत्रित करने की आवश्यकता होगी।" दोनों कंपनियों ने अनुसंधान रोकने या बाध्यकारी बाहरी नियमन स्वीकार करने का कोई वादा नहीं किया।

नियामक स्तर की कमी को अब अंतरराष्ट्रीय मंचों पर बढ़ती सीधेपन के साथ नाम लिया जा रहा है। ABC News Australia की रिपोर्ट के अनुसार, संयुक्त राष्ट्र मानवाधिकार उच्चायुक्त Volker Turk ने सोमवार को जिनेवा में चेतावनी दी कि उन्नत AI मानवता के लिए "अस्तित्वगत जोखिम" पैदा कर सकता है, और उन्होंने संबंधित कंपनियों पर उनके कार्यालय द्वारा सूचीबद्ध जोखिमों—जिसमें सार्वजनिक सेवाओं, संचार और लोकतांत्रिक प्रणालियों पर प्रभाव शामिल हैं—को कम करने के लिए दबाव डालने की प्रतिज्ञा की। Turk ने "बहुत देर होने से पहले" AI सुरक्षा के लिए "लोहे जैसे मजबूत सुरक्षा उपाय" गढ़ने की अपील की। "मैं उद्योग के आंतरिक लोगों की तरह ही उन्नत AI के मानवता के लिए अस्तित्वगत जोखिम पैदा करने को लेकर चिंतित हूं," उन्होंने संयुक्त राष्ट्र एजेंसी में कहा।

"अलाइनमेंट समस्या" का सार यह है: एक ऐसी AI प्रणाली जो मानवीय क्षमताओं से परे हो, संभवतः मानवीय मूल्यों को साझा नहीं करती। अमेरिकी संघीय स्तर पर अभी तक फ्रंटियर AI के लिए बाध्यकारी नियामक ढांचा स्थापित नहीं होने की पृष्ठभूमि में, उद्योग के भीतर से अब सबसे स्पष्ट तरीके से यह स्वीकार किया जा रहा है कि इस दौड़ में जोखिम और प्रतिफल का वितरण असमान है—लाभ कंपनियों के पास बंद है, कीमत संभवतः सभी पर पड़ेगी।