Anthropic अलाइनमेंट प्रमुखाने "अनिर्णीत" सुपरइंटेलिन्स धोका सार्वजनिकपणे मान्य केला, उद्योगाकडून "मानवी जीवनावर पैज लावल्याचा" इशारा

Anthropic अलाइनमेंट सायन्सचे प्रमुख Evan Hubinger यांनी या आठवड्यात दुर्मिळपणे सार्वजनिकपणे मान्य केले की कंपनी आंतरिकरित्या प्रामाणिकपणे वि्वास ठेवते की सुपरइंटेलिजन् या दशकात "सर्व मानवांना मारू शकते", आणि सध्या तथाकथित "अलाइनमेंट समस्ये"वर कोणतेही स्पष्ट समाधान नाही. Anthropic संशोधक Jacob Coxon यांनी राजीनामा दिल्याच्या घोषणेनंतर हा कंपनीच्या आतमधून आलेला नवीन धक्का आहे.

ABC News Australia च्या वृत्तानुसार, Coxon यांनी सोशल मीडिया X वर थेट सांगितले की Anthropic आणि OpenAI मध्ये एकूण तीन वर्षे प्री-ट्रेनिंग संशोधन केल्यानंतर त्यांनी जाण्याचा निर्णय घेतला, कारण "दोन्ही कंपन्या जबाबदारीने वागत नाहीत". त्यांचे मू शब्द होते: "ते सतत स्वतःला सुधारणाऱ्या सुपरइंटेलिजन्कडे धावत आहेत, आमच्या जीवनावर पैज लावत आहेत."

त्यानंतर Hubinger यांनी X वर प्रतिक्रिया दिली की Coxon यांनी सांगितलेले "बरोबर" आहे. त्यांनी लिहिले: "आम्ही खरोखरच विश्वास ठेवतो की AI सर्व मानवांना मारू शकतो! माझ्या वैयक्तिक मते पुढील दशकात ही शक्यता 10% पेक्षा जास्त आहे." कर्पोरेट अस्तित्व आणि मानवी भवितव्याशी संबंधित तांत्रिक मार्गाच्या प्रश्नांवर, त्यांनी त्याच वेळी मान्य केले: "मला वि्वास आहे की Anthropic शक्य तितके प्रयत्न करत आहे, परंतु आमच्याकडे सुपरइंटेलिन्स अलाइनमेंट समस्येवर कोणतेही समाधान नाही, आणि आम्ही अशा समाधानाच्या मार्गावर स्पष्टपणे चालत नाही आहोत."

Coxon हे एकटे उदाहरण नाहीत. या वर्षी जुलैमध्ये, Anthropic, OpenAI आणि इतर फ्रंटियर AI कंपन्यांमधील 1300 हून अधिक कर्मचाऱ्यांनी एक संयुक्त खुले निवेदन जारी केले, ज्यात चेतावणी दिली की "क्षमता विकास आपली आपण तयार केलेल्या प्रणाली समजून घेण्याच्या किंवा नियंत्रित करण्याच्या क्षमतेपेक्षा वेगाने पुढे जा शकतो", आणि अमेरिकन सरकारला आंतरराष्ट्रीय प्रयत्नांना पाठिंबा देण्याचे आवाहन केले, जेणेकरून "्रंटियर AI विकासाचा वेग सजगपणे नियंत्रित करण्याची" साधने निर्माण करता येतील. या उपक्रमाला "Pacing the Frontier" असे नाव दिले गेले.

तथापि, दोन्ही कंपन्यांची संयुक्त पत्राला प्रतिक्रिया तत्त्वांच्या पातीवरच राहिली, विशिष्ट कृतीच्या वचनांच्या पातळीवर नाही. दोन्ही कंपन्यांच्या X प्लॅटॉर्मवरील निवेदनांचा उल्लेख करताना ABC News Australia नुसार, Anthropic ने मान्य केले की गेल्या महिन्यात प्रकाशित केलेले "पुनरावृत्ती स्व-सुधारणा" बद्दलचे त्यांचे संशोधन "फ्रंटियर AI विकासाचा वेग सजगपणे नियंत्रित करण्यासाठी साधनांची गरज दर्वते, जेणेकरून समाज तयार होऊ शकेल"; OpenAI ने अस्पष्ट शब्दांत सांगितले की "म्हाला विश्वास आहे की भविष्यात कधीतरी, फ्रंटियर मॉडेल विकासाचा AI वेग एवा जास्त असू शकतो की जगाला AI प्रगतीचा वेग नियंत्रित करणे आवश्यक होईल". दोन्ही कंपन्यांनी संशोधन थांबवणे किंवा बंधनकारक बाह्य नियमन स्वीकारणे यांचे वचन दिलेले नाही.

नियामक पातळीवरील उणीव आता आंतरराष्ट्रीय व्यासपीठांवर अधिकाधिक थेटपणे निदर्नास आणली जात आहे. ABC News Australia च्या वृत्तानुसार, संयुक्त राष्ट्रांचे मानवी हक्क उच्चायुक्त Volker Turk यांनी सोमवारी जिनिव्हामध्ये चेतावणी दिली की प्रगत AI मानवतेसाठी "अस्तित्वात्मक धोका" निर्माण करू शकतो, आणि त्यांच्या कार्यालयाने सूचीबद्ध केलेले धोके कमी करण्यासाठी संबंधित कंपन्यांवर दबाव आणण्याची शपथ घेतली—यात सार्वजनिक सेवा, संवाद आणि लोकशाही प्रणालींवरील परिणामांचा समावेश आहे. Turk यांनी "वेळ संपण्यापूर्वी" AI सुरक्षिततेसाठी "लोखंडासारखे कठोर" संरक्षण बनवण्याचे आवाहन केले. "मी उद्योगातील लोकांइतकेच चिंतेत आहे की प्रगत AI मानवतेसाी अस्तित्वात्मक धोका निर्माण करू शकतो," असे ते संयुक्त राष्ट्रांच्या एका संस्थेत बोलताना म्हणाले.

"अलानमेंट समस्ये"चे सार हे आहे: मानवी क्षमतेपेक्षा पुढे जाणारी AI प्रणाली मानवी मूल्ये सामायिक करत नसावी. अमेरिकेच्या फेडरल पातीवर अद्याप फ्रंटियर AI साठी बंधनकारक नियामक चौकट स्थापन झालेली नसताना, उद्योग आता सर्वात थेट मार्गाने मान्य करत आहे: या शर्यतीतील धोका आणि बक्षिसी यांचे वितरण सममित नाही—बक्षिसी कॉर्ोरेशन्कडे कोंबलेली आहेत, तर खर् सर्वांवर पडू शकतो.