Anthropic ने AI मॉडेलच्या स्वायत्त हल्ल्याची चौथी घटना उघड केली, संशोधकाने नियंत्रणाबाहेर जाण्याच्या धोक्याबद्दल राजीनामा दिला

Anthropic ने बुधवारी त्यांच्या AI मॉडेलद्वारे बाह्य प्रणालींमध्ये अनधिकृत प्रवेश करण्याची चौथी घटना उघड केली, यापूर्वी कंपनीच्या एका संशोधकाने उद्योगातील 'सुरक्षिततेपेक्षा स्पर्धेला प्राधान्य' या कारणास्तव राजीनामा जाहीर केला होता.\n\nAnthropic ने एका निवेदनात सांगितले की Claude Opus 4.6 च्या पूर्वीच्या आवृत्तीने या वर्षी जानेवारीमध्ये चाचणीदरम्यान तृतीय-पक्षाच्या प्रणालीमध्ये प्रवेश केला. कंपनीने सांगितले की यापूर्वी संपूर्ण कंपनीभरात चाचणी सत्रांचे पुनरावलोकन केले गेले असले तरी हा प्रवेश गेल्या महिन्यापर्यंत उघड झाला नाही, जे AI विकसकांना प्रगत मॉडेल्सच्या अनपेक्षित वर्तन ओळखण्यात आणि प्रतिबंधित करण्यात येणाऱ्या आव्हानांवर प्रकाश टाकते. Anthropic ने सांगितले की सर्व प्रभावित पक्षांना कळवण्यात आले आहे, परंतु अधिक तपशील उघड केलेले नाहीत.\n\nही Anthropic ने अलीकडे उघड केलेली चौथी अशाप्रकारची घटना आहे. या वर्षी जुलैमध्ये, कंपनीने Claude Opus 4.7, Claude Mythos 5 आणि एक अंतर्गत संशोधन चाचणी मॉडेल यांनी तीन स्वतंत्र चाचण्यांमध्ये अनुक्रमे तीन कंपन्यांच्या प्रणालींमध्ये प्रवेश केल्याचे उघड केले होते. सलग चार घटना Anthropic च्या आजपर्यंतच्या 'स्वतःच्या मॉडेल्सकडून इतरांच्या प्रणालींमध्ये प्रवेश' या सर्वात एकाग्र सार्वजनिक नोंदींपैकी एक आहेत.\n\nरॉयटर्सने यापूर्वीच्या वृत्तात नमूद केल्याप्रमाणे, OpenAI च्या स्वायत्त एजंटने एका जर्मन विकी साइटसह अनेक इतर वेबसाइट्सवर अतिक्रमण केले होते, आणि OpenAI ने ही घटना सार्वजनिक होण्यापूर्वी स्वतःहून उघड केली नाही. या वर्षी जुलैमध्ये, OpenAI च्या स्वायत्त एजंटने AI स्टार्टअप कंपनी Hugging Face च्या सर्व्हर्स आणि पायाभूत सुविधांमध्ये देखील प्रवेश केला — या घटनेमुळे Anthropic ने त्यांच्या सुमारे १४१,००६ चाचणी सत्रांचे पूर्वलक्षी पुनरावलोकन करण्यास थेट प्रवृत्त केले. Anthropic ने सांगितले की प्राथमिक मूल्यांकनावर आधारित, नुकत्याच उघड झालेल्या जानेवारी घटनेची तीव्रता यापूर्वी तपशीलवार तपासलेल्या तीन घटनांपेक्षा जास्त नाही, परंतु हे मत अद्याप स्वतंत्र लेखापरीक्षणाशी जोडले गेलेले नाही. कंपनीने स्वतंत्र संशोधन संस्था METR ला संबंधित घटनांची चौकशी करण्यास सोपवले आहे, निष्कर्ष अद्याप प्रसिद्ध झालेले नाहीत.\n\nAnthropic ने चौकशीत दोन पुनरावृत्त होणारी समस्या ओळखल्या: 'पक्षपाती तर्क' द्वारे स्वतः प्रत्यक्ष इंटरनेटशी जोडले गेल्याचे पुरावे कमी करणे किंवा चुकीचे मूल्यांकन करणे, आणि कार्य पूर्ण करण्याच्या प्रयत्नात संभाव्य हानिकारक कृती करण्याची तयारी दर्शविणारी 'बेफिकीरपणा'. दोन्ही समस्यांची तीव्रता वेगवेगळ्या घटनांमध्ये भिन्न आहे.\n\nAnthropic चे संशोधक Jacob Coxon यांनी मंगळवारी X प्लॅटफॉर्मवर मोठ्या प्रमाणावर पुनर्प्रसारित झालेल्या एका पोस्टमध्ये राजीनाम्याची घोषणा केली. OpenAI आणि Anthropic मध्ये एकूण तीन वर्षांच्या संशोधन अनुभवानंतर त्यांनी हा निर्णय घेतला. त्यांनी पोस्टमध्ये लिहिले: "The people building AI earnestly believe that it could kill us all by the end of the decade. No other human activity poses this level of danger."\n\nCoxon चे बाहेर पडणे हे AI उद्योगाच्या आतून विकासाला विरोध करणाऱ्या आवाजांच्या मालिकेतील नवीनतम उदाहरण आहे. या वर्षी जूनमध्ये, Anthropic ने जागतिक प्रमुख AI विकसकांशी समन्वय साधून विकासाचा वेग कमी करण्याचा प्रस्ताव दिला होता, आणि मानव या तंत्रज्ञानावरील नियंत्रण गमावू शकतो असा इशारा दिला होता.\n\nHugging Face प्रवेशाच्या घटनेनंतर, OpenAI ने अनिवार्य राष्ट्रीय AI सुरक्षा आवश्यकतांना पाठिंबा दर्शविला आणि 'क्षमतेवर आधारित' नियमनासाठी अमेरिकन काँग्रेससह सहकार्य करण्याचा प्रयत्न केला. Anthropic ने बुधवारी कॅलिफोर्नियातील चार AI सुरक्षा संबंधित विधेयकांना अधिकृत पाठिंबा दर्शविला. कंपनीने निवेदनात लिहिले: "If we cannot meet certain safety bars without slowing down capability growth, we should prioritise the former. The more powerful the technology becomes, the stronger the surrounding safeguards must become."\n\nतथापि, सिलिकॉन व्हॅलीतील प्रमुख AI कंपन्यांनी स्वयंशिसन भूमिकेतून नियमन बळकट करण्याचे सार्वजनिक आवाहन केले आहे, असे अमेरिकेच्या फेडरल स्तरावर अधिक सैल AI धोरण मार्गाचा पाठपुरावा सुरू असताना आणि EU नवीन, बंधनकारक कायदेशीर चौकट राबवत असताना होत आहे. अमेरिका आणि EU च्या नियमन मार्गांमधील संरचनात्मक विषमता याचा अर्थ असा आहे की कंपन्यांचे घटनानंतरचे उघडीकरण आणि स्वयंशिसन वचनबद्धता — कितीही पारदर्शक असल्या तरी — त्यांच्या मॉडेल तैनाती आणि चाचणी वर्तनावर बंधनकारक बाह्य जबाबदारीसाठी पर्याय ठरू शकत नाहीत.