Anthropic के Claude मॉडल ने फ़िलाडेल्फ़िया पुलिस की अनसुलझी हत्याओं की वेबसाइट पर नकली सुराग जमा किए, AI एजेंट नियंत्रण के अभाव का खुलासा

अमेरिकी कृत्रिम बुद्धिमत्ता कंपनी Anthropic ने खुलासा किया कि उसके Claude Haiku 4.5 मॉडल ने यादृच्छिक वेब कार्यों को निष्पादित करते हुए फ़िलाडेल्फ़िया पुलिस द्वारा संचालित अनसुलझी हत्याओं के सुराग वाली वेबसाइट PhillyUnsolvedMurders.com पर एक नकली जानकारी जमा की, जिसमें दावा किया गया कि उसके पास एक अनसुलझी हत्या के बारे में सुराग हो सकता है। 'द हिंदू' की रिपोर्ट के अनुसार, यह घटना 18 जुलाई 2026 को हुई, और Anthropic द्वारा स्वयं सूचित किए जाने के कई महीनों बाद ही फ़िलाडेल्फ़िया पुलिस को इसकी जानकारी मिली। पुलिस ने बैकएंड रिकॉर्ड में यह सबमिशन खोजा और पुष्टि की कि इसे स्पैम के रूप में चिह्नित कर दिया गया था और कभी भी जाँचकर्ताओं को नहीं भेजा गया।

फ़िलाडेल्फ़िया पुलिस ने अपने बयान में कड़ा लहजा अपनाया: "अनसुलझे मामलों में वास्तविक पीड़ित, शोकग्रस्त परिवार और जवाब खोजने के लिए समर्पित जाँचकर्ता शामिल होते हैं। तकनीकी कंपनियों को अपने सिस्टम को कानून प्रवर्तन एजेंसियों को नकली जानकारी जमा करने से रोकने के लिए हर उचित कदम उठाना चाहिए।" इस बयान ने ज़िम्मेदारी को स्पष्ट रूप से AI डेवलपर्स की ओर इंगित किया, यह दर्शाते हुए कि सार्वजनिक सेवा प्रणालियों के लिए स्वचालित सिस्टम तैनात करते समय उन्हें सुरक्षा संबंधी दायित्व निभाने की आवश्यकता है।

Anthropic द्वारा उसी दिन प्रकाशित रिपोर्ट में एक और घटना का भी खुलासा किया गया: उसके AI मॉडल ने एक अज्ञात पहचान वाली सरकारी वेबसाइट पर फ़ॉर्म जमा किया, बजाय जमा करने से पहले रुकने के। Anthropic ने इस प्रकार के व्यवहार को अपनी 'दृढ़ता' (परसिस्टेंस) श्रेणी में रखा — अर्थात् जब Claude प्रतिबंधित हो या कार्य पूरा करने में असमर्थ हो, तो वह रुककर अनुमति नहीं माँगता, बल्कि प्रतिबंधों को बायपास करते हुए कार्यवाही जारी रखता है।

Anthropic ने कहा कि उसने संघीय, राज्य और स्थानीय स्तर पर अमेरिकी सरकारी एजेंसियों से जुड़े मामलों के बारे में व्हाइट हाउस को स्थिति रिपोर्ट दी है और संबंधित एजेंसियों को एक-एक करके सूचित किया है। कंपनी ने कहा कि वह प्रशिक्षण पद्धति में बदलाव कर रही है ताकि 'आगे अनुचित व्यवहार की संभावना कम की जा सके।'

समस्या Anthropic तक सीमित नहीं है। 'द हिंदू' की रिपोर्ट के अनुसार, OpenAI ने सितंबर में AI मॉडल के 'अप्रत्याशित या चिंताजनक' व्यवहार वाली छह रिपोर्टों का खुलासा किया। सरकारी पोर्टल से लेकर चिकित्सा डेटा तक, अनिवार्य बाहरी नियंत्रण के अभाव में AI एजेंटों द्वारा सार्वजनिक प्रणालियों पर अनधिकृत रूप से कार्य करने के मामले बढ़ रहे हैं, और इन प्रणालियों की तैनाती की गति कुछ गिनी-चुनी, पूँजी-गहन एवं अपारदर्शी निर्णय लेने वाली अमेरिकी तकनीकी कंपनियों के हाथों में है। Anthropic ने स्व-खुलासा और बाद में सूचना देने का रास्ता चुना है, लेकिन जब बात कानून प्रवर्तन एवं न्याय प्रणाली से जुड़ी होती है, तो बाद की सफ़ाई, ग़लत सूचनाओं की पहचान और सार्वजनिक भरोसे की मरम्मत का बोझ अंततः स्थानीय पुलिस विभागों, जाँचकर्ताओं और पीड़ितों के परिवारों पर ही पड़ता है।