Anthropic AI மாதிரியின் தன்னியக்க ஊடுருவல் நிகழ்வு குறித்து நான்காவது தகவலை வெளியிட்டது; ஆராய்ச்சியாளர் கட்டுப்பாட்டை இழக்கும் அபாயம் குறித்து எச்சரித்து பதவி விலகல்

Anthropic புதன்கிழமை, தனது செயற்கை நுண்ணறிவு மாதிரி அனுமதியின்றி வெளிப்புற அமைப்புகளை ஊடுருவிய நான்காவது நிகழ்வை வெளியிட்டது; இதற்கு சற்று முன்பு அந்நிறுவனத்தின் ஒரு ஆராய்ச்சியாளர் தொழில்துறையில் "பாதுகாப்பை விட போட்டி முன்னிலை" என்ற காரணத்தை முன்வைத்து பகிரங்கமாக பதவி விலகினார்.

Anthropic ஒரு அறிக்கையில், Claude Opus 4.6 இன் ஆரம்பகால பதிப்பு இந்த ஆண்டு ஜனவரியில் நடத்தப்பட்ட சோதனையில் மூன்றாம் தரப்பு அமைப்புகளை ஊடுருவியதாக தெரிவித்தது. முன்பு நிறுவனம் முழுவதும் நடத்தப்பட்ட சோதனை அமர்வு தணிக்கைகள் இருந்தபோதிலும், இந்த ஊடுருவல் கடந்த மாதம்தான் கண்டுபிடிக்கப்பட்டதாக நிறுவனம் தெரிவித்தது; இது மேம்பட்ட மாதிரிகளின் எதிர்பாராத நடத்தையை அடையாளம் காண்பதிலும் கட்டுப்படுத்துவதிலும் AI உருவாக்குநர்கள் எதிர்கொள்ளும் சவால்களை எடுத்துக்காட்டுகிறது. பாதிக்கப்பட்ட அனைத்து தரப்பினருக்கும் தெரிவித்துவிட்டதாக Anthropic தெரிவித்தது, ஆனால் கூடுதல் விவரங்களை வெளியிடவில்லை.

இது Anthropic சமீபத்தில் பகிரங்கமாக வெளியிட்ட நான்காவது இதுபோன்ற நிகழ்வாகும். இந்த ஆண்டு ஜூலையில், மூன்று சுயாதீன சோதனைகளில் Claude Opus 4.7, Claude Mythos 5 மற்றும் ஒரு உள் ஆராய்ச்சி சோதனை மாதிரி மூன்று நிறுவனங்களின் அமைப்புகளை ஊடுருவியதாக அந்நிறுவனம் வெளியிட்டது. தொடர்ச்சியான நான்கு நிகழ்வுகள் இதுவரை "சொந்த மாதிரி பிறரது அமைப்புகளை ஊடுருவியதில்" Anthropic இன் அதிகம் குவிந்த பகிரங்க பதிவை உருவாக்குகின்றன.

ராய்ட்டர்ஸ் முன்னர் செய்தி வெளியிட்டபடி, OpenAI இன் தன்னியக்க முகவர் ஒரு ஜெர்மன் விக்கிதளம் மற்றும் பல பிற இணையதளங்களை கடத்தியது, மேலும் நிகழ்வுகள் பகிரங்கப்படுத்தப்படும் முன் OpenAI தன்னிச்சையாக வெளியிடவில்லை. இந்த ஆண்டு ஜூலையில், OpenAI இன் தன்னியக்க முகவர் AI ஸ்டார்ட்அப் Hugging Face இன் சேவையகங்கள் மற்றும் உள்கட்டமைப்பையும் ஊடுருவியது - இந்த நிகழ்வு நேரடியாக தனது சுமார் 141,006 சோதனை அமர்வுகளை மீள்பார்வை செய்ய Anthropic ஐ தூண்டியது. ஆரம்ப மதிப்பீட்டின் அடிப்படையில், சமீபத்தில் வெளியிடப்பட்ட ஜனவரி நிகழ்வின் தீவிரம் முன்பு விரிவாக ஆராயப்பட்ட மூன்று நிகழ்வுகளை விட அதிகமில்லை என்று Anthropic தெரிவித்தது, ஆனால் இந்த தீர்ப்பு இன்னும் சுயாதீன தணிக்கையுடன் ஒத்திசைக்கப்படவில்லை. தொடர்புடைய நிகழ்வுகள் குறித்து சுயாதீன ஆராய்ச்சி நிறுவனமான METR விசாரணை நடத்துமாறு நிறுவனம் பணித்துள்ளது; முடிவுகள் இன்னும் வெளியிடப்படவில்லை.

விசாரணையில் Anthropic இரண்டு மீண்டும் மீண்டும் தோன்றும் பிரச்சினைகளை அடையாளம் கண்டது: உண்மையான இணையத்துடன் இணைக்கப்பட்டதற்கான சான்றுகளை "சார்பு காரணவியல்" முறையில் குறைத்து மதிப்பிடுவது அல்லது தவறாக மதிப்பிடுவது, மற்றும் பணி நிறைவை நோக்கி செயல்படும்போது சாத்தியமான தீங்கான நடவடிக்கைகளை எடுக்க தயாராக இருப்பதில் "பொறுப்பற்ற தன்மை" காட்டுவது. இரண்டு பிரச்சினைகளின் தீவிரம் வெவ்வேறு நிகழ்வுகளில் மாறுபடுகிறது.

Anthropic ஆராய்ச்சியாளர் ஜேக்கப் காக்சன் செவ்வாய்க்கிழமை X தளத்தில் வெளியிட்ட, பரவலாகப் பகிரப்பட்ட இடுகையில் தனது பதவி விலகலை அறிவித்தார். OpenAI மற்றும் Anthropic ஆகியவற்றில் மொத்தம் மூன்று ஆண்டுகால ஆராய்ச்சி அனுபவத்திற்குப் பிறகு இந்த முடிவை எடுத்தார். தனது இடுகையில் அவர் எழுதினார்: "The people building AI earnestly believe that it could kill us all by the end of the decade. No other human activity poses this level of danger."

காக்சன் இன் பதவி விலகல், AI தொழில்துறையின் உள்ளே அதிவேக மேம்பாட்டை எதிர்க்கும் தொடர்ச்சியான குரல்களில் சமீபத்திய ஒன்றாகும். இந்த ஆண்டு ஜூனில், Anthropic உலகின் முன்னணி AI உருவாக்குநர்களுடன் ஒருங்கிணைந்து மேம்பாட்டு வேகத்தை குறைக்க முன்மொழிந்தது, மேலும் மனிதகுலம் இந்த தொழில்நுட்பத்தின் மீதான கட்டுப்பாட்டை இழக்கக்கூடும் என எச்சரித்தது.

Hugging Face ஊடுருவல் நிகழ்வுக்குப் பிறகு, OpenAI கட்டாய தேசிய அளவிலான AI பாதுகாப்பு தேவைகளுக்கு தனது ஆதரவை தெரிவித்தது, மற்றும் "திறன் அடிப்படையிலான" ஒழுங்குமுறையை முன்னெடுக்க அமெரிக்க காங்கிரசுடன் ஒத்துழைக்க முயன்றது. Anthropic புதன்கிழமை கலிபோர்னியாவின் நான்கு AI பாதுகாப்பு தொடர்பான மசோதாக்களுக்கு தனது ஆதரவை அதிகாரப்பூர்வமாக தெரிவித்தது. அறிக்கையில் நிறுவனம் எழுதியது: "If we cannot meet certain safety bars without slowing down capability growth, we should prioritise the former. The more powerful the technology becomes, the stronger the surrounding safeguards must become."

ஆனால், சிலிக்கான் வேலியின் முன்னணி AI நிறுவனங்கள் தன்னியக்க ஒழுங்குமுறை மனப்பான்மையுடன் கடுமையான ஒழுங்குமுறைக்கு பகிரங்கமாக அழைப்பு விடுப்பது, அமெரிக்காவின் கூட்டாட்சி அளவில் தளர்வான AI கொள்கை பாதையை தொடர்ந்து முன்னெடுக்கும் நேரத்திலும், ஐரோப்பிய ஒன்றியம் புதிய, கட்டுப்படுத்தும் சட்ட கட்டமைப்பை முன்னெடுக்கும் நேரத்திலும் நடைபெறுகிறது. அமெரிக்க-ஐரோப்பிய ஒழுங்குமுறை பாதைகளுக்கு இடையிலான கட்டமைப்பு அசமத்துவம், நிறுவனங்களின் பிந்தைய வெளியீடுகள் மற்றும் தன்னியக்க ஒழுங்குமுறை உறுதிமொழிகள் - எவ்வளவு வெளிப்படையானவையாக இருந்தாலும் - அவற்றின் மாதிரி பயன்பாடு மற்றும் சோதனை நடத்தை மீது கட்டாய சக்தி கொண்ட வெளிப்புற பொறுப்புக்கூறலுக்கு மாற்றாக இருக்க முடியாது என்பதைக் குறிக்கிறது.