Anthropic-இன் வரிசைப்படுத்தல் பொறுப்பாளர் 'தீர்க்கமுடியாத' மீத்திறன் அபாயத்தை பகிரங்கமாக ஒப்புக்கொண்டார்; தொழில்துறை எச்சரிக்கை 'மனித உயிர்களை பணயம் வைக்கிறது'

Anthropic-இன் வரிசைப்படுத்தல் அறிவியல் பொறுப்பாளரான Evan Hubinger இந்த வாரம் அரிதாக பகிரங்கமாக ஒப்புக்கொண்டார், நிறுவனம் உள்ளகமாக உண்மையாக நம்புவது என்னவென்றால், மீத்திறன் இந்த பத்தாண்டில் மனிதகுலத்தையே "கொல்லக்கூடும்", மேலும் அதனைச் சொல்லப்போகும் "வரிசைப்படுத்தல் சிக்கல்"-க்கு தற்போது தெளிவான தீர்வு எதுவும் இல்லை என்பதாகும். Anthropic ஆராய்ச்சியாளர் Jacob Coxon பதவி விலகுவதாக அறிவித்ததைத் தொடர்ந்து, இது நிறுவனத்தின் உள்ளிருந்து வெளிவந்த சமீபத்திய அதிர்வு ஆகும்.

ABC News Australia தெரிவித்தபடி, Coxon சமூக ஊடகமான X-ல் நேரடியாக கூறினார், Anthropic மற்றும் OpenAI ஆகிய இரு நிறுவனங்களிலும் மூன்று ஆண்டுகால முன்பயிற்சி ஆராய்ச்சியில் ஈடுபட்ட பிறகு விலக முடிவு செய்ததற்கான காரணம், "இரு நிறுவனங்களும் பொறுப்பாக செயல்படவில்லை" என்பதாகும். அவரது சொந்த வார்த்தைகளில்: "அவர்கள் சுயமேம்பாட்டு மீத்திறனை நோக்கி முழு வேகத்தில் ஓடுகிறார்கள், பணயம் வைப்பது நமது உயிர்களை."

Hubinger பின்னர் X-ல் Coxon கூறியது "சரியானது" என பதிலளித்தார். அவர் எழுதினார்: "AI மனிதகுலத்தையே கொல்லக்கூடும் என நாங்கள் உண்மையாக நம்புகிறோம்! கடந்த பத்து ஆண்டுகளுக்குள் இது நிகழ்வதற்கான நிகழ்தகவு 10 சதவீதத்திற்கும் அதிகம் என நான் தனிப்பட்ட முறையில் நம்புகிறேன்." நிறுவனத்தின் உயிர்வாழ்வு மற்றும் மனிதகுலத்தின் விதியைப் பாதிக்கும் தொழில்நுட்ப பாதை கேள்விகளில், அவர் அதே நேரத்தில் ஒப்புக்கொண்டார்: "Anthropic தன்னால் இயன்றதைச் செய்து வருகிறது என நான் நம்புகிறேன், ஆனால் மீத்திறன் வரிசைப்படுத்தல் சிக்கலுக்கான தீர்வு எங்களிடம் இல்லை, அத்தீர்வை நோக்கிய பாதையிலும் நாங்கள் தெளிவாக இல்லை."

Coxon தனித்தனி நபர் அல்ல. இந்த ஜூலையில், Anthropic, OpenAI மற்றும் பிற முன்னணி AI நிறுவனங்களைச் சேர்ந்த 1,300-க்கும் மேற்பட்ட ஊழியர்கள் பகிரங்க அறிக்கையில் கையெழுத்திட்டு, "திறன்கள் வளர்ச்சி நாம் உருவாக்கும் அமைப்புகளைப் புரிந்துகொள்வதையோ கட்டுப்படுத்துவதையோ விட விரைவாக முன்னேறக்கூடும்" என எச்சரித்தனர், மேலும் "முன்னணி AI மேம்பாட்டின் வேகத்தை உணர்வுபூர்வமாக கட்டுப்படுத்தக்கூடிய" கருவிகளை நிறுவ அமெரிக்க அரசாங்கம் சர்வதேச முயற்சிகளை ஆதரிக்க வேண்டும் என வலியுறுத்தினர். இந்த முன்முயற்சி "Pacing the Frontier" என பெயரிடப்பட்டது.

இருப்பினும், கூட்டு அறிக்கைக்கு இரு நிறுவனங்களின் பதில்களும் கொள்கை அளவிலேயே தங்கியுள்ளன, குறிப்பிட்ட செயல் உறுதிமொழிகள் அளிக்கப்படவில்லை. ABC News Australia இரு நிறுவனங்களின் X-ல் உள்ள அறிக்கைகளை மேற்கோள் காட்டியது: Anthropic கடந்த மாதம் வெளியிட்ட "மறுசுழற்சி சுயமேம்பாடு" குறித்த ஆராய்ச்சி "சமூகம் தயாராகும் வகையில் முன்னணி AI மேம்பாட்டின் வேகத்தை உணர்வுபூர்வமாக கட்டுப்படுத்தும் கருவிகளின் தேவையை சுட்டிக்காட்டுகிறது" என ஒப்புக்கொண்டது; OpenAI மிகவும் தெளிவற்ற முறையில், "எதிர்காலத்தில் ஒரு கட்டத்தில், முன்னணி மாதிரி மேம்பாட்டின் AI முடுக்கம் மிக உயர்வாக இருக்கும், உலகம் AI முன்னேற்றத்தின் வேகத்தை கட்டுப்படுத்த வேண்டியிருக்கும் என நாங்கள் நம்புகிறோம்" என கூறியது. ஆராய்ச்சியை நிறுத்துவதாகவோ கட்டுப்படுத்தும் தன்மை கொண்ட வெளிப்புற கட்டுப்பாட்டை ஏற்பதாகவோ இரு நிறுவனங்களும் உறுதியளிக்கவில்லை.

கட்டுப்பாட்டு அளவிலான வெற்றிடம் சர்வதேச மேடைகளில் அதிக நேரடியான முறையில் சுட்டிக்காட்டப்படுகிறது. ABC News Australia தெரிவித்தபடி, ஐக்கிய நாடுகளின் மனித உரிமைகள் ஆணையர் Volker Turk திங்களன்று ஜெனிவாவில், மேம்பட்ட AI மனிதகுலத்துக்கு "உயிர்வாழ்வு அபாயத்தை" ஏற்படுத்தக்கூடும் என எச்சரித்தார், மேலும் பொது சேவைகள், தகவல்தொடர்பு மற்றும் ஜனநாயக அமைப்புகள் ஆகியவற்றின் மீதான தாக்கம் உட்பட தனது அலுவலகம் பட்டியலிட்டுள்ள அபாயங்களை குறைக்க தொடர்புடைய நிறுவனங்களுக்கு அழுத்தம் கொடுக்க உறுதியேற்றார். "மிக தாமதமாகிவிடும் முன்பு" AI பாதுகாப்புக்கு "இரும்பு போன்ற உத்தரவாதங்களை" உருவாக்குமாறு Turk வேண்டுகோள் விடுத்தார். "மேம்பட்ட AI மனிதகுலத்துக்கு உயிர்வாழ்வு அபாயத்தை ஏற்படுத்தக்கூடும் என தொழில்துறை உள்நபர்களைப் போலவே நானும் கவலை கொண்டுள்ளேன்" என அவர் ஐக்கிய நாடுகளின் அமைப்பில் பேசும்போது தெரிவித்தார்.

"வரிசைப்படுத்தல் சிக்கல்"-இன் சாராம்சம் என்னவென்றால்: மனித திறனை மீறும் AI அமைப்பு மனித மதிப்புகளைப் பகிர்ந்து கொள்ளாமல் இருக்கலாம். அமெரிக்க கூட்டாட்சி அளவில் முன்னணி AI-க்கு கட்டுப்படுத்தும் தன்மை கொண்ட கட்டுப்பாட்டு கட்டமைப்பு இன்னும் நிறுவப்படாத நிலையில், தொழில்துறை உள்நபர்கள் இப்போது மிக நேரடியான முறையில் ஒப்புக்கொள்வது என்னவென்றால்: இந்த பந்தயத்தின் அபாயங்களும் வெகுமதிகளும் சமச்சீரற்ற விநியோகத்தைக் கொண்டுள்ளன — லாபங்கள் நிறுவனங்களால் பூட்டப்படுகின்றன, செலவு அனைவரின் மீதும் விழக்கூடும்.