Anthropic సమన్వయ బాధ్యత వహించే వ్యక్తి 'పరిష్కారం లేని' సూపర్ ఇంటెలిజెన్స్ ప్రమాదాన్ని బహిరంగంగా అంగీకరించారు, రంగం హెచ్చరిక - 'మానవ జీవితాలను పందెం కాస్తున్నారు'

Anthropic సమన్వయ శాస్త్ర బాధ్యత వహించే Evan Hubinger ఈ వారం అరుదైన రీతిలో బహిరంగంగా అంగీకరించారు, సంస్థ లోపల హృదయపూర్వకంగా నమ్ముతున్నారు - సూపర్ ఇంటెలిజెన్స్ ఈ దశకంలో 'మొత్తం మానవాళిని చంపగలదు', ప్రస్తుతానికి అన్ని సమస్యలను పరిష్కరించే స్పష్టమైన పరిష్కారం లేదని. Anthropic పరిశోధకుడు Jacob Coxon ఉద్యోగం విడిచిపెట్టిన తర్వాత, సంస్థ లోపలి నుంచి వచ్చిన తాజా ప్రకంపనలు ఇవి.

ABC News Australia నివేదించిన ప్రకారం, Coxon సోషల్ మీడియా Xలో నేరుగా చెప్పారు, Anthropic, OpenAIలలో కలిసి మూడు సంవత్సరాల ప్రీట్రైనింగ్ పరిశోధనలు చేసిన తర్వాత బయటకు వచ్చేందుకు నిర్ణయించుకున్నారు, కారణం 'రెండు సంస్థలు బాధ్యతాయుతంగా వ్యవహరించలేదు'. అతని మాటల్లో: 'వారు స్వీయ-మెరుగుదల సూపర్ ఇంటెలిజెన్స్ వైపు పరుగెత్తుతున్నారు, మన జీవితాలను పందెం కాస్తున్నారు.'

Hubinger ఆ తర్వాత Xలో స్పందిస్తూ Coxon చెప్పింది 'సరైనది' అని అన్నారు. అతను రాసారు: 'మేము నిజంగానే AI మొత్తం మానవాళిని చంపగలదని హృదయపూర్వకంగా నమ్ముతున్నాము! నేను వ్యక్తిగతంగా వచ్చే పదేళ్లలో ఇది జరిగే అవకాశం 10 శాతం కంటే ఎక్కువని అనుకుంటున్నాను.' సంస్థ మనుగడ, మానవ విధి రెండింటికీ సంబంధించిన సాంకేతిక మార్గ ప్రశ్నలలో, అతను ఇంకా అంగీకరించారు: 'Anthropic తన వంతు ప్రయత్నం చేస్తోందని నేను నమ్ముతున్నాను, కానీ సూపర్ ఇంటెలిజెన్స్ సమన్వయ సమస్యను పరిష్కరించే పద్ధతి మాకు లేదు, ఆ పరిష్కారం వైపు స్పష్టమైన మార్గంలో కూడా లేము.'

Coxon ఒక ఏకైక ఉదంతం కాదు. ఈ జూలైలో, Anthropic, OpenAI ఇతర ఫ్రంటియర్ AI సంస్థల నుంచి 1300 మందికి పైగా ఉద్యోగులు ఉమ్మడి ప్రకటన విడుదల చేశారు, 'సామర్థ్య అభివృద్ధి మనం అర్థం చేసుకునే లేదా నియంత్రించే సామర్థ్యాన్ని త్వరగా మించిపోవచ్చు' అని హెచ్చరించి, 'ఫ్రంటియర్ AI అభివృద్ధి వేగాన్ని స్పృహతో నియంత్రించగలిగే' సాధనాలను ఏర్పాటు చేయడానికి అమెరికా ప్రభుత్వం అంతర్జాతీయ ప్రయత్నాలకు మద్దతు ఇవ్వాలని కోరారు. ఈ ప్రారంభానికి 'Pacing the Frontier' అని పేరు పెట్టారు.

అయితే, రెండు సంస్థల స్పందనలు సూత్రాత్మక స్థాయిలోనే ఉన్నాయి, నిర్దిష్ట చర్యల వాగ్దానాలు కాదు. ABC News Australia రెండు సంస్థల X ప్లాట్‌ఫారమ్ ప్రకటనలను ఉటంకిస్తూ తెలిపింది, Anthropic నెల క్రితం విడుదల చేసిన 'రికర్సివ్ స్వీయ-మెరుగుదల'పై పరిశోధన 'సమాజం సిద్ధం కావడానికి ఫ్రంటియర్ AI అభివృద్ధి వేగాన్ని స్పృహతో నియంత్రించే సాధనాల అవసరాన్ని సూచిస్తుందని' అంగీకరించింది; OpenAI అయితే అస్పష్టంగా 'భవిష్యత్తులో ఏదో ఒక సమయంలో, ఫ్రంటియర్ మోడల్ అభివృద్ధి AI వేగం ఇంత ఎక్కువగా ఉండవచ్చు, ప్రపంచం AI ప్రగతి వేగాన్ని నియంత్రించాల్సి ఉంటుందని' చెప్పింది. రెండు సంస్థలు పరిశోధన నిలిపివేయడానికి లేదా కట్టుబాటు కలిగిన బయటి నియంత్రణను అంగీకరించడానికి ముందుకు రాలేదు.

నియంత్రణ స్థాయిలో లోపం అంతర్జాతీయ వేదికలపై మరింత ప్రత్యక్షంగా పేర్కొంటున్నారు. ABC News Australia నివేదించిన ప్రకారం, UN మానవ హక్కుల హై కమిషనర్ Volker Turk సోమవారం జెనీవాలో హెచ్చరించారు, అధునాతన AI మానవాళికి 'మనుగడ ప్రమాదాన్ని' కలిగించవచ్చు, తన కార్యాలయం జాబితా చేసిన ప్రమాదాలను - ప్రజా సేవలు, సమాచారం, ప్రజాస్వామ్య వ్యవస్థలపై దాడులతో సహా - తగ్గించడానికి సంబంధిత సంస్థలపై ఒత్తిడి తీసుకువస్తానని ప్రతిజ్ఞ చేశారు. Turk AI భద్రత కోసం 'చాలా ఆలస్యం అయ్యేలోపు' 'ఇనుప భరోసా' కల్పించాలని కోరారు. 'అధునాతన AI మానవాళికి మనుగడ ప్రమాదాన్ని కలిగించవచ్చని రంగం లోపలి వారితో సమానంగా నేను కూడా ఆందోళన చెందుతున్నాను,' అని ఆయన UN సంస్థలో మాట్లాడుతూ చెప్పారు.

'సమన్వయ సమస్య' సారాంశం ఏమిటంటే: మానవ సామర్థ్యాన్ని మించిన AI వ్యవస్థ మానవ విలువలను పంచుకోకపోవచ్చు. అమెరికా ఫెడరల్ స్థాయిలో ఫ్రంటియర్ AIపై కట్టుబాటు కలిగిన నియంత్రణా చట్రాన్ని ఏర్పాటు చేయని నేపథ్యంలో, రంగం లోపలి వారు ఇప్పుడు అత్యంత స్పష్టమైన రీతిలో అంగీకరిస్తున్నారు: ఈ పోటీలో ప్రమాదం, బహుమానం పంపిణీ అసమానంగా ఉంది - లాభాలను సంస్థలు లాక్కుంటాయి, ఖర్చు అందరిపై పడవచ్చు.