Anthropic کے ایلائنمنٹ سربراہ نے عوامی طور پر سپر انٹیلی جنس کے 'حل نہ ہونے والے' خطرے کا اعتراف کیا، صنعت کی طرف سے خبردار کیا گیا کہ 'انسانی جانوں پر داؤ لگایا جا رہا ہے'

Anthropic کے ایلائنمنٹ سائنس کے سربراہ Evan Hubinger نے اس ہفتے کم یاب طور پر عوامی طور پر اعتراف کیا ہے کہ کمپنی کے اندر واقعی یقین ہے کہ سپر انٹیلی جنس اس دہائی میں 'تمام انسانوں کو ہلاک' کر سکتی ہے، اور ابھی تک توہم پر مبنی 'ایلائنمنٹ مسئلے' کا کوئی واضح حل نہیں ہے۔ یہ Anthropic کے محقق Jacob Coxon کے استعفیٰ کا اعلان کرنے کے بعد، کمپنی کے اندر سے آنے والا تازہ ترین جھٹکا ہے۔

ABC News Australia کی رپورٹ کے مطابق، Coxon نے سوشل میڈیا X پر کھلے الفاظ میں کہا کہ Anthropic اور OpenAI میں مجموعی طور پر تین سال کی پری ٹریننگ تحقیق کرنے کے بعد انہوں نے جانے کا فیصلہ کیا، وجہ یہ ہے کہ 'دونوں کمپنیاں ذمہ داری سے کام نہیں کر رہیں'۔ ان کے الفاظ تھے: 'وہ خود کو بہتر بنانے والی سپر انٹیلی جنس کی طرف بھاگ رہے ہیں، داؤ ہماری جانوں پر لگایا جا رہا ہے۔'

Hubinger نے بعد میں X پر جواب دیا کہ Coxon کی بات 'درست' ہے۔ انہوں نے لکھا: 'ہم واقعی دل سے یقین رکھتے ہیں کہ AI تمام انسانوں کو ہلاک کر سکتی ہے! میرے ذاتی خیال میں آنے والی دہائی میں اس کے ہونے کا امکان 10 فیصد سے زیادہ ہے۔' کاروباری بقا اور انسانی تقدیر سے متعلق تکنیکی راستے کے معاملے پر، انہوں نے اسی وقت اعتراف کیا: 'میں یقین رکھتا ہوں کہ Anthropic پوری کوشش کر رہی ہے، لیکن ہمارے پاس ابھی تک سپر انٹیلی جنس ایلائنمنٹ کے مسئلے کا کوئی حل نہیں ہے، اور نہ ہی ہم واضح طور پر اس حل کی طرف جانے کے راستے پر ہیں۔'

Coxon واحد مثال نہیں ہیں۔ اس سال جولائی میں، Anthropic، OpenAI اور دیگر سرحدی AI کمپنیوں کے 1300 سے زیادہ ملازمین نے مشترکہ عوامی بیان پر دستخط کیے، خبردار کیا کہ 'صلاحیتوں کا ارتقاء ممکنہ طور پر تیزی سے ہمارے پیدا کردہ نظام کو سمجھنے یا کنٹرول کرنے کی صلاحیت سے آگے نکل جائے گا'، اور امریکی حکومت سے مطالبہ کیا کہ وہ بین الاقوامی کوششوں کی حمایت کرے اور ایسے آلات قائم کرے جو 'سرحدی AI کی ترقی کی رفتار کو باشعوری سے کنٹرول' کر سکیں۔ اس مہم کا نام 'Pacing the Frontier' رکھا گیا۔

تاہم، دونوں کمپنیوں کا مشترکہ بیان پر جواب اصولی سطح پر ہی رہا، نہ کہ مخصوص عملی عہد کا۔ ABC News Australia کی طرف سے دونوں کمپنیوں کے X پلیٹ فارم بیانات کے حوالے سے، Anthropic نے اعتراف کیا کہ اس ماہ جاری کردہ 'ری کرسیو خود کو بہتر بنانے' کے بارے میں تحقیق 'اس بات کی طرف اشارہ کرتی ہے کہ سرحدی AI کی ترقی کی رفتار کو باشعوری سے کنٹرول کرنے کے آلات کی ضرورت ہے تاکہ معاشرہ تیاری کر سکے'؛ OpenAI نے مبہم الفاظ میں کہا، 'ہم یقین رکھتے ہیں کہ مستقبل کے کسی موڑ پر، سرحدی ماڈلز کی ترقی میں AI کی تیزی اس قدر زیادہ ہو سکتی ہے کہ دنیا کو AI کی ترقی کی رفتار کو کنٹرول کرنے کی ضرورت ہوگی'۔ دونوں کمپنیوں نے تحقیق روکنے یا پابند کنندہ بیرونی ضوابط قبول کرنے کا عہد نہیں کیا۔

ضابطے کی سطح پر خالی جگہ کو بین الاقوامی فورمز پر بڑھتے ہوئے براہ راست نشانہ بنایا جا رہا ہے۔ ABC News Australia کی رپورٹ کے مطابق، اقوام متحدہ کے انسانی حقوق کے ہائی کمشنر Volker Turk نے پیر کو جنیوا میں خبردار کیا کہ جدید AI انسانوں کے لیے 'بقائی خطرے' کی حامل ہو سکتی ہے، اور متعلقہ کمپنیوں پر دباؤ ڈالنے کا عزم کیا تاکہ ان کے دفتر کی طرف سے درج خطرات کو کم کیا جا سکے - جن میں عوامی خدمات، مواصلات اور جمہوری نظام پر اثرات شامل ہیں۔ Turk نے 'بہت دیر ہونے سے پہلے' AI کی حفاظت کے لیے 'لوہے جیسے مضبوط تحفظ' بنانے کی اپیل کی۔ 'مجھے بھی صنعت کے اندرونی لوگوں کی طرح جدید AI کے انسانوں کے لیے بقائی خطرے کی تشویش ہے،' انہوں نے اقوام متحدہ کے ادارے میں اظہار خیال کرتے ہوئے کہا۔

'ایلائنمنٹ مسئلے' کی اصل نوعیت یہ ہے: ایک AI نظام جو انسانی صلاحیتوں سے آگے ہو، ممکن ہے انسانی اقدار کا اشتراک نہ کرے۔ امریکی وفاقی سطح پر ابھی تک سرحدی AI کے لیے پابند کنندہ ضابطے کا فریم ورک قائم نہ ہونے کے پس منظر میں، صنعت کے اندر اب سب سے واضح انداز میں اعتراف کیا جا رہا ہے: اس دوڑ کے خطرات اور انعامات کی تقسیم متوازن نہیں ہے - فوائد کاروباروں کے پاس مقفل ہیں، قیمت ممکن ہے سب پر پڑے۔