Anthropic-র অ্যালাইনমেন্ট প্রধান "সমাধানহীন" সুপারইন্েলিজেন্স ঝুঁকি স্বীকার করেছেন, শিল্প মহল সতর্ক করছে "মানবজীবনের ওপর বাজি রা হ্ছে"

Anthropic-এর অ্যালাইনমেন্ট সায়েন্সের প্রধান Evan Hubinger এই সপ্তাহে বিরলাবে সর্সমক্ে স্বীকার করেছেন যে কোম্পানির অভ্য্তরে আন্তরিকাবে বি্বাস করা হয় সুপারইন্টেলিজেন্স এই দশকের মধ্যে "সমস্ত মানুকে হত্যা" করতে পারে এবং বর্তমানে তথাকিত "অ্যালাইনমেন্ট সমস্যা" সমাধানের কোনো সুনির্িষ্ট পদ্ধতি নেই। এটি Anthropic গবেষক Jacob Coxon-এর পদত্যাগ োষণার পর কোম্পানির অভ্যন্তর থেকে আসা সর্বশেষ ঝাঁকুনি।

ABC News Australia-এর প্রতিবেদন অনুায়ী, Coxon সোশ্যাল মিডিয়া X-এ সরাসরি বলেছেন যে Anthropic OpenAI-তে মোট তিন বছর প্রি-ট্রেনিং গবেষণায় কাজ করার পর তিনি লে যায়ার সি্ধান্ত নিয়েছেন কারণ "দুই কোম্পানিই দায়িত্বশীলাবে কা করছে না"। তাঁর নিজের াষায়: "তারা স্ব-উন্নয়নশীল সুপারইন্েলিজেন্সের দিকে ছুটে চলেছে, বাজি ধরা হচ্ছে আমাদের জীবন।"

পরবর্তীতে Hubinger X- Coxon-র কথাকে "সিক" বলে সাড়া দেন। তিনি লেখেন: "আমরা সত্যি আন্তরিকভাবে বিশ্বা করি AI সমস্ত মানুষকে হত্যা করতে পারে! ব্যক্তিতভাবে আমার মতে আগামী দশকের মধ্যে এটি ঘটার সম্াবনা ১০%-এর বেি।" কোম্পানির অস্তিত্ব ও মানবজাতির ভাগ্যের সাথে সম্পর্কিত প্রযুক্তিগত পথের প্রশ্নে, তিনি একই সাথে স্বীকার করেন: "মি বি্বাস করি Anthropic সর্বো্চ চেষ্া করছে, কিন্তু আমাদের কাছে সুপারইন্টেলিেন্স অ্যালাইনমেন্ট সমস্যা সমাধানের কোনো পদ্ধতি নেই এবং আমরা সেই সমাধানের পথে স্প্টভাবে হাঁটছি না।"

Coxon একক কেস নন। এই বছরের জুলাইয়ে, Anthropic, OpenAI এবং অন্যান্য ফ্রন্িয়ার AI কোম্পানির ১৩০-এরও বেশি কর্মারী যথভাবে একটি সর্সমক্ষে ঘোষণায় স্বাক্ষর করে সতর্ক করেন যে "সক্ষমতার উন্য়ন সম্ভবত দ্রুত আমাদের ৎপাদিত সিস্টেমগুলোকে বোঝা বা নিয়ন্ত্রণ করার ক্ষমতাকে াড়িয়ে যাবে" এবং মার্কিন সরকারকে আন্তর্জাতিক প্রচেষ্াকে সমর্থন করার আহ্বান জানান "ফ্রন্টিয়ার AI উন্নয়নের গতিকে সচেতনভাবে নিয়ন্ত্রণ করতে" সক্ষম এমন হাতিয়ার তৈরির জন্য। এই উদ্যোগের নামকরণ করা হয়েছে "Pacing the Frontier"।

তবে, দুই কোম্পানির সা়া নীতিগত পর্যায়ে সীমাবদ্ধ ছিল, নির্দিষ্ট কর্মের প্রতিশ্রুতিতে নয়। ABC News Australia দুই কোম্পানির X প্্যাটর্ম ঘোষণা উদ্ধৃত করে জানিয়েছে, Anthropic স্বীকার করেছে যে গত মাসে প্রকাশিত "রিকার্িভ সেলফ-ইম্প্রুভমেন্ট" সম্পর্কিত তাদের গবেষণা "সমাজ প্রস্তুত হওয়ার জন্য ফ্রন্টিয়ার AI উন্য়নের গতিকে সেতনভাবে নিয়ন্ত্রণের হাতিয়ারের প্রয়োজনীয়তার দিকে ঙ্গিত করে"; OpenAI অস্পষ্টভাবে জানিয়েছে, "আমরা বিশ্বাস করি, ভবিষ্যতে কোনো এক সময়ে, ফ্রন্টিয়ার মডে উন্য়নের AI ত্বরণ এতটা বেশি হতে পারে যে বিশ্বকে AI অগ্রগতির গতি নিয়ন্ত্রণ করতে হবে"। দুই কোম্ানিই গবেষণা স্থগিত করতে বা বাধ্যামূলক বাহ্যিক নিয়ন্ত্রণ মেনে নিতে প্রতি্রুতি দেয়নি।

নিয়ন্ত্রণ স্তরের শূন্যা আন্তর্জাতিক মঞ্চে ক্রমশ সরাসরিাবে চিহ্নিত হচ্ছে। ABC News Australia-এর প্রতিবেদন অনুযায়ী, জাতিসংঘের মানবাধিকার বিষয়ক হাইকমিশনার Volker Turk সোমবার জেনেভায় সতর্ক করেছেন যে ন্নত AI মানুষের জন্য "অস্তিত্বমলক ঝুঁকি" তৈরি করতে পারে এবং তাঁর কার্যালয়ের তালিকাুক্ত ুঁকিগুলো — সার্বজনীন পরিষেবা, যোগাযোগ ও গণতান্ত্রিক ব্বস্থার ওপর প্রভাব সহ — কমাতে সংশ্লি্ট কোম্পানিগুলোর ওপর চাপ প্রয়োগ করার শপথ নিয়েছেন। Turk "অনেক দেরি হয়ে যায়ার আগে" AI নিরাপত্তার জন্য "লৌহসদৃশ সুরক্ষা" গড়ে তোলার আহ্বান জানিয়েছেন। "মি শি্পের অভ্যন্তরীণ ব্যক্তিের মতোই উন্নত AI মানুষের জন্য অস্তিত্বমূলক ুঁকি তৈরি করতে পারে বলে উদ্বি্ন," তিনি জাতিংঘের সংস্থায় বক্তব্য রাখতে গিয়ে বলেন।

"অ্যালানমেন্ট সমস্যা"-র মূল প্রকৃতি হলো: মানবিক সক্ষমতাকে ছাড়িয়ে যায়া একটি AI সিস্টেম সম্বত মানবিক মূল্যোধ াগ করে না। মার্কিন যুক্তরাষ্ট্রের ফোরেল পর্যায়ে ্রন্টিয়ার AI-র জন্য এখন বাধ্তামূলক নিয়ন্ত্রণ কাঠামো প্রতিষ্িত না হওয়ার প্রেক্ষাটে, শিল্পের অভ্য্তরে এখন সবচেয়ে সরাসরি পন্থায় স্বীকার করা হচ্ছে: এই প্রতিযোগিতার ঝুঁকি ও পুরস্কারের বণ্টন সামঞ্স্যপূর্ণ নয় — লা কোম্ানিগুলোর হাতে বন্দি, মূল্য সম্ভবত সবার ওপর বর্তায়।