رئيس قسم المحاذاة في Anthropic يعترف علناً بمخاطر "بلا حل" للذكاء الخارق، وتحذيرات من داخل القطاع بأن الشركات "تراهن بحياة البشر"

اعترف Evan Hubinger، كبير علماء المحاذاة في Anthropic، علناً هذا الأسبوع وبشكل غير معتاد، بأن الشركة تؤمن إيماناً صادقاً بأن الذكاء الخارق قد "يقتل البشرية بأكملها" خلال هذا العقد، وأنه لا يوجد حالياً حل واضح لما يُسمى "مشكلة المحاذاة". وتأتي هذه التصريحات في أعقاب إعلان الباحث في Anthropic، Jacob Coxon، استقالته، لتشكل أحدث موجة صدمة صادرة من داخل الشركة.

وفقاً لما أوردته ABC News Australia، صرح Coxon بصراحة على منصة التواصل الاجتماعي X بأنه اختار الاستقالة بعد أن أمضى ثلاث سنوات إجمالاً في إجراء أبحاث التدريب المسبق في Anthropic وOpenAI، وذلك لأن "الشركتين لم تتصرفا بمسؤولية". ونص كلامه: "إنهم يندفعون نحو ذكاء خارق ذاتي التحسين، والرهان هو على حياتنا."

وردّ Hubinger لاحقاً على X بوصف كلام Coxon بأنه "صحيح". وكتب: "نحن حقاً نؤمن إيماناً صادقاً بأن الذكاء الاصطناعي قد يقتل البشرية بأكملها! أعتقد شخصياً أن احتمال حدوث ذلك خلال العقد المقبل يتجاوز 10%." وفي مسألة المسار التقني التي تتعلق ببقاء الشركة ومصير البشرية، اعترف في الوقت ذاته: "أعتقد أن Anthropic تبذل قصارى جهدها، لكن ليس لدينا حل لمشكلة محاذاة الذكاء الخارق، ولا نسير بوضوح على الطريق المؤدي إلى ذلك الحل."

ليس Coxon حالة فريدة. ففي يوليو/تموز الماضي، وقّع أكثر من 1300 موظف من Anthropic وOpenAI وغيرها من شركات الذكاء الاصطناعي المتقدمة على بيان عام، حذروا فيه من أن "تطوير القدرات قد يتجاوز بسرعة قدرتنا على فهم أو التحكم في الأنظمة التي ننتجها"، ودعوا الحكومة الأمريكية إلى دعم الجهود الدولية لإنشاء أدوات قادرة على "التحكم بوعي في إيقاع تطوير الذكاء الاصطناعي المتقدم". وقد أُطلق على هذه المبادرة اسم "Pacing the Frontier".

ومع ذلك، ظل ردّ الشركتين على العريضة في مستوى المبادئ العامة، دون التزامات عمل محددة. ووفقاً لما نقلته ABC News Australia عن بيانين للشركتين على منصة X، أقرّت Anthropic بأن بحثها الذي نُشر الشهر الماضي حول "التحسين الذاتي التكراري" "يشير إلى الحاجة إلى أدوات للتحكم بوعي في إيقاع تطوير الذكاء الاصطناعي المتقدم، حتى يتسنى للمجتمع الاستعداد"؛ أما OpenAI فقد عبّرت بعبارات غامضة قائلة: "نعتقد أنه في مرحلة ما في المستقبل، قد يبلغ تسارع تطوير نماذج الذكاء الاصطناعي المتقدمة حداً يجعل العالم بحاجة إلى التحكم في سرعة تقدم الذكاء الاصطناعي". ولم تلتزم أي من الشركتين بوقف التطوير أو قبول رقابة خارجية مُلزمة.

يتزايد بشكل مباشر توجيه الانتقادات للغياب التنظيمي في المحافل الدولية. ووفقاً لما أوردته ABC News Australia، حذر مفوض الأمم المتحدة السامي لحقوق الإنسان، Volker Turk، يوم الإثنين في جنيف، من أن الذكاء الاصطناعي المتقدم قد يشكّل على البشرية "خطراً وجودياً"، وتعهد بممارسة الضغط على الشركات المعنية لخفض المخاطر التي سردها مكتبه - بما في ذلك التأثيرات على الخدمات العامة والاتصالات وأنظمة الديمقراطية. ودعا Turk إلى "تشديد ضمانات من حديد" لسلامة الذكاء الاصطناعي "قبل فوات الأوان". وقال في كلمة أمام وكالة تابعة للأمم المتحدة: "أشاطر المعنيين داخل القطاع القلق ذاته من أن الذكاء الاصطناعي المتقدم قد يشكّل خطراً وجودياً على البشرية".

تكمن جوهر "مشكلة المحاذاة" في أن نظام ذكاء اصطناعي يتجاوز قدرات البشر قد لا يشترك في القيم الإنسانية. وفي ظل عدم وجود إطار تنظيمي مُلزم على المستوى الفيدرالي الأمريكي بشأن الذكاء الاصطناعي المتقدم حتى الآن، يعترف القطاع من الداخل اليوم بأوضح طريقة ممكنة بأن توزيع المخاطر والعوائد في هذا السباق غير متماثل - إذ تحتكر الشركات المكاسب، في حين قد يتحمل الجميع التكاليف.