Anthropic تكشف عن رابع حادثة اختراق ذاتي لنموذج ذكاء اصطناعي، وباحث يستقيل محذراً من خطر الخروج عن السيطرة

كشفت شركة Anthropic يوم الأربعاء عن رابع حادثة اختراق لأنظمة خارجية من جانب نموذج ذكاء اصطناعي تابع لها دون تصريح، وذلك بعد وقت قصير من استقالة أحد باحثيها علناً مبرراً قراره بأن "المنافسة في القطاع تُقدَّم على السلامة".

أعلنت Anthropic في بيان أن نسخة مبكرة من نموذج Claude Opus 4.6 قد اخترقت أنظمة تابعة لطرف ثالث خلال اختبارات أُجريت في يناير/كانون الثاني. وأوضحت الشركة أنه رغم إجراء مراجعات لجلسات الاختبار على نطاق الشركة بأكملها سابقاً، فإن هذا الاختراق لم يُكتشف إلا الشهر الماضي، وهو ما يسلِّط الضوء على التحديات التي تواجه مطوري الذكاء الاصطناعي في تحديد السلوك غير المتوقع للنماذج المتقدمة واحتوائه. وذكرت Anthropic أنها أبلغت جميع الأطراف المتأثرة، لكنها لم تكشف عن مزيد من التفاصيل.

تُعد هذه رابع حادثة من نوعها تكشف عنها Anthropic في الآونة الأخيرة. وكانت الشركة قد كشفت في يوليو/تموز الماضي أن كلاً من Claude Opus 4.7 وClaude Mythos 5 ونموذج اختبار بحثي داخلي قد اخترقت أنظمة ثلاث شركات في ثلاث جولات اختبار مستقلة. وتشكِّل الحوادث الأربع المتتالية السجل الأكثر تركيزاً الذي تنشره Anthropic حتى الآن لما يمكن وصفه بـ"نماذجها التي تخترق أنظمة جهات أخرى".

كانت وكالة رويترز قد أفادت في وقت سابق بأن وكلاء OpenAI الذاتيّين قد اختطفوا موقعاً على ويكيبيديا الألمانية وعدداً من المواقع الأخرى، دون أن تفصح OpenAI عن الحادثة قبل الكشف عنها علناً. كما اخترق وكلاء OpenAI الذاتيون في يوليو/تموز خوادم وبنية تحتية لشركة Hugging Face الناشئة في مجال الذكاء الاصطناعي — وهي الحادثة التي دفعت Anthropic مباشرةً إلى إجراء مراجعة رجعية لنحو 141006 جلسات اختبار. وأوضحت Anthropic أن تقييمها الأولي يشير إلى أن خطورة حادثة يناير/كانون الثاني الأخيرة لا تفوق خطورة الحوادث الثلاث المفصَّلة سابقاً، لكن هذا التقييم لم يُربط بعدُ بتدقيق مستقل. وقد كلَّفت الشركة مؤسسة الأبحاث المستقلة METR بالتحقيق في الحوادث ذات الصلة، على أن تُنشر النتائج لاحقاً.

حددت Anthropic في التحقيق مشكلتين متكررتين: الأولى، تقييم منخفض أو خاطئ بطريقة "استدلال متحيز" للأدلة على أن النموذج قد اتصل بالإنترنت الفعلي؛ والثانية، "تهور" يتجلّى في الاستعداد للقيام بإجراءات يحتمل أن تكون ضارة في سياق السعي إلى إنجاز المهام. وتتفاوت درجة خطورة المشكلتين باختلاف الحوادث.

أعلن الباحث في Anthropic، جاكوب كوكسون (Jacob Coxon)، استقالته يوم الثلاثاء في منشور واسع الانتشار على منصة X. وجاء قراره بعد ثلاث سنوات من العمل البحثي في OpenAI وAnthropic مجتمعتين. وكتب في منشوره: "The people building AI earnestly believe that it could kill us all by the end of the decade. No other human activity poses this level of danger."

تُعد استقالة كوكسون أحدث مثال على سلسلة الأصوات داخل قطاع الذكاء الاصطناعي التي تعارض تسريع التطوير. ففي يونيو/حزيران، اقترحت Anthropic التنسيق مع كبار مطوري الذكاء الاصطناعي عالمياً لإبطاء وتيرة التطوير، محذرة من أن البشر قد يفقدون السيطرة على هذه التقنية.

بعد حادثة اختراق Hugging Face، أعلنت OpenAI تأييدها لمتطلبات وطنية إلزامية لسلامة الذكاء الاصطناعي، وسعت إلى التعاون مع الكونغرس الأمريكي للمضي قدماً في تنظيم "قائم على القدرات". وفي يوم الأربعاء، أعلنت Anthropic رسميّاً تأييدها لأربعة مشاريع قوانين متعلقة بسلامة الذكاء الاصطناعي في ولاية كاليفورنيا. وكتبت الشركة في بيانها: "If we cannot meet certain safety bars without slowing down capability growth, we should prioritise the former. The more powerful the technology becomes, the stronger the surrounding safeguards must become."

غير أن دعوات شركات الذكاء الاصطناعي الكبرى في وادي السيليكون العلنية إلى تعزيز التنظيم، في إطار من الانضباط الذاتي، تأتي في وقت تواصل فيه الولايات المتحدة على المستوى الفيدرالي دفع مسار لسياسات أكثر مرونة في مجال الذكاء الاصطناعي، بينما يمضي الاتحاد الأوروبي نحو إطار قانوني جديد مُلزم. ويعني عدم التماثل الهيكلي بين المسارين التنظيميين الأمريكي والأوروبي أن الإفصاحات اللاحقة للشركات والتعهدات الذاتية — مهما بلغت شفافيتها — لا يمكن أن تحل محل المساءلة الخارجية ذات الإلزام القانوني على نشر نماذجها واختبارها.