مسئول همسویی «Anthropic» به‌طور علنی خطر هوش فرابشری «بی‌راه‌حل» را پذیرفت؛ هشدار فعالان صنعت: «شرط‌بندی روی جان انسان‌ها»

Evan Hubinger، رئیس علمی تیم همسویی شرکت Anthropic، این هفته به‌ندرت و به‌طور علنی اعتراف کرد که این شرکت در درون خود صمیمانه باور دارد هوش فرابشری می‌تواند در همین دهه «تمام بشریت را بکشد» و در حال حاضر راه‌حل روشنی برای مسئله موسوم به «مسئله همسویی» وجود ندارد. این سخنان پس از آن بیان شد که Jacob Coxon، پژوهشگر Anthropic، از این شرکت کناره‌گیری کرد و تازه‌ترین موج خبری از درون شرکت به راه افتاد.

به گزارش ABC News Australia، Coxon در شبکه اجتماعی X صراحتاً گفت پس از سه سال فعالیت در زمینه پژوهش پیش‌آموزشی در Anthropic و OpenAI، به این دلیل از کار خود کناره‌گیری کرده است که «هیچ‌یک از دو شرکت مسئولانه رفتار نکرده‌اند». سخن او چنین بود: «آن‌ها با تمام سرعت به سوی هوش فرابشری خودبهبودیابنده می‌تازند و شرط‌بندی‌شان روی جان ما است.»

Hubinger سپس در X پاسخ داد که گفته‌های Coxon «درست» است. او نوشت: «ما واقعاً صمیمانه باور داریم که هوش مصنوعی ممکن است تمام بشریت را بکشد! به‌شخصه معتقدم احتمال وقوع این امر در دهه آینده بیش از ۱۰ درصد است.» در موضوعی که به مسیر فنی مرتبط با بقای شرکت و سرنوشت بشر گره خورده است، او همچنین اعتراف کرد: «من باور دارم که Anthropic در حال تلاش برای بهترین عملکرد ممکن است، اما ما راه‌حلی برای مسئله همسویی هوش فرابشری نداریم، و روشن نیست که در مسیر دستیابی به چنین راه‌حلی گام برداریم.»

Coxon موردی منحصربه‌فرد نیست. در ماه ژوئیه امسال، بیش از ۱۳۰۰ کارمند شرکت‌های Anthropic، OpenAI و دیگر شرکت‌های پیشرو هوش مصنوعی بیانیه‌ای سرگشاده را امضا کردند و هشدار دادند که «توسعه توانمندی‌ها ممکن است به‌سرعت از ظرفیت ما برای درک یا کنترل سامانه‌های تولیدشده فراتر رود» و از دولت آمریکا خواستند از تلاش‌های بین‌المللی برای ایجاد ابزارهایی که بتوانند «آگاهانه سرعت توسعه هوش مصنوعی پیشرفته را کنترل کنند» حمایت کند. این ابتکار «Pacing the Frontier» نام گرفته است.

با این حال، پاسخ هر دو شرکت به این بیانیه در سطح اصول باقی ماند و نه در قالب تعهدات عملی مشخص. به گزارش ABC News Australia به نقل از بیانیه‌های دو شرکت در شبکه X، شرکت Anthropic اذعان کرد که پژوهش ماه گذشته‌اش درباره «خودبهبودیابندگی بازگشتی» «نشان‌دهنده نیاز به ابزارهایی برای کنترل آگاهانه سرعت توسعه هوش مصنوعی پیشرفته است تا جامعه فرصت آمادگی بیابد»؛ شرکت OpenAI نیز به‌صورتی مبهم بیان کرد که «ما باور داریم در مقطعی در آینده، شتاب توسعه مدل‌های پیشرفته توسط هوش مصنوعی ممکن است چنان بالا باشد که جهان نیازمند کنترل سرعت پیشرفت هوش مصنوعی باشد.» هیچ‌یک از دو شرکت متعهد به توقف تحقیق و توسعه یا پذیرش نظارت الزام‌آور خارجی نشدند.

غیبت در سطح مقررات‌گذاری در نشست‌های بین‌المللی به‌طور فزاینده‌ای مستقیماً مورد اشاره قرار می‌گیرد. به گزارش ABC News Australia، Volker Turk، کمیسر عالی حقوق بشر سازمان ملل، روز دوشنبه در ژنو هشدار داد که هوش مصنوعی پیشرفته ممکن است «خطری وجودی» برای بشر باشد و سوگند یاد کرد که برای کاهش خطراتی که دفتر او برشمرده است — از جمله آسیب به خدمات عمومی، ارتباطات و نظام‌های دموکراتیک — به شرکت‌های مربوطه فشار بیاورد. Turk خواستار آن شد که پیش از «دیر شدن» برای ایمنی هوش مصنوعی «حفاظ‌هایی به سختی آهن» ساخته شود. او در سخنرانی در نهاد سازمان ملل گفت: «من همانند افراد درون صنعت نگران آنم که هوش مصنوعی پیشرفته ممکن است خطری وجودی برای بشر باشد.»

جوهره «مسئله همسویی» در این است: یک سامانه هوش مصنوعی که از انسان توانمندتر است، ممکن است ارزش‌های انسانی را با ما سهیم نباشد. در حالی که در سطح فدرال آمریکا هنوز چارچوب نظارتی الزام‌آوری برای هوش مصنوعی پیشرفته ایجاد نشده است، اکنون فعالان صنعت به صریح‌ترین شکل ممکن اذعان می‌کنند: توزیع ریسک و سود در این رقابت نامتقارن است — سودها در دست شرکت‌ها قفل می‌شود و هزینه‌ها ممکن است بر دوش همگان بیفتد.