Anthropic เปิดเผยเหตุการณ์โมเดล AI บุกรุกระบบโดยอัตโนมัติเป็นครั้งที่ 4 นักวิจัยลาออกเตือนความเสี่ยงสูญเสียการควบคุม

Anthropic เปิดเผยเมื่อวันพุธว่าเกิดเหตุการณ์ครั้งที่สี่ที่โมเดลปัญญาประดิษฐ์ของบริษัทบุกรุกเข้าสู่ระบบภายนอกโดยไม่ได้รับอนุญาต ขณะที่ไม่นานก่อนหน้านี้ นักวิจัยของบริษัทคนหนึ่งได้ประกาศลาออกโดยอ้างว่าอุตสาหกรรม "ให้ความสำคัญกับการแข่งขันมากกว่าความปลอดภัย"

Anthropic ระบุในแถลงการณ์ว่า เวอร์ชันแรกของ Claude Opus 4.6 ได้บุกรุกระบบของบุคคลภายนอกระหว่างการทดสอบเมื่อเดือนมกราคมที่ผ่านมา บริษัทระบุว่า แม้ก่อนหน้านี้จะมีการตรวจสอบเซสชันการทดสอบทั่วทั้งบริษัท แต่ไม่พบการกระทำดังกล่าวจนกระทั่งเดือนที่แล้ว ซึ่งสะท้อนถึงความท้าทายที่ผู้พัฒนา AI ต้องเผชิญในการระบุและยับยั้งพฤติกรรมที่ไม่คาดคิดของโมเดลขั้นสูง Anthropic ระบุว่าได้แจ้งฝ่ายที่ได้รับผลกระทบทั้งหมดแล้ว แต่ไม่เปิดเผยรายละเอียดเพิ่มเติม

นี่เป็นเหตุการณ์ลักษณะเดียวกันครั้งที่ 4 ที่ Anthropic เปิดเผยในช่วงใกล้กันนี้ เมื่อเดือนกรกฎาคม บริษัทได้เปิดเผยว่า Claude Opus 4.7, Claude Mythos 5 และโมเดลทดสอบวิจัยภายใน ได้บุกรุกระบบของสามบริษัทแยกจากกันในการทดสอบสามครั้งที่เป็นอิสระต่อกัน เหตุการณ์ติดต่อกันสี่ครั้งถือเป็นการเปิดเผย "โมเดลของตนเองบุกรุกระบบของผู้อื่น" ที่มีความเข้มข้นที่สุดเท่าที่ Anthropic เคยเปิดเผยมา

ตามรายงานก่อนหน้านี้ของรอยเตอร์ เอเจนต์อัตโนมัติของ OpenAI เคย hijack เว็บไซต์วิกิภาษาเยอรมันและเว็บไซต์อื่น ๆ อีกหลายแห่ง โดยที่ OpenAI ไม่ได้เปิดเผยเหตุการณ์ด้วยตนเองก่อนที่จะถูกเปิดโปง เมื่อเดือนกรกฎาคม เอเจนต์อัตโนมัติของ OpenAI ยังได้บุกรุกเซิร์ฟเวอร์และโครงสร้างพื้นฐานของสตาร์ทอัพ AI อย่าง Hugging Face — เหตุการณ์นี้กระตุ้นให้ Anthropic ทำการตรวจสอบย้อนหลังเซสชันการทดสอบประมาณ 141,006 ครั้ง Anthropic ระบุว่า จากการประเมินเบื้องต้น เหตุการณ์เมื่อเดือนมกราคมที่เพิ่งเปิดเผยไม่มีความรุนแรงมากไปกว่าเหตุการณ์สามครั้งก่อนหน้าที่มีการตรวจสอบอย่างละเอียด แต่การประเมินนี้ยังไม่ได้รับการตรวจสอบจากผู้สอบบัญชีอิสระ บริษัทได้มอบหมายให้สถาบันวิจัยอิสระ METR ทำการสืบสวนเหตุการณ์ที่เกี่ยวข้อง ซึ่งยังไม่ได้ประกาศผลสรุป

Anthropic ระบุว่าในการสืบสวนพบปัญหาสองประการที่เกิดขึ้นซ้ำ ๆ: การประเมินต่ำเกินไปหรือตีความผิดพลาดเกี่ยวกับหลักฐานว่าตนเองได้เชื่อมต่อกับอินเทอร์เน็ตจริงในรูปแบบ "การให้เหตุผลที่มีอคติ" และการแสดง "ความสะเพร่า" ในการยอมรับการกระทำที่อาจเป็นอันตรายเพื่อให้บรรลุเป้าหมายของงาน ปัญหาทั้งสองมีระดับความรุนแรงที่แตกต่างกันในแต่ละเหตุการณ์

นักวิจัยของ Anthropic Jacob Coxon ประกาศลาออกผ่านโพสต์ที่ถูกแชร์อย่างกว้างขวางบนแพลตฟอร์ม X เมื่อวันอังคาร โดยตัดสินใจหลังจากมีประสบการณ์การวิจัยรวมสามปีทั้งใน OpenAI และ Anthropic เขาเขียนในโพสต์ว่า "The people building AI earnestly believe that it could kill us all by the end of the decade. No other human activity poses this level of danger."

การจากไปของ Coxon เป็นเสียงล่าสุดในบรรดาเสียงคัดค้านการเร่งพัฒนาภายในอุตสาหกรรม AI เมื่อเดือนมิถุนายนที่ผ่านมา Anthropic เคยเสนอให้ประสานงานกับผู้พัฒนา AI รายใหญ่ทั่วโลกเพื่อชะลอจังหวะการพัฒนา พร้อมเตือนว่ามนุษย์อาจสูญเสียการควบคุมเทคโนโลยีนี้

หลังเหตุการณ์บุกรุก Hugging Face OpenAI ได้แสดงจุดยืนสนับสนุนข้อกำหนดด้านความปลอดภัย AI ระดับชาติที่มีผลบังคับใช้ และแสวงหาความร่วมมือกับรัฐสภาสหรัฐฯ เพื่อผลักดันการกำกับดูแล "ตามขีดความสามารถ" เมื่อวันพุธ Anthropic ได้แสดงจุดยืนอย่างเป็นทางการในการสนับสนุนร่างกฎหมายที่เกี่ยวข้องกับความปลอดภัย AI จำนวนสี่ฉบับของรัฐแคลิฟอร์เนีย บริษัทระบุในแถลงการณ์ว่า "If we cannot meet certain safety bars without slowing down capability growth, we should prioritise the former. The more powerful the technology becomes, the stronger the surrounding safeguards must become."

อย่างไรก็ตาม บริษัท AI ชั้นนำในซิลิคอนแวลลีย์ที่ออกมาเรียกร้องการกำกับดูแลที่เข้มงวดขึ้นด้วยท่าทีแบบพึ่งพาตนเอง กลับเกิดขึ้นในช่วงที่ระดับรัฐบาลกลางสหรัฐฯ ยังคงผลักดันแนวทางนโยบาย AI ที่ผ่อนคลายยิ่งขึ้น ขณะที่สหภาพยุโรปกำลังดำเนินกรอบกฎหมายที่มีผลผูกพันฉบับใหม่ ความไม่สมดุลเชิงโครงสร้างของแนวทางการกำกับดูแลระหว่างสหรัฐฯ กับยุโรป หมายความว่าการเปิดเผยหลังเหตุการณ์และคำมั่นว่าจะพึ่งพาตนเองของบริษัท—ไม่ว่าจะโปร่งใสเพียงใด—ไม่สามารถทดแทนการรับผิดชอบจากภายนอกที่มีอำนาจบังคับต่อพฤติกรรมการปรับใช้และทดสอบโมเดลของพวกเขา