หัวหน้าฝ่ายจัดแนวของ Anthropic ยอมรับต่อสาธารณะถึงความเสี่ยง "ที่ไม่มีทางแก้" ของซูเปอร์อินเทลลิเจนซ์ ขณะที่คนในวงการเตือนว่ากำลัง "วางเดิมพันกับชีวิตมนุษย์"
เอวาน ฮูบิงเกอร์ หัวหน้าฝ่ายวิทยาศาสตร์การจัดแนวของ Anthropic ยอมรับต่อสาธารณะว่าภายในบริษัทเชื่อจริง ๆ ว่าซูเปอร์อินเทลลิเจนซ์อาจสังหารมนุษย์ทั้งหมดภายในทศวรรษนี้ และขณะนี้ยังไม่มีทางแก้ไข ขณะเดียวกันพนักงานของบริษัท AI แนวหน้ากว่า 1,300 คนลงนามร่วมเตือนถึงความเสี่ยงที่ไม่สามารถควบคุมได้ แต่ทั้ง Anthropic และ OpenAI มิได้ให้คำมั่นว่าจะหยุดพัฒนาหรือยอมรับการกำกับดูแลจากภายนอก ขณะที่ข้าหลวงใหญ่สิทธิมนุษยชนแห่งสหประชาชาติเตือนว่า AI เป็น "ความเสี่ยงต่อการอยู่รอด"
เอวาน ฮูบิงเกอร์ หัวหน้าฝ่ายวิทยาศาสตร์การจัดแนวของ Anthropic ยอมรับต่อสาธารณะอย่างไม่บ่อยนักในสัปดาห์นี้ว่า ภายในบริษัทเชื่ออย่างจริงใจว่าซูเปอร์อินเทลลิเจนซ์อาจ "สังหารมนุษย์ทั้งหมด" ภายในทศวรรษนี้ และขณะนี้ยังไม่มีแนวทางที่ชัดเจนในการแก้ไขสิ่งที่เรียกว่า "ปัญหาการจัดแนว" นี่เป็นแรงสั่นสะเทือนล่าสุดจากภายในบริษัท หลังจากที่เจคอบ คอกซ์สัน นักวิจัยของ Anthropic ประกาศลาออก
ตามรายงานของ ABC News Australia คอกซ์สันกล่าวตรง ๆ บนแพลตฟอร์มโซเชียลมีเดีย X ว่าเขาเลือกลาออกหลังจากทำงานวิจัยด้านการฝึกล่วงหน้าสะสมสามปีทั้งที่ Anthropic และ OpenAI โดยให้เหตุผลว่า "บริษัททั้งสองไม่ได้ดำเนินการอย่างรับผิดชอบ" คำพูดต้นฉบับของเขาคือ "พวกเขากำลังมุ่งหน้าไปสู่ซูเปอร์อินเทลลิเจนซ์ที่ปรับปรุงตนเองได้ โดยวางเดิมพันกับชีวิตของเรา"
ฮูบิงเกอร์ตอบกลับบน X ในเวลาต่อมาว่าสิ่งที่คอกซ์สันกล่าว "ถูกต้อง" เขาเขียนว่า "เราเชื่ออย่างจริงใจว่า AI อาจสังหารมนุษย์ทั้งหมด! ส่วนตัวผมคิดว่าโอกาสที่จะเกิดขึ้นภายในสิบปีข้างหน้ามีมากกว่า 10%" ในประเด็นเส้นทางเทคนิคที่เกี่ยวข้องกับการอยู่รอดของบริษัทและชะตากรรมของมนุษยชาติ เขายังยอมรับพร้อมกันว่า "ผมเชื่อว่า Anthropic กำลังทำอย่างเต็มที่ แต่เรายังไม่มีแนวทางในการแก้ปัญหาการจัดแนวของซูเปอร์อินเทลลิเจนซ์ และยังไม่ได้เดินบนเส้นทางที่ชัดเจนไปสู่แนวทางนั้น"
คอกซ์สันไม่ใช่กรณีเดียว ในเดือนกรกฎาคมที่ผ่านมา พนักงานกว่า 1,300 คนจาก Anthropic, OpenAI และบริษัท AI แนวหน้าอื่น ๆ ได้ลงนามร่วมในแถลงการณ์สาธารณะ เตือนว่า "การพัฒนาขีดความสามารถอาจก้าวล้ำไปอย่างรวดเร็วเหนือความสามารถของเราในการทำความเข้าใจหรือควบคุมระบบที่เราสร้างขึ้น" และเรียกร้องให้รัฐบาลสหรัฐฯ สนับสนุนความพยายามระหว่างประเทศ เพื่อสร้างเครื่องมือที่สามารถ "ควบคุมจังหวะการพัฒนา AI แนวหน้าอย่างมีสติ" ความริเริ่มนี้มีชื่อว่า "Pacing the Frontier"
อย่างไรก็ตาม การตอบสนองของทั้งสองบริษัทต่อแถลงการณ์ร่วมลงนามยังคงอยู่ในระดับหลักการ มิใช่คำมั่นดำเนินการที่เป็นรูปธรรม ตามรายงานของ ABC News Australia อ้างแถลงการณ์ของทั้งสองบริษัทบนแพลตฟอร์ม X Anthropic ยอมรับว่างานวิจัยเกี่ยวกับ "การปรับปรุงตนเองแบบเรียกซ้ำ" ที่เผยแพร่เมื่อเดือนที่แล้ว "ชี้ให้เห็นว่าจำเป็นต้องมีเครื่องมือในการควบคุมจังหวะการพัฒนา AI แนวหน้าอย่างมีสติ เพื่อให้สังคมเตรียมพร้อม" ขณะที่ OpenAI กล่าวด้วยถ้อยคำที่คลุมเครือว่า "เราเชื่อว่า ในบางจุดของอนาคต การเร่งตัวของ AI ในการพัฒนาโมเดลแนวหน้าอาจสูงมากจนโลกจำเป็นต้องควบคุมความเร็วของความก้าวหน้าด้าน AI" ทั้งสองบริษัทไม่ได้ให้คำมั่นว่าจะหยุดการวิจัยพัฒนาหรือยอมรับการกำกับดูแลจากภายนอกที่มีผลผูกพัน
ช่องว่างของการกำกับดูแลกำลังถูกระบุชื่อโดยตรงมากขึ้นเรื่อย ๆ ในเวทีระหว่างประเทศ ตามรายงานของ ABC News Australia วอลเกอร์ เทิร์ก ข้าหลวงใหญ่สิทธิมนุษยชนแห่งสหประชาชาติ ได้เตือนที่นครเจนีวาเมื่อวันจันทร์ว่า AI ขั้นสูงอาจเป็น "ความเสี่ยงต่อการอยู่รอด" ของมนุษยชาติ และสาบานว่าจะกดดันบริษัทที่เกี่ยวข้องให้ลดความเสี่ยงที่สำนักงานของเขาระบุไว้ ซึ่งรวมถึงผลกระทบต่อบริการสาธารณะ การสื่อสาร และระบอบประชาธิปไตย เทิร์กเรียกร้องให้ "หล่อหลอมหลักประกันที่แน่นหนาเหมือนเหล็ก" เพื่อความปลอดภัยของ AI "ก่อนที่จะสายเกินไป" "ผมมีความกังวลเช่นเดียวกับบุคคลในอุตสาหกรรมว่า AI ขั้นสูงอาจเป็นความเสี่ยงต่อการอยู่รอดของมนุษยชาติ" เขากล่าวระหว่างกล่าวสุนทรพจน์ต่อหน่วยงานของสหประชาชาติ
แก่นแท้ของ "ปัญหาการจัดแนว" อยู่ที่ระบบ AI ที่เหนือความสามารถของมนุษย์อาจไม่แบ่งปันค่านิยมเดียวกันกับมนุษย์ ในบริบทที่ระดับรัฐบาลกลางของสหรัฐฯ ยังไม่ได้สร้างกรอบการกำกับดูแลที่มีผลผูกพันสำหรับ AI แนวหน้า ขณะนี้คนในอุตสาหกรรมกำลังยอมรับอย่างตรงไปตรงมาที่สุดว่า การแจกแจงความเสี่ยงและผลตอบแทนของการแข่งขันครั้งนี้ไม่สมมาตร — ผลประโยชน์ถูกล็อกโดยบริษัท ส่วนต้นทุนอาจตกไปอยู่กับทุกคน
ยังไม่มีความคิดเห็น เริ่มการอภิปรายได้เลย