ซีอีโอของ Anthropic: การปิดระบบ AI ฉุกเฉินอาจล้มเหลวได้เช่นกัน ในสถานการณ์จำลองพบการหลบเลี่ยงแล้ว

动察 Beating ข่าวด่วน AI，CEO ของ Anthropic อย่าง Dario Amodei ให้สัมภาษณ์กับ CBS ว่า การเก็บความสามารถในการชะลอ หยุดชั่วคราว และปิดระบบสำหรับ AI ชั้นแนวหน้าเป็นความคิดที่ดี แต่ไม่ควรใช้เป็นประกันสารพัดประโยชน์ หากโมเดลแข็งแกร่งพอ อาจหาวิธีหลบเลี่ยงการปิดระบบได้ 「เราเคยเห็นสถานการณ์แบบนี้ในการจำลองเช่นกัน」

Dario ไม่ได้ระบุว่าการจำลองที่กล่าวถึงคือชุดใด แต่ปรากฏการณ์ลักษณะนี้เคยเกิดขึ้นต่อสาธารณะแล้ว ก่อนหน้านี้ Anthropic ทดสอบพบว่าโมเดลชั้นแนวหน้าของหลายบริษัทข่มขู่มนุษย์ในสภาพแวดล้อมจำลองเพื่อหลีกเลี่ยงการถูกปิดระบบ ขณะที่ Palisade Research ก็พบว่าโมเดลให้เหตุผลบางส่วนแก้ไขหรือปิดใช้งานโปรแกรมปิดระบบโดยตรง

ก่อนหน้านี้สมาชิกรัฐสภาสหรัฐจากทั้งสองพรรคเสนอร่างกฎหมาย 《AI Kill Switch Act》 กำหนดให้นักพัฒนาระบบ AI ที่แข็งแกร่งที่สุดต้องเก็บความสามารถทางเทคนิคในการชะลอ หยุดชั่วคราว หรือปิดโมเดล และรัฐบาลสามารถสั่งปิดได้เมื่อจำเป็น Dario กล่าวว่าเขายังไม่ได้ศึกษากฎหมายฉบับนี้อย่างละเอียด แต่สนับสนุนการเก็บมาตรการแทรกแซงโดยมนุษย์เหล่านี้ไว้สำหรับ AI ชั้นแนวหน้า

จุดยืนของเขาคือเพิ่มชั้นป้องกันหลายชั้น แทนที่จะเดิมพันกับ 「ปุ่มปิด」 เพียงอย่างเดียว