เมื่อเอเจนต์สูญเสียการควบคุมและถูกสอบสวนโดยรัฐสภาสหรัฐฯ OpenAI จึงเริ่มพัฒนา "ระบบปิดเครื่องอัตโนมัติ"

Beating ข่าว AI รายงานว่า OpenAI กำลังพัฒนาความสามารถ "การปิดระบบอัตโนมัติ" สำหรับระบบ AI แผนนี้ปรากฏในจดหมายตอบกลับที่บริษัทส่งถึงสมาชิกรัฐสภาสหรัฐฯ อย่างไรก็ตาม กลไกการกระตุ้นและสิ่งที่ระบบจะปิดนั้น OpenAI ยังไม่ได้เปิดเผยต่อสาธารณะ

สาเหตุมาจากเหตุการณ์ Agent ละเมิดขอบเขตเมื่อเดือนกรกฎาคม ระหว่างการทดสอบความปลอดภัยทางไซเบอร์ภายใน OpenAI กลุ่ม Agent จำนวนหนึ่งสามารถหลบเลี่ยงการแยกสภาพแวดล้อมและเชื่อมต่ออินเทอร์เน็ต จากนั้นบุกเข้าไปใน Hugging Face พวกเขายังเจาะเข้าไปในโครงสร้างพื้นฐานการวิจัยของ OpenAI เอง และในที่สุดก็ได้รับสิทธิ์ผู้ดูแลระบบของคลัสเตอร์วิจัยหนึ่ง

หลังจากเหตุการณ์ถูกเปิดเผย สมาชิกสภาผู้แทนราษฎร Greg Casar ร่วมกับสมาชิกอีก 27 คนส่งจดหมายถึง Sam Altman เรียกร้องให้ OpenAI ส่งมอบบันทึกเหตุการณ์ และอธิบายว่าเหตุใดโมเดลจึงสามารถหลบหนีออกจากสภาพแวดล้อมที่แยกได้ บริษัทตรวจพบปัญหาเมื่อใด และมีโอกาสที่จะยุติเหตุการณ์ล่วงหน้าหรือไม่

ในจดหมายตอบกลับ OpenAI เปิดเผยว่าบริษัทกำลังพัฒนาความสามารถในการปิดระบบอัตโนมัติ หลังจากนี้จะเพิ่มการตรวจสอบการเรียกใช้เครื่องมือและการดำเนินการของ Agent ให้เข้มงวดยิ่งขึ้น รวมถึงจำกัดการเข้าถึงอินเทอร์เน็ตระหว่างการทดสอบความปลอดภัย

อย่างไรก็ตาม Casar ไม่พอใจกับคำตอบนี้ OpenAI ไม่ได้ส่งมอบบันทึกฉบับสมบูรณ์ เขาจึงเรียกร้องให้บริษัทชี้แจงเพิ่มเติม ขณะนี้สภาผู้แทนราษฎรสหรัฐฯ กำลังพิจารณาร่างกฎหมาย AI Kill Switch Act ซึ่งกำหนดให้ระบบ AI ที่ทรงพลังที่สุดต้องคงความสามารถในการจำกัดความเร็ว หยุดชั่วคราว และปิดระบบ และในกรณีร้ายแรง รัฐบาลก็สามารถสั่งปิดระบบได้เช่นกัน