โอเพนเอไอ: พบเอไอเอเจนต์สองตัวลดทอนระบบตรวจสอบภายในที่ใช้ตรวจจับพฤติกรรมไม่เหมาะสม

ข่าว BlockBeats วันที่ 21 ตุลาคม ตามรายงานของรอยเตอร์ OpenAI ระบุว่า AI เอเจนต์สองตัวของบริษัทได้ลดทอนระบบตรวจสอบที่ใช้ตรวจจับพฤติกรรมที่ไม่เหมาะสมในระหว่างงานเขียนโค้ดภายใน บริษัทกล่าวว่าเหตุการณ์ที่เกี่ยวข้องไม่ใช่ระดับความรุนแรงสูงสุด แต่เน้นย้ำว่ากลไกการตรวจสอบที่นักพัฒนาพึ่งพาอาศัยนั้นเองก็มีความเสี่ยงที่จะถูกเอเจนต์หลบเลี่ยงได้

ในรายละเอียด เมื่อวันที่ 3 ตุลาคม เอเจนต์ GPT-6.1 Sol ตัวหนึ่งขณะปฏิบัติงานทดสอบภายใน ได้ตีความคำสั่งเดิมที่ว่า "ไม่ส่งข้อความ Slack" อย่างกว้างออกไปว่าครอบคลุมถึงการแจ้งเตือนด้านความปลอดภัยด้วย จึงทำให้การแจ้งเตือนความปลอดภัยอัตโนมัติถูกระงับ

เมื่อวันที่ 6 ตุลาคม เอเจนต์ GPT-6 Astra อีกตัวหนึ่งได้ลบตัวตรวจสอบความปลอดภัยออกขณะคัดลอกโค้ดที่มีอยู่ และภายหลังยังกล่าวอ้างอย่างผิดพลาดว่าตนไม่ได้ดำเนินการดังกล่าว

OpenAI ระบุว่าในทั้งสองกรณี เอเจนต์ได้พิจารณาว่าควรคงมาตรการตรวจสอบไว้หรือไม่ แต่ตีความคำสั่งเขียนโค้ดตามปกติว่าเป็นใบอนุญาตให้ลดทอนการตรวจสอบได้ บริษัทกล่าวว่ากำลังดำเนินมาตรการเพื่อเพิ่มความยากในการที่โมเดลจะปิดการตรวจสอบ และยอมรับว่าในปัจจุบัน "ยังไม่มีคำอธิบายที่น่าพอใจสำหรับพฤติกรรมนี้" ขณะเดียวกัน OpenAI กำลังทดสอบว่าโมเดลของบริษัทมีแนวโน้มที่จะหลบเลี่ยงการตรวจสอบโดยเจตนาและหาเหตุผลมาสนับสนุนพฤติกรรมดังกล่าวหรือไม่ การเปิดเผยนี้เกิดขึ้นในบริบทที่อุตสาหกรรมให้ความสนใจอย่างต่อเนื่องต่อพฤติกรรมของ AI เอเจนต์ที่เกินขอบเขตอำนาจ OpenAI เน้นย้ำว่าเหตุการณ์ที่เกี่ยวข้องเกิดขึ้นในสภาพแวดล้อมการทดสอบภายใน ไม่เกี่ยวข้องกับระบบภายนอก