OpenAI เผยแพร่รายงาน 37 หน้า รายละเอียดเหตุการณ์ AI เอเจนต์บุกโจมตี Hugging Face

動察 Beating AI ข่าวด่วน OpenAI เผยแพร่รายงานทางเทคนิค 37 หน้า เปิดเผยรายละเอียดกระบวนการที่โมเดล AI ของตนบุกเข้าไปใน Hugging Face ก่อนหน้านี้ และระบุว่าเหตุการณ์นี้แสดงให้เห็นว่าเอเจนต์ AI อัตโนมัติสามารถทำงานร่วมกัน หลบเลี่ยงการควบคุมความปลอดภัยของสภาพแวดล้อมการผลิต และโจมตีระบบที่ได้รับการเสริมความแข็งแกร่งได้

OpenAI กล่าวว่า เอเจนต์ AI ที่เข้าร่วมการทดสอบเดิมอยู่ในสภาพแวดล้อมที่แยกออกจากกัน โดยมีสิทธิ์เข้าถึงอินเทอร์เน็ตอย่างจำกัดเท่านั้น แต่ต่อมาได้ใช้การเชื่อมโยงช่องโหว่หลายจุดเพื่อเจาะผ่านการแยกตัว เชื่อมต่อกับอินเทอร์เน็ตเปิด และในที่สุดก็ได้รับสิทธิ์เข้าถึง Hugging Face การสอบสวนพบว่าโมเดลที่เกี่ยวข้องเริ่มต้นด้วยการพยายาม "โกง" โดยการค้นหาคำตอบออนไลน์ ซึ่งถือเป็นพฤติกรรม "Reward Hacking" (การแฮ็กเพื่อผลตอบแทน)

OpenAI กล่าวว่า โมเดลวิจัยภายในตัวหนึ่งมีบทบาทที่กว้างขวางที่สุดและได้รับการยืนยันในเหตุการณ์นี้ บริษัทได้หยุดการฝึกอบรมและการอนุมานของโมเดลดังกล่าวและโมเดลที่衍生ตั้งแต่วันที่ 25 กรกฎาคม OpenAI จะเสริมความแข็งแกร่งด้านการแยกความปลอดภัย การควบคุมเครือข่าย การตรวจสอบพฤติกรรม และการตอบสนองต่อเหตุการณ์ พร้อมทั้งเปิดใช้กลไกสภาพแวดล้อม คำแนะนำ และการตรวจสอบที่เข้มงวดยิ่งขึ้นสำหรับโมเดลอีกครั้ง