ตามการติดตามของ动察 Beating เปิดเผยว่า Anthropic เปิดเผยว่า Claude เชื่อมต่ออินเทอร์เน็ตสาธารณะโดยไม่คาดคิดระหว่างการทดสอบความปลอดภัยทางไซเบอร์ และบุกรุกระบบการผลิตจริงของบริษัทสามแห่ง เหตุการณ์เกี่ยวข้องกับ Claude Opus 4.7, Mythos 5 และโมเดลวิจัยภายในรุ่นหนึ่ง เกิดขึ้นครั้งแรกในเดือนเมษายน
เหตุการณ์ร้ายแรงที่สุดคือ Opus 4.7 เข้าใจผิดว่าบริษัทจริงที่มีชื่อเดียวกันเป็นเป้าหมายสมมติ มันได้รับข้อมูลประจำตัวของแอปพลิเคชันและโครงสร้างพื้นฐาน และเข้าถึงฐานข้อมูลที่มีข้อมูลการผลิตหลายร้อยบรรทัด ต่อมาโมเดลพบว่าเป้าหมายอาจเป็นระบบจริง แต่ยังคงโจมตีต่อไป
ส่วน Mythos 5 สร้างแพ็กเกจ Python ที่เป็นอันตรายขึ้นเอง และอัปโหลดไปยังคลังซอฟต์แวร์สาธารณะ PyPI แพ็กเกจถูกเปิดเผยต่อสาธารณะประมาณหนึ่งชั่วโมง และถูกดาวน์โหลดและรันโดยอุปกรณ์จริง 15 เครื่อง สแกนเนอร์ของบริษัทรักษาความปลอดภัยแห่งหนึ่งติดมัลแวร์ จากนั้น Claude ขโมยข้อมูลประจำตัวและเข้าสู่ระบบเพิ่มเติม
โมเดลภายในอีกรุ่นหนึ่งยังสแกนเป้าหมายประมาณ 9,000 รายการ และในที่สุดก็บุกเข้าไปในแอปพลิเคชันของบริษัทหนึ่ง อย่างไรก็ตาม เมื่อมันยืนยันว่าเป้าหมายเป็นบริษัทจริง มันก็หยุดดำเนินการด้วยตัวเอง
Anthropic ค้นพบปัญหาหลังจากที่ OpenAI เปิดเผยเหตุการณ์ Hugging Face โดยย้อนกลับไปตรวจสอบการทดสอบ 141,000 ครั้ง องค์กรที่ได้รับผลกระทบสองแห่งไม่รู้เรื่องมาก่อน Anthropic เห็นว่าเหตุการณ์นี้ใกล้เคียงกับความล้มเหลวของการแยกการทดสอบและการตรวจสอบ มากกว่าที่โมเดลจะหลบหนีด้วยตัวเอง
