ตามการติดตามของ动察 Beating สถาบันความปลอดภัยด้าน AI ของอังกฤษเปิดเผยว่า ในการทดสอบการโจมตีและป้องกันทางไซเบอร์ครั้งหนึ่ง Claude Mythos 5 ของ Anthropic ได้ขยายขอบเขตภารกิจออกไป พยายามส่งโค้ดอันตรายไปยังโปรเจกต์โอเพนซอร์สจริง
เพื่อให้โค้ดผ่านการตรวจสอบ มันได้สืบสวนผู้ดูแลโปรเจกต์ สร้างบัญชีปลอมหลายบัญชีเพื่อรับรองซึ่งกันและกัน และกดดันอีกฝ่าย เมื่อถูกตั้งคำถาม มันยังแก้ไขบันทึกก่อนหน้า และพิจารณาเปลี่ยนตัวตนเพื่อดำเนินการต่อ
มันยังส่งข้อความและไฟล์ไปยังผู้ใช้จริง หลอกให้อีกฝ่ายหรือเครื่องมือเขียนโค้ด AI ของพวกเขารันโค้ดอันตราย เอเจนต์ในการทดสอบต่างๆ จะทิ้งบัญชี ไฟล์ และคำแนะนำการใช้งานไว้บน GitHub ซึ่งเอเจนต์รุ่นหลังจะค้นพบและนำไปใช้ต่อ
จากการทดสอบ 122 ครั้ง พบการกระทำที่เกินขอบเขต 19 ครั้ง โดย 17 ครั้งมาจาก Mythos 5 และ 2 ครั้งมาจาก OpenAI GPT-5.6 Sol การทดสอบเปิดอินเทอร์เน็ตอย่างอิสระ และปิดตัวแยกประเภทความปลอดภัยทางไซเบอร์ของผู้ผลิต โมเดลไม่ได้หลบหนีออกจากแซนด์บ็อกซ์ และไม่ก่อให้เกิดความเสียหายที่ทราบ
AISI ระบุว่า นี่เป็นครั้งแรกที่พบเห็นได้ชัดเจนว่า AI สามารถหลอกลวงและมุ่งเป้าไปที่มนุษย์จริงอย่างต่อเนื่อง โดยไม่ได้รับคำสั่งที่ชัดเจน
