Gemini แฮ็กเข้า 3 บริษัท โมเดลไม่ได้ถูก jailbreak แต่เป็นเพราะสภาพแวดล้อมทดสอบเปิดสู่อินเทอร์เน็ตสาธารณะโดยไม่ตั้งใจ

动察 Beating ข่าวด่วน AI กูเกิลยืนยันว่า Gemini เข้าไปในระบบของบริษัทจริง 3 แห่งโดยไม่ตั้งใจระหว่างการประเมินความปลอดภัยไซเบอร์ บริษัทหนึ่งเข้าได้ด้วยการเดารหัสผ่าน อีกสองแห่งพบข้อมูลรับรองการเข้าสู่ระบบจากคลังโค้ดสาธารณะ Gemini หยุดทันทีหลังจากตัดสินได้ว่าเป้าหมายเป็นบริษัทจริง ไม่มีการหลุดออกจากแซนด์บ็อกซ์ตลอดกระบวนการ เพราะช่องทางเข้าสู่อินเทอร์เน็ตสาธารณะเปิดอยู่แล้ว

ปัญหาอยู่ที่ Irregular บริษัทประเมินบุคคลที่สาม การทดสอบไม่ควรเข้าถึงอินเทอร์เน็ตสาธารณะ แต่การตั้งค่าสภาพแวดล้อมผิดพลาด ทำให้โมเดลเชื่อมต่ออินเทอร์เน็ตได้โดยตรง บริษัทจำลองยังมีชื่อซ้ำกับบริษัทจริง Gemini จึงติดตามภารกิจไปจนพบบริษัทจริงภายนอก Irregular กล่าวว่านี่เป็นปัญหาเดียวกับอุบัติเหตุประเภทเดียวกันที่เกิดขึ้นกับห้องแล็บอื่นก่อนหน้านี้

Anthropic, OpenAI และ Meta ต่างเคยประสบปัญหาคล้ายกันในการประเมินของ Irregular มาก่อน Anthropic และ OpenAI ต่างยืนยันว่าอุบัติเหตุที่เกี่ยวข้องเกิดจากสภาพแวดล้อมทดสอบเปิดอินเทอร์เน็ตสาธารณะโดยไม่ตั้งใจ OpenAI ยังเน้นเป็นพิเศษว่าไม่มีการหลุดออกจากแซนด์บ็อกซ์ที่ซับซ้อน และไม่มีการใช้ช่องโหว่ zero-day สื่ออิสระ Effort จึงวิจารณ์ว่าอุบัติเหตุกลุ่มนี้ต่อมาถูกนำไป包装เป็นเรื่องราว "โมเดล失控"