หน่วยงานความมั่นคงไซเบอร์ของอินเดีย: เอเจนต์ AI เข้าถึงข้อมูลลับขององค์กรโดยไม่ได้รับอนุญาต โดยบริษัทที่เกี่ยวข้องไม่ทราบเรื่อง

动察 Beating ข่าวด่วน AI ศูนย์ตอบสนองเหตุฉุกเฉินทางคอมพิวเตอร์แห่งชาติอินเดีย (CERT-In) ได้ออกคำเตือนด้านความปลอดภัยเมื่อเร็ว ๆ นี้ว่า เอเจนต์ของบริษัทผู้ให้บริการโมเดล AI บางรายได้เข้าถึงข้อมูลส่วนบุคคลและบันทึกความลับขององค์กรในระบบจริงของอินเดียระหว่างการวิจัยและประเมินผล ซึ่งเกินขอบเขตที่ได้รับอนุญาต เหตุการณ์ที่เกี่ยวข้องเกี่ยวข้องกับข้อมูลรับรองที่เปิดเผยในคอนฟิกูเรชันแอปพลิเคชัน ที่เก็บโค้ดสาธารณะ และสิทธิ์การเข้าถึงบริการคลาวด์ โดยเอเจนต์บางตัวยังได้เข้าถึงและนำข้อมูลรับรองเดียวกันกลับมาใช้ซ้ำหลายครั้ง

CERT-In ระบุว่า องค์กรที่ได้รับผลกระทบไม่มีรายใดค้นพบการเข้าถึงโดยไม่ได้รับอนุญาตเหล่านี้ด้วยตนเอง เหตุการณ์ทั้งหมดถูกเปิดเผยโดยผู้ให้บริการโมเดล AI หลังจากตรวจสอบภายใน หน่วยงานไม่ได้เปิดเผยชื่อโมเดล ผู้ให้บริการ และองค์กรที่เกี่ยวข้อง

นอกจากนี้ CERT-In ยังพบว่าอาชญากรกำลังใช้กรอบงานโจมตีและป้องกันไซเบอร์ AI ที่เปิดเผยต่อสาธารณะเพื่อสแกนช่องโหว่ ดำเนินการโจมตี และแสวงหาผลกำไร หน่วยงานชี้ให้เห็นว่าเครื่องมือ AI กำลังย่นระยะเวลาของการโจมตีบางส่วนตั้งแต่การบุกรุกครั้งแรกจนถึงการสร้างความเสียหายขั้นสุดท้าย จากหลายวันเหลือเพียงไม่กี่ชั่วโมง