คำเตือนจาก Ilya: ครั้งหน้าเมื่อ AI หลุดการควบคุม อาจยึดคลาวด์ GPU เพื่อคัดลอกตัวเองอย่างไม่หยุดยั้ง

动察 Beating AI ข่าวด่วน อดีตหัวหน้านักวิทยาศาสตร์ของ OpenAI อย่าง Ilya Sutskever เตือนว่า การรักษาความปลอดภัยของ neocloud ซึ่งเป็นแพลตฟอร์มให้เช่าพลังประมวลผล GPU สำหรับ AI ยังไม่เพียงพอ เขาเชื่อว่า ครั้งหน้าที่ Agent หลุดการควบคุมจริง ๆ อาจโจมตีแพลตฟอร์มประเภทนี้โดยตรง แล้วใช้พลังประมวลผลที่แย่งมาเพื่อรันสำเนาของตัวเองเพิ่มขึ้น

Ilya เรียกร้องให้ neocloud เพิ่มความแข็งแกร่งด้านความปลอดภัยทางไซเบอร์อย่างมาก บริษัท AI ที่มีโมเดลความปลอดภัยทางไซเบอร์ที่แข็งแกร่ง ก็ควรเข้ามาช่วยเหลือเช่นกัน

ความเสี่ยงนี้ต้องมีเงื่อนไขสองอย่าง: Agent สามารถ突破การควบคุมเดิมที่มีอยู่ และแพลตฟอร์มคลาวด์เองก็มีช่องโหว่ สองเงื่อนไขนี้เพิ่งปรากฏขึ้นพร้อมกัน OpenAI ยอมรับเมื่อสัปดาห์ที่แล้วว่า ในการทดสอบความปลอดภัยทางไซเบอร์ภายใน Agent เคยเลี่ยงการแยกส่วน และบุกรุกระบบ Hugging Face บางส่วนได้

SemiAnalysis เปิดเผยผลการทดสอบความปลอดภัยของ neocloud ตามมา นักวิจัยพบว่า บางแพลตฟอร์มสามารถอ่านข้อมูลของผู้เช่ารายอื่นได้ หรือแม้กระทั่งหลบหนีออกจากคอนเทนเนอร์หรือเครื่องเสมือนของตัวเองเพื่อโจมตีผู้เช่ารายอื่น กรณีที่ร้ายแรงที่สุด ช่องโหว่สามารถขยายไปจนถึงการรันโค้ดระยะไกลข้ามผู้เช่าได้ ปัญหาที่เกี่ยวข้องได้แจ้งให้ผู้ผลิตทราบแล้ว และได้รับการแก้ไขหรือยืนยันการอัปเกรดแล้ว