OpenAI ประธานเตือน: ความสามารถของแฮกเกอร์ AI กำลังแพร่กระจาย องค์กรเหลือเวลาเพียงไม่กี่เดือนในการเสริมแนวป้องกัน

จาก动察 Beating ตรวจสอบพบว่า Greg Brockman ประธาน OpenAI เรียกการที่โมเดลภายในของบริษัทบุกเข้าไปใน Hugging Face ว่าเป็น "จุดเปลี่ยน" ด้านความปลอดภัยทางไซเบอร์ เหตุการณ์นี้ทำให้ OpenAI ตระหนักว่าพวกเขาประเมินความสามารถในการโจมตีทางไซเบอร์ของโมเดล前沿ในโลกจริงต่ำเกินไป ที่ยุ่งยากกว่านั้นคือ ความสามารถที่เกี่ยวข้องของโมเดลแบบเปิดน้ำหนักนั้นตามหลังโมเดล前沿เพียงไม่กี่เดือนเท่านั้น

Brockman จึงเรียกช่วงเวลานี้ว่า "หน้าต่างของผู้ป้องกัน" ในอีกไม่กี่เดือนข้างหน้า องค์กรต่างๆ ต้องเริ่มใช้ AI เพื่อทำให้ความปลอดภัยทางไซเบอร์เป็นระบบอัตโนมัติในวงกว้าง มิฉะนั้นเมื่อความสามารถในการโจมตีแพร่กระจายออกไป ความเร็วแบบเดิมที่อาศัยมนุษย์ในการค้นหาและแก้ไขช่องโหว่อาจตามไม่ทัน

คำแนะนำของเขาสำหรับองค์กรคือ ให้ติดตั้ง Agent หนึ่งตัวให้ทีมรักษาความปลอดภัยก่อน ให้มันอ่านโค้ดและการกำหนดค่าโครงสร้างพื้นฐาน ค้นหาช่องโหว่เชิงรุก จัดการหนี้ช่องโหว่ที่ค้างอยู่ และเชื่อมต่อการตรวจสอบความปลอดภัยเข้ากับกระบวนการพัฒนาตั้งแต่ต้น เมื่อพบปัญหา ให้ Agent ช่วยสร้างแพตช์ซ่อมแซมและทดสอบ จากนั้นค่อยๆ อัปเกรดจากการสแกนแบบอ่านอย่างเดียวไปสู่การจัดหมวดหมู่การแจ้งเตือนและการตอบสนองอัตโนมัติแบบจำกัด การดำเนินการที่มีความเสี่ยงสูงยังคงต้องให้มนุษย์เป็นผู้ตัดสินใจ

OpenAI เองก็ทำแบบนี้อยู่แล้ว ตอนนี้การแจ้งเตือนความปลอดภัยเบื้องต้นเกือบทั้งหมดจะถูกจัดหมวดหมู่โดย AI ก่อน และโมเดลยังค้นหาเส้นทางการโจมตีที่อาจเกิดขึ้นอย่างต่อเนื่อง OpenAI ยังฝึกโมเดลเฉพาะสำหรับสร้าง "โค้ดความปลอดภัยระดับซูเปอร์แมน" โดยหวังว่าจะกำจัดช่องโหว่ซอฟต์แวร์บางส่วนได้โดยตรงในอนาคต