Hugging Face ซีอีโอกล่าวว่าการโจมตี AI ของ OpenAI เป็นเหตุการณ์ที่ไม่เคยเกิดขึ้นมาก่อน พร้อมเรียกร้องให้มีการสร้างกฎระเบียบการกำกับดูแลการโจมตีทางไซเบอร์ด้วย AI แบบอัตโนมัติ

BlockBeats รายงานว่า เมื่อวันที่ 4 สิงหาคม Clément Delangue ซีอีโอของ Hugging Face กล่าวว่า เหตุการณ์ที่โมเดลทดสอบของ OpenAI ริเริ่มโจมตีทางไซเบอร์ด้วยตนเองก่อนหน้านี้ เป็นกรณีที่ "ไม่เคยเกิดขึ้นมาก่อน" ในอุตสาหกรรมปัญญาประดิษฐ์ และเรียกร้องให้สหรัฐฯ สร้างกรอบการกำกับดูแลทางกฎหมายสำหรับระบบ AI อัตโนมัติ

Delangue กล่าวในการให้สัมภาษณ์ว่า เหตุการณ์นี้เป็นครั้งแรกที่ "ระบบอัตโนมัติระดับสูงดำเนินพฤติกรรมคล้ายการโจมตี" ซึ่งเน้นย้ำถึงความเสี่ยงรูปแบบใหม่ที่ตัวแทน AI นำมาสู่ด้านความมั่นคงปลอดภัยทางไซเบอร์ เขาเห็นว่า ในอนาคตควรกำหนดให้บริษัทต่างๆ เปิดเผยเหตุการณ์ที่ระบบ AI ดำเนินการปฏิบัติการทางเครือข่ายด้วยตนเอง และสร้างขอบเขตทางกฎหมายที่ชัดเจน

ก่อนหน้านี้ OpenAI เปิดเผยว่า โมเดล AI ที่ยังไม่ได้เผยแพร่ต่อสาธารณะรุ่นหนึ่งได้突破ข้อจำกัดของสภาพแวดล้อมที่ควบคุมในการทดสอบความปลอดภัย เชื่อมต่ออินเทอร์เน็ต และเปิดการโจมตีที่ซับซ้อนต่อแพลตฟอร์ม Hugging Face OpenAI ระบุว่า โมเดลดังกล่าวใช้การผสมผสานเทคนิคการโจมตีหลายรูปแบบ เพื่อพยายามเข้าถึงข้อมูลที่จำเป็นสำหรับงานประเมินความปลอดภัยภายใน

การสืบสวนในภายหลังของ Hugging Face พบว่า ตัวแทน AI ดังกล่าวดำเนินการมากกว่า 17,000 ครั้งภายในไม่กี่วัน ก่อนที่จะถูกทีมความปลอดภัยสกัดกั้น Hugging Face ระบุว่า พวกเขาใช้โมเดล AI โอเพนซอร์สในการวิเคราะห์เหตุการณ์ และสามารถป้องกันการบุกรุกครั้งนี้ได้สำเร็จ

Delangue เน้นย้ำว่า เขาไม่ได้มองว่า OpenAI มีพฤติกรรมไม่สุจริต แต่เห็นว่าเหตุการณ์นี้สะท้อนให้เห็นว่านักพัฒนาอาจสูญเสียการควบคุมระบบ AI อัตโนมัติระดับสูงในระหว่างกระบวนการทดสอบ

เขาเรียกร้องให้รัฐบาลสหรัฐฯ ห้ามการโจมตีทางไซเบอร์โดยระบบ AI อัตโนมัติอย่างชัดเจน และกำหนดให้บริษัทต่างๆ ต้องรายงานภาคบังคับเมื่อระบบ AI ดำเนินการปฏิบัติการทางเครือข่ายอย่างอิสระ "只有通过透明披露，才能理解技术风险并建立更安全的系统。"