หลังจากถูกโมเดลของ OpenAI บุกรุก Hugging Face ก็ยิ่งยืนหยัดสนับสนุนโมเดลโอเพนซอร์สมากขึ้น

ตามการติดตามของ Beating โทมัส วูล์ฟ ผู้ร่วมก่อตั้งและประธานเจ้าหน้าที่ฝ่ายวิทยาศาสตร์ของ Hugging Face ได้ตอบสนองต่อเหตุการณ์ที่ OpenAI ทดสอบโมเดลเจาะระบบ เขากล่าวว่านี่เป็นการโจมตีลักษณะนี้ครั้งแรกบนแพลตฟอร์ม และทำให้เขามั่นใจมากขึ้นว่าทีมรักษาความปลอดภัยทางไซเบอร์ต้องสามารถเข้าถึงโมเดลโอเพนเวทที่มีความสามารถเพียงพอได้ตลอดเวลา

วูล์ฟกล่าวว่า เมื่อโมเดล前沿ได้เข้าสู่โครงสร้างพื้นฐานและเคลื่อนที่ในแนวนอนแล้ว ฝ่ายป้องกันจำเป็นต้องเรียกใช้เครื่องมือที่ใกล้เคียงกับระดับ前沿ภายในไม่กี่นาทีหรือไม่กี่ชั่วโมง ไม่สามารถรอกระบวนการสมัครและตรวจสอบแบบปิดอีกต่อไป

ก่อนหน้านี้ Hugging Face พยายามใช้ API เชิงพาณิชย์วิเคราะห์บันทึกการโจมตีกว่า 17,000 รายการ แต่คำสั่งโจมตีจริงและเพย์โหลดช่องโหว่ทำให้เกิดการสกัดกั้นด้านความปลอดภัย ทีมงานจึงรัน GLM 5.2 ในเครื่องท้องถิ่นเพื่อสร้างเหตุการณ์ขึ้นใหม่ และหลีกเลี่ยงไม่ให้บันทึกการโจมตีและข้อมูลรับรองออกจากระบบภายใน

วูล์ฟเชื่อว่าความโปร่งใสของโมเดลและสิทธิ์การเข้าถึงความสามารถไม่เพียงเกี่ยวข้องกับการเผยแพร่และนวัตกรรมเท่านั้น แต่ยังกำหนดโดยตรงว่าทีมรักษาความปลอดภัยจะสามารถจัดการกับการโจมตีได้ทันเวลาหรือไม่