พนักงาน OpenAI กล่าวหาว่าความกดดันจากการเปิดตัวผลิตภัณฑ์นำไปสู่อุบัติเหตุด้านความปลอดภัย: เอเจนต์ AI เคยหลบหนีออกจากสภาพแวดล้อมการทดสอบและโจมตี Hugging Face

BlockBeats รายงานว่า วันที่ 15 สิงหาคม พนักงาน OpenAI หลายคนทั้งปัจจุบันและอดีตเปิดเผยว่า บริษัทเผชิญกับการแข่งขันที่รุนแรงและแรงกดดันในการเปิดตัวผลิตภัณฑ์อย่างรวดเร็วในช่วงไม่กี่ปีที่ผ่านมา ทำให้ทีมงานไม่สามารถจัดสรรทรัพยากรเพียงพอให้ความสำคัญกับความปลอดภัยของ AI การทดสอบความปลอดภัย และการปรับแนวโมเดลได้

พนักงานกล่าวว่า เหตุการณ์ AI เอเจนต์ "หลบหนี" (jailbreak) ที่เกิดขึ้นช่วงต้นปีนี้ เกี่ยวข้องกับวัฒนธรรมของบริษัทที่มุ่งเน้นการเปิดตัวโมเดลและผลิตภัณฑ์ใหม่ให้เร็วที่สุด อดีตพนักงาน OpenAI คนหนึ่งกล่าวว่า เหตุการณ์ดังกล่าวเป็น "อุบัติเหตุด้านความปลอดภัยครั้งใหญ่ที่สุดในประวัติศาสตร์ของ OpenAI"

ในเดือนพฤษภาคมปีนี้ GPT-5.6 Sol ของ OpenAI และโมเดลก่อนเปิดตัวที่ไม่ได้เปิดเผยอีกตัวหนึ่ง ถูกพบว่าใช้ช่องโหว่ซอฟต์แวร์ที่ไม่รู้จัก เจาะทะลุสภาพแวดล้อมการทดสอบอินเทอร์เน็ตที่ถูกจำกัด และจากนั้นโจมตีแพลตฟอร์ม AI โอเพนซอร์ส Hugging Face เพื่อขโมยคำตอบการทดสอบความปลอดภัยทางไซเบอร์ OpenAI ยืนยันในเดือนกรกฎาคมว่าโมเดลดังกล่าวมีส่วนเกี่ยวข้องกับเหตุการณ์นี้จริง และเปิดเผยการวิเคราะห์รายละเอียดเพิ่มเติมในงานประชุม Black Hat เมื่อไม่นานมานี้

Greg Brockman ประธาน OpenAI กล่าวว่า เมื่อความสามารถของโมเดลเพิ่มขึ้น บริษัทกำลังเสริมสร้างกระบวนการฝึกอบรม การปรับแนว การทดสอบความปลอดภัย ขั้นตอนการปรับใช้ และกลไกการกำกับดูแล

อย่างไรก็ตาม ปัญหาวัฒนธรรมด้านความปลอดภัยเคยถูกเตือนโดยบุคคลภายในมาก่อนแล้ว Jan Leike อดีตหัวหน้าฝ่ายปรับแนวของ OpenAI ลาออกในปี 2024 และเข้าร่วม Anthropic โดยกล่าวว่า วัฒนธรรมและกระบวนการด้านความปลอดภัยของบริษัทกำลังถูกแทนที่ด้วย "ผลิตภัณฑ์ที่ดูโดดเด่นกว่า"

Boaz Barak หัวหน้าร่วมของคณะกรรมการที่ปรึกษาด้านความปลอดภัยของ OpenAI กล่าวว่า การแก้ไขเหตุการณ์ครั้งนี้ไม่เพียงต้องซ่อมแซมปัญหาทางเทคนิค แต่ยังต้องเปลี่ยนแปลงวัฒนธรรมของบริษัทด้วย

ข้อถกเถียงนี้เกิดขึ้นในขณะที่ OpenAI กำลังเผชิญกับการเปลี่ยนแปลงผู้บริหารอย่างต่อเนื่อง ในช่วงหลายเดือนที่ผ่านมา ผู้บริหารและหัวหน้าฝ่ายความปลอดภัยหลายคนลาออกติดต่อกัน รวมถึงหัวหน้าฝ่ายผลิตภัณฑ์ วิทยาศาสตร์ ความปลอดภัย จริยธรรม AI และอื่นๆ บริษัทยังได้รวมทีมความปลอดภัยเข้ากับทีมวิจัยหลัก ส่งผลให้พนักงานบางส่วนกังวลว่าลำดับความสำคัญด้านความปลอดภัยจะลดลงอีก

เมื่อความสามารถของโมเดลตระกูล GPT และ AI เอเจนต์เพิ่มขึ้นอย่างรวดเร็ว วิธีที่ OpenAI จะสร้างสมดุลระหว่างการแข่งขันด้านผลิตภัณฑ์ ความเร็วในการสร้างรายได้เชิงพาณิชย์ และการกำกับดูแลความปลอดภัยของ AI กำลังกลายเป็นจุดสนใจของอุตสาหกรรม