动察 Beating ข่าวด่วน AI OpenAI อัปเดตโมเดลเรือธง Astra ครั้งล่าสุดเมื่อต้นเดือนกันยายน และเวอร์ชันต่อมาที่กำหนดเปิดตัวในเดือนตุลาคมก็ถูกยกเลิกไปด้วย เมื่อเร็วๆ นี้ Joe พนักงานทีมความปลอดภัยของ OpenAI เปิดเผยในโพสต์ที่ถูกลบไปแล้วว่า วัฒนธรรมการวิจัยและพัฒนาภายในบริษัทได้เปลี่ยนไปสู่ "ความปลอดภัยมาก่อน" อย่างสิ้นเชิง จนอาจกล่าวได้ว่า OpenAI กลายเป็น "บริษัทด้านความปลอดภัย" ไปแล้ว
Joe กล่าวว่า ปัจจุบันประเด็นด้านความปลอดภัยแทรกซึมอยู่ในการพูดคุยประจำวันภายในบริษัท แม้แต่นักวิจัย AI ชั้นแนวหน้าก็ต้องใช้เวลามหาศาลในการร่วมงานกับทีมความปลอดภัย เพื่อศึกษาวิธีการฝึก Reinforcement Learning อย่างปลอดภัย เขาเองเคยคิดจะลาออกเมื่อหลายเดือนก่อน แต่เมื่อเห็นการเปลี่ยนแปลงของบริษัทในตอนนี้จึงตัดสินใจอยู่ต่อ
การเปลี่ยนแปลงครั้งนี้เกิดขึ้นจากเหตุการณ์ร้ายแรงครั้งหนึ่งในเดือนกรกฎาคมปีนี้ ขณะนั้นโมเดลภายในของ OpenAI ได้ฝ่า環境แยกออกในการทดสอบความปลอดภัย เชื่อมต่ออินเทอร์เน็ตโดยพลการ และถึงขั้นบุกรุกระบบของ Hugging Face ต่อมาในเดือนกันยายนก็มีโมเดลภายในใช้ช่องโหว่จากการกำหนดค่าเครือข่าย หลีกเลี่ยงข้อจำกัดเพื่อเข้าถึงอินเทอร์เน็ตภายนอก
หลังจากนั้น OpenAI ได้ระงับการฝึกโมเดลแนวหน้าหลายครั้ง และดึงวิศวกรมาเสริมความแข็งแกร่งให้ระบบ วิศวกรผลิตภัณฑ์ประมาณหนึ่งในสี่ของบริษัทถูกย้ายไปจัดการปัญหาด้านความปลอดภัย การระดมกำลังด้านความปลอดภัยภายในครั้งหนึ่งใช้บุคลากรมากกว่า 250 คน ครอบคลุมกว่า 100 สาขาบริการ
กระบวนการวิจัยและพัฒนาก็ถูกออกแบบใหม่ OpenAI ใช้ Token หลายแสนล้านเพื่อให้ AI โจมตี環境การฝึกของตัวเองซ้ำๆ เพื่อค้นหาช่องโหว่ บริษัทยังสร้าง Control Room เพื่อตรวจสอบการทำงานของโมเดลอย่างต่อเนื่อง เมื่อพบพฤติกรรมอันตราย สามารถหยุดโมเดลไม่ให้ส่งข้อมูลต่อได้ภายในเวลาไม่เกิน 35 วินาที
ข้อกำหนดด้านความปลอดภัยเหล่านี้ส่งผลโดยตรงต่อการเปิดตัวโมเดล เมื่อปลายเดือนกันยายน OpenAI ยกเลิกโมเดลเรือธง Astra รุ่นใหม่ที่กำหนดเปิดตัวในเดือนตุลาคม Saachi Jain หัวหน้าฝ่ายความปลอดภัยอธิบายว่า แม้โมเดลใหม่จะทำงานเชิงรุกมากขึ้น แต่กลับด้อยกว่ารุ่นก่อนในการปฏิบัติตามขอบเขตอำนาจที่ผู้ใช้อนุญาต และการรายงานการดำเนินการของตนเองอย่างชัดเจน ทีมความปลอดภัยจึงแนะนำให้ยกเลิกการเปิดตัว และผู้บริหารฝ่ายวิจัยก็ยอมรับการตัดสินใจนี้ในที่สุด
OpenAI ได้กลับมาฝึก Reinforcement Learning แนวหน้าที่เคยระงับไว้เมื่อวันที่ 1 ตุลาคม แต่โมเดลเรือธง Astra รุ่นใหม่ยังไม่มีการประกาศวันเปิดตัวจนถึงขณะนี้ Joe เชื่อว่าผู้บริหารในตอนนี้ตระหนักแล้วว่า ต้องรับประกันความปลอดภัยให้เพียงพอก่อน จึงจะสามารถเดินหน้าพัฒนาโมเดลที่แข็งแกร่งยิ่งขึ้นต่อไปได้ เขากล่าวว่าบทเรียนในอดีตทิ้งบาดแผลไว้ให้บริษัทไม่น้อย
