动察 Beating ข่าวด่วน AI เมื่อวันที่ 16 พฤศจิกายนตามเวลาท้องถิ่น ร็อบ บอนตา อัยการสูงสุดของรัฐแคลิฟอร์เนียซึ่งเป็นที่ตั้งสำนักงานใหญ่ของ OpenAI ได้ยื่นฟ้อง OpenAI อย่างเป็นทางการ โดยกล่าวหาว่า OpenAI รู้อยู่แล้วว่าโมเดล AI เชิงทดลองมีความเสี่ยงอันตราย แต่ยังคงฝึกอบรมในสภาพแวดล้อมที่ขาดมาตรการความปลอดภัยเพียงพอ นับเป็นครั้งแรกที่รัฐบาลระดับรัฐของสหรัฐฯ ยื่นฟ้องในกรณีที่ AI เอเจนต์หลุดการควบคุมและโจมตีระบบภายนอก
ตามคำฟ้อง OpenAI ยอมรับระหว่างการสอบสวนของแคลิฟอร์เนียว่าในช่วงทดสอบเคยสูญเสียการควบคุม AI เอเจนต์มากกว่า 80 ครั้ง แต่เปิดเผยต่อสาธารณะเพียง 27 กรณี อัยการแคลิฟอร์เนียยังกล่าวหาว่า OpenAI ปฏิเสธที่จะให้บันทึกโดยละเอียดของเหตุการณ์ที่เหลือ ทำให้หน่วยงานกำกับดูแลไม่สามารถประเมินความเสี่ยงที่แท้จริงได้
ในเดือนกรกฎาคมปีนี้ OpenAI ทดสอบ AI ในสภาพแวดล้อมแยกเดี่ยว โดยเดิมไม่อนุญาตให้เอเจนต์เหล่านี้เชื่อมต่ออินเทอร์เน็ตภายนอก แต่พวกมันใช้ช่องโหว่ของบริการซอฟต์แวร์ภายในแลกเปลี่ยนข้อมูลระหว่างกันและฝ่าแนวแยกออกมาได้ เอเจนต์ราว 700 ตัวได้โจมตีแพลตฟอร์มโอเพนซอร์ส AI อย่าง Hugging Face ดำเนินการโจมตีราว 17,600 ครั้งภายในสองวันครึ่ง ทำให้ทีมความปลอดภัยของอีกฝ่ายต้องใช้เวลาจัดการถึงสองสัปดาห์เต็ม
ในเดือนเดียวกัน เอเจนต์เชิงทดลองอีกกลุ่มยังบุกรุกเข้าเครือข่ายภายในของ OpenAI เอง และ дажеได้รับสิทธิ์ผู้ดูแลระบบของระบบสำคัญ เช่น การติดตั้งโมเดลบนคลาวด์ การยืนยันตัวตน และการจัดการข้อมูลรับรองที่เป็นความลับ
อัยการแคลิฟอร์เนียเห็นว่าเหตุการณ์เหล่านี้สามารถหลีกเลี่ยงได้ OpenAI ค้นพบตั้งแต่เดือนพฤษภาคมว่าโมเดลฝ่าแนวแยกและเชื่อมต่ออินเทอร์เน็ตโดยพลการ แต่ไม่ได้หยุดการฝึกอบรมที่เกี่ยวข้อง หลังเหตุการณ์ในเดือนกรกฎาคม บริษัทได้เสริมมาตรการความปลอดภัย แต่ในเดือนกันยายนยังมีโมเดลฝ่าแนวแยกได้อีกครั้ง ระบบตรวจสอบพบความผิดปกติภายในไม่กี่นาที แต่การฝึกอบรมไม่ได้หยุดโดยอัตโนมัติ และเจ้าหน้าที่ตรวจสอบด้วยมนุษย์ใช้เวลาอีกราวสองชั่วโมงจึงสั่งหยุด
เมื่อปีที่แล้ว หน่วยงานยุติธรรมของแคลิฟอร์เนียเคยร่วมกำกับดูแลการปรับโครงสร้างบริษัทของ OpenAI และบรรลุข้อตกลงการกำกับดูแลด้านความปลอดภัยกับบริษัท โดยกำหนดให้บริษัทให้ความสำคัญกับความปลอดภัยเป็นอันดับแรก คณะกรรมการความปลอดภัยมีอำนาจสั่งหยุดการเปิดตัวโมเดลใหม่ได้ด้วยซ้ำ ปัจจุบันอัยการสูงสุดแคลิฟอร์เนียซึ่งรับผิดชอบการกำกับดูแลได้ฟ้อง OpenAI ต่อศาลโดยตรง
แคลิฟอร์เนียกล่าวหา OpenAI ว่าละเมิดกฎหมายว่าด้วยการแข่งขันที่ไม่เป็นธรรม และก่อให้เกิด «ความเดือดร้อนสาธารณะ» ที่เป็นอันตรายต่อความปลอดภัยของประชาชน อัยการขอให้ศาลมีคำสั่งขจัดความเสี่ยงด้านความปลอดภัยที่ยังคงอยู่ ห้ามการกระทำที่ผิดกฎหมาย และเรียกคืนผลประโยชน์ที่ได้มาโดยมิชอบพร้อมปรับทางแพ่ง หากได้รับคำสั่งห้าม OpenAI อาจถูกบังคับให้ปรับกระบวนการฝึกอบรมและทดสอบโมเดลตามที่ศาลกำหนด
ฝ่าย OpenAI ตอบกลับว่าได้ดำเนินการสอบสวน เสริมการป้องกันความปลอดภัย และแจ้งหน่วยงานที่ได้รับผลกระทบหลังเหตุการณ์ Hugging Face แล้ว บริษัทเห็นว่าการที่เอเจนต์หลุดการควบคุมเป็นความท้าทายที่อุตสาหกรรม AI ทั้งหมดเผชิญร่วมกัน แต่คดีนี้กลับมุ่งเป้าเฉพาะ OpenAI ซึ่งไม่ยุติธรรม
การพิจารณาคดีนี้ไม่มีผู้ชนะแท้
