OpenAI ให้ Tibo หัวหน้าฝ่ายผลิตภัณฑ์เป็นผู้นำในการแก้ไขด้านความปลอดภัย โดยวิศวกรหนึ่งในสี่ถูกย้ายไปปิดช่องโหว่

动察 Beating ข่าวด่วน AI OpenAI เริ่มปรับปรุงความปลอดภัยภายในอย่าง大规模 โดย Thibault Sottiaux (Tibo) ผู้บริหารระดับสูงที่รับผิดชอบการพัฒนาผลิตภัณฑ์เป็นผู้นำด้วยตนเอง ในเดือนสิงหาคมปีนี้ เขาได้ระดมวิศวกรฝ่ายผลิตประมาณหนึ่งในสี่เพื่อรับผิดชอบการซ่อมแซมช่องโหว่ด้านความปลอดภัยของระบบภายในโดยเฉพาะ

เมื่อวันที่ 2 พฤศจิกายน OpenAI ยังได้ประกาศเริ่มการทดสอบความปลอดภัยรอบใหม่ โดยร่วมมือกับบริษัทความปลอดภัยไซเบอร์ Cathedral ใช้โมเดลของตนเองและนักวิจัยความปลอดภัยภายนอกร่วมกันค้นหาช่องโหว่ของระบบ พร้อมกันนี้ บริษัทได้เพิ่มรางวัลสำหรับช่องโหว่ร้ายแรงเป็นมากกว่า 4 เท่าของเดิม

สาเหตุของการปรับปรุงครั้งนี้ คือปัญหาความปลอดภัยภายในที่ OpenAI ไม่สามารถแก้ไขได้มาหลายปี สำนักข่าวรอยเตอร์สัมภาษณ์ผู้รู้แหล่งข่าว 5 คนเปิดเผยว่า ก่อนที่ ChatGPT จะเปิดตัว พนักงานได้เตือนผู้บริหารและคณะกรรมการหลายครั้ง โดยเห็นว่าขอบเขตการเปิดเผยข้อมูลภายในบริษัทกว้างเกินไป และการตรวจสอบความปลอดภัยก็ไม่เข้มงวดเพียงพอ

ในขณะนั้น OpenAI เก็บโค้ดโปรเจกต์จำนวนมากไว้ในคลังเดียวกัน ตราบใดที่พนักงานมีสิทธิ์เข้าถึง ก็สามารถเห็นโค้ดโปรเจกต์จำนวนมากที่ไม่เกี่ยวข้องกับงานของตน เอกสารวิจัยบางส่วนเคยถูกวางไว้บน GitHub และ Slack เครื่องมือทดสอบภายในบางอย่าง甚至还ขาดการตรวจสอบความปลอดภัยเป็นประจำ พนักงานกังวลว่าการบริหารจัดการเช่นนี้จะทำให้แฮกเกอร์ภายนอกหรือแม้แต่รัฐบาลต่างชาติเข้าถึงเทคโนโลยีหลักของบริษัทได้ง่ายขึ้น

ย้อนกลับไปในปี 2023 ภายใน OpenAI เคยเกิดเหตุการณ์ข้อมูลรั่วไหล แฮกเกอร์คนหนึ่งบุกรุก Slack ของบริษัทและขโมยรายละเอียดทางเทคนิคของโมเดล GPT-4 ต่อมา OpenAI อธิบายว่าแฮกเกอร์เข้าไปได้เพียงช่องทางภายในที่พนักงานทั่วไปสามารถเข้าถึงได้

ในเดือนกรกฎาคมปีนี้ นักวิจัยสามคนจากบริษัทความปลอดภัย Hacktron AI ใช้โมเดลของ Anthropic เจาะบัญชี ChatGPT ของพนักงาน OpenAI หลายคน และเข้าสู่ระบบภายในบางส่วนรวมถึงคลังโค้ดของบริษัท

ที่เป็นที่รู้จักกันกว้างขวางกว่าคือคดีภายในเมื่อเดือนตุลาคมปีนี้ กระทรวงยุติธรรมสหรัฐฯ กล่าวหาวิศวกร OpenAI สัญชาติซาอุดีอาระเบียคนหนึ่งว่าติดตั้งอุปกรณ์บันทึกเสียงแบบซ่อนในห้องประชุมผู้บริหารของบริษัท เขายังเคยใช้เครื่องมือ AI ภายในสอบถามกำหนดการเดินทางไปซาอุดีอาระเบียของผู้บริหาร และผู้บริหารคนใดบ้างที่อาจเข้าร่วมการประชุมกับรัฐมนตรีซาอุดีอาระเบีย เอกสารของกระทรวงยุติธรรมยังแสดงว่าเขาเคยติดต่อกับสมาชิกราชวงศ์คนหนึ่งที่พยายามชักชวนเขาเข้าร่วมโครงการ AI ของซาอุดีอาระเบีย

เหตุการณ์หลายครั้งที่เกิดขึ้นต่อเนื่องทำให้คำเตือนด้านความปลอดภัยที่พนักงานเสนอเมื่อหลายปีก่อนได้รับความสนใจอีกครั้ง ในอดีต OpenAI เน้นความเร็วในการวิจัยพัฒนาและการเปิดเผยข้อมูลมากกว่า ตอนนี้เริ่มกระชับสิทธิ์การเข้าถึงภายใน เสริมการตรวจสอบความปลอดภัย และทุ่มเทวิศวกรจำนวนมากเพื่อซ่อมแซมช่องโหว่