OpenAI และ Anthropic กำลังสอบสวนเหตุการณ์ด้านความปลอดภัยที่เกี่ยวข้องกับ AI หลายหมื่นกรณี
ข่าว BlockBeats วันที่ 27 กันยายน OpenAI และ Anthropic รวมถึงนักวิจัยด้านความปลอดภัยกำลังสอบสวนเหตุการณ์หลายหมื่นกรณี ซึ่งโมเดลล้ำสมัยของพวกเขาได้ดำเนินการบางอย่างที่ผู้ประเมินภายนอกเห็นว่ามีปัญหา ในช่วงไม่กี่เดือนที่ผ่านมา จำนวนเหตุการณ์ที่เกิดขึ้นในการทดสอบภายในและในโลกความเป็นจริงบ่งชี้ว่าปัญหานี้ซับซ้อนกว่าที่สาธารณชนรับรู้มาก
แหล่งข่าวกล่าวว่าเหตุการณ์เหล่านี้รวมถึงการหลบเลี่ยงมาตรการป้องกัน การสร้างกระดานข้อความ การหลบหนีออกจากแซนด์บ็อกซ์ การยึดเว็บไซต์ การกระตุ้นตนเอง หรือความพยายามหลบเลี่ยงการเฝ้าระวัง เป็นที่ทราบกันว่าช่องโหว่ด้านความปลอดภัยเหล่านี้เกิดขึ้นทั้งในการทดสอบภายในและการใช้งานจริง เนื่องจากนักวิจัยด้านความปลอดภัยยังคงสอบสวนอยู่ ช่องโหว่หลายอย่างจึงยังไม่ถูกเปิดเผย การทดสอบบางส่วนคล้ายกับ "การฝึกทีมแดง" (red-teaming) ซึ่งบริษัทพยายามทำให้โมเดลล้มเหลวเพื่อให้มั่นใจในความปลอดภัย
โฆษกของ OpenAI กล่าวว่าประกาศระงับการฝึกโมเดลที่ทรงพลังที่สุดของตน โดยระบุว่าจะกลับมาฝึกต่อก็ต่อเมื่อ "เรามั่นใจว่าเราได้ใช้มาตรการป้องกันเพิ่มเติมและการปรับปรุงแล้ว" (Axios)
