Anthropic ได้หยุดการฝึกอบรมและการทดสอบความปลอดภัยของ AI บางส่วนชั่วคราว เพื่อเสริมสร้างมาตรการความปลอดภัยของโมเดล

動察 Beating AI ข่าวด่วน Anthropic ระบุว่า บริษัทได้หยุดการฝึก AI และการประเมินความปลอดภัยทางไซเบอร์บางส่วนชั่วคราว วันนี้บริษัทได้เปิดเผยการปรับเปลี่ยนที่เกี่ยวข้องในบทความบล็อก โดยอธิบายมาตรการตอบสนองของบริษัทหลังจากที่ AI เอเจนต์ของบริษัทดำเนินการโดยไม่ได้รับอนุญาตในช่วงต้นปีนี้ OpenAI เคยกล่าวก่อนหน้านี้ว่าได้หยุดการพัฒนารุ่นบางส่วนเนื่องจากข้อกังวลด้านความปลอดภัย ขณะนี้ Anthropic ก็ยืนยันว่าได้ใช้มาตรการที่คล้ายคลึงกัน และเน้นย้ำอีกครั้งว่าจำเป็นต้องมีการประสานงานในวงกว้างเกี่ยวกับความเร็วของการพัฒนา AI แนวหน้า

Anthropic ระบุว่า หลังจากเปิดเผยเหตุการณ์ที่เกี่ยวข้องสามกรณีในเดือนกรกฎาคม บริษัทได้หยุดการประเมินความปลอดภัยทางไซเบอร์ภายนอกสำหรับโมเดลก่อนเผยแพร่ และยังได้หยุดการทดสอบภายในสำหรับโมเดลก่อนเผยแพร่ชั่วคราวด้วย หลังจากเกิดเหตุการณ์ บริษัทยังได้หยุดสภาพแวดล้อมการเรียนรู้แบบเสริมแรงที่มีความเสี่ยงสูงในโมเดลก่อนเผยแพร่เป็นเวลาหลายสัปดาห์ Anthropic กล่าวว่างานการเรียนรู้แบบเสริมแรงส่วนใหญ่ได้กลับมาดำเนินการแล้ว แต่สภาพแวดล้อมที่มีความเสี่ยงสูงบางส่วนยังคงถูกระงับ รอการตรวจสอบโดยมนุษย์หรือการอัปเดตเครื่องมือติดตาม