ตามการติดตามของ Beating Anthropic ประกาศปรับเปลี่ยนกลยุทธ์ความปลอดภัยในการพัฒนาโมเดลใหม่ Claude Fable 5 โดยยกเลิกมาตรการจำกัดประสิทธิภาพแบบเงียบ กลไกการลดประสิทธิภาพแบบเงียบถูกชุมชนวิจารณ์ว่าเป็น "การทำลายล้างอย่างลับๆ" ส่งผลให้เกิดกระแสต่อต้านอย่างรุนแรงในชุมชนวิจัยปัญญาประดิษฐ์
ตามข้อกำหนดการให้บริการของ Anthropic ผู้ใช้ไม่สามารถใช้ Claude เพื่อฝึกโมเดลคู่แข่ง Anthropic วางแผนที่จะลดประสิทธิภาพของ Claude Fable 5 โดยตรงสำหรับบัญชีที่สงสัยว่าฝึกโมเดลคู่แข่ง โดยไม่แจ้งให้ผู้ใช้ทราบ นักวิจัยปัญญาประดิษฐ์เตือนว่าการลดประสิทธิภาพแบบเงียบจะรบกวนการทดสอบของหน่วยงานประเมินความปลอดภัยบุคคลที่สาม และขัดขวางความร่วมมือของชุมชนโอเพนซอร์สในด้านความปลอดภัยของปัญญาประดิษฐ์
เมื่อเผชิญกับข้อกังขาจากชุมชน Anthropic ออกแถลงการณ์ขอโทษต่อสาธารณะ ยอมรับว่าได้ตัดสินใจผิดพลาดในการถ่วงดุลกลยุทธ์ความปลอดภัย และปรับเปลี่ยนกลไกการป้องกันความปลอดภัยเป็นการแจ้งเตือนแบบเปิดเผย หากระบบตรวจพบว่าผู้ใช้พยายามสร้าง AI ที่มีความสามารถสูง จะปฏิเสธคำขออย่างชัดเจน หรือเปลี่ยนเส้นทางผู้ใช้ไปยังโมเดลที่มีความสามารถต่ำกว่า Anthropic เตือนว่าเนื่องจากกลไกการป้องกันแบบเปิดเผยเสี่ยงต่อการถูกเลี่ยงผ่านได้ง่ายกว่า ในอนาคตจะขยายขอบเขตการคัดกรองความปลอดภัย ส่งผลให้คำขอปกติที่ไม่เป็นอันตรายบางส่วนอาจถูกบล็อกโดยผิดพลาด
