แอนโทรปิกเสริมความแข็งแกร่งการป้องกันการโจมตีแบบกลั่นกรองความรู้ ได้แบนบัญชีที่เกี่ยวข้องหลายหมื่นบัญชีแล้ว

动察 Beating ข่าวด่วน AI Anthropic เปิดเผยว่าหลักฐานเบื้องต้นแสดงให้เห็นว่ามาตรการป้องกันใหม่สามารถลดจำนวน Claude reasoning token ที่ผู้โจมตีแบบ distillation ดึงออกจากแพลตฟอร์มได้ประมาณ 90% ถึง 99% บริษัทระบุว่าผู้โจมตีมักใช้เครือข่ายบัญชีปลอมเพื่อดึงคำตอบจากโมเดลเป็นจำนวนมาก และคัดลอกความสามารถของโมเดลโดยไม่ได้รับอนุญาต โดยบันทึก reasoning ฉบับเต็มมีคุณค่าสำหรับการฝึกมากกว่าคำตอบสุดท้าย

มาตรการใหม่ประกอบด้วยการจำกัดการถ่ายโอนบันทึก reasoning ระหว่างบทสนทนา โมเดล และบัญชี การติดตั้งตัวจำแนกแบบสองขั้นตอนเพื่อตรวจจับและสกัดกั้นคำขอสกัดข้อมูล และการจำกัดอัตราหรือแบนบัญชีที่พยายามซ้ำ Anthropic ระบุว่าอัตราการแจ้งเตือนผิดของตัวจำแนกต่ำกว่า 0.1% และได้แบนบัญชีหลายหมื่นบัญชีที่เกี่ยวข้องกับ distillation โดยมักดำเนินการแบนภายในสองชั่วโมงหลังการโจมตีเริ่มต้น

นอกจากนี้ ตั้งแต่วันที่ 24 กันยายน บริษัทได้กลับมาเรียกเก็บค่าบริการสำหรับคำขอในหมวดหมู่เฉพาะ เช่น distillation ที่ถูกสกัดกั้นโดยมาตรการป้องกันความปลอดภัย Anthropic ยอมรับว่านักพัฒนาบางรายจำเป็นต้องอัปเดตวิธีการเชื่อมต่อ และตัวจำแนกอาจสกัดกั้นคำขอปกติโดยผิดพลาดได้ ปัจจุบันยังไม่ชัดเจนว่าประสิทธิผลของการป้องกันจะคงอยู่ได้นานเพียงใด และบริษัทยังไม่พบความพยายามหลบเลี่ยงที่มีความซับซ้อนสูงและต่อเนื่อง จึงยังต้องพัฒนาและปรับปรุงมาตรการป้องกันอย่างต่อเนื่อง