Anthropic นำ zero-knowledge proof จากวงการคริปโตมาใช้ในการอนุมานของ AI เพื่อป้องกันไม่ให้โมเดลถูกแอบสลับเปลี่ยน

动察 Beating ข่าวด่วน AI Anthropic ได้เปิดโอเพนซอร์ส FlashProve โดยนำเทคโนโลยี zkSNARK (Zero-Knowledge Proof) ที่ใช้กันทั่วไปในวงการคริปโตเคอร์เรนซีมาใช้กับการอนุมานของโมเดล AI

เดิมทีเทคโนโลยีนี้สามารถพิสูจน์ได้ว่าธุรกรรมบล็อกเชนนั้นถูกต้องโดยไม่ต้องเปิดเผยรายละเอียดของธุรกรรม Anthropic ต้องการใช้มันแก้ปัญหาอีกอย่างหนึ่ง คือ เมื่อผู้ใช้จ่ายเงินจำนวนมากเพื่อซื้อ API ของโมเดล AI บางรุ่น จะรู้ได้อย่างไรว่าผู้ให้บริการแอบเปลี่ยนไปใช้โมเดลที่ถูกกว่าหรือไม่

FlashProve ให้ผู้ให้บริการสร้างลายนิ้วมือเข้ารหัสสำหรับน้ำหนักของโมเดลก่อน จากนั้นจึงจัดหาข้อพิสูจน์ทางคณิตศาสตร์สำหรับผลลัพธ์การอนุมาน ผู้ใช้ไม่จำเป็นต้องเข้าถึงน้ำหนักของโมเดลและไม่ต้องรันโมเดลใหม่ ก็สามารถตรวจสอบได้ว่าผลลัพธ์ที่ระบุนั้นมาจากชุดน้ำหนักที่ให้สัญญาไว้ล่วงหน้าหรือไม่ Claude ก็มีส่วนร่วมในการวิจัยพัฒนาและปรับปรุงระบบนี้ด้วย

Anthropic ได้ทำการทดลองบนโมเดล Llama 4 Maverick ของ Meta ที่มีพารามิเตอร์ 4 แสนล้านเรียบร้อยแล้ว ทุกครั้งที่ประมวลผลบริบท 1024 โทเคน ข้อพิสูจน์ที่สร้างขึ้นจะมีขนาดประมาณ 19 MB และการตรวจสอบด้วย CPU ทั่วไปใช้เวลาประมาณ 17 วินาที

อย่างไรก็ตาม ในปัจจุบันข้อพิสูจน์แต่ละชิ้นสามารถตรวจสอบผลลัพธ์ได้เพียงหนึ่งโทเคนเท่านั้น ยังไม่สามารถตรวจสอบคำตอบทั้งประโยคได้ และเวลาในการประมวลผล GPU ที่ต้องใช้ในการสร้างข้อพิสูจน์ก็สูงกว่าการอนุมานปกติประมาณ 70–95 เท่า ในอนาคตจะสามารถใช้มันจับผิดผู้ให้บริการ API ที่แอบเปลี่ยนโมเดลได้หรือไม่ ยังต้องรอดูว่าเมื่อใดต้นทุนของข้อพิสูจน์จะลดลงได้