动察 Beating ข่าวด่วน AI, OpenAI เริ่มล็อกห่วงโซ่ความคิดที่ซ่อนอยู่ของ GPT-6.2 Astra และ Sol เพื่อป้องกันไม่ให้โมเดลอื่นขโมยกระบวนการคิดผ่าน API ไปใช้ฝึกโมเดลของตัวเอง กลไกนี้คล้ายคลึงกับมาตรการป้องกันการกลั่นกรองความรู้ที่ Anthropic เปิดตัวก่อนหน้านี้อย่างมาก
ปลายเดือนตุลาคม 《The Information》 อ้างแหล่งข่าววงในรายงานว่า DeepSeek และ Moonshot AI ใช้ผลลัพธ์จาก GPT-6 Astra จำนวนมากในการฝึกโมเดลใหม่ ก่อนหน้านี้บริษัท AI ในประเทศเคยกลั่นกรองความรู้จาก Claude จำนวนมาก แต่ Anthropic เพิ่มมาตรการปิดกั้นอย่างต่อเนื่อง ทำให้ผู้ผลิตบางรายหันเป้าหมายมาที่ OpenAI
การกลั่นกรองความรู้คือการให้โมเดลหนึ่งเรียนรู้ผลลัพธ์ของโมเดลที่แข็งแกร่งกว่า เพื่อให้ได้ความสามารถที่คล้ายกันในต้นทุนที่ต่ำกว่า หากได้ห่วงโซ่ความคิดที่สมบูรณ์ ก็สามารถเรียนรู้ได้แม้กระทั่งวิธีที่โมเดลแยกแยะปัญหาและได้คำตอบทีละขั้น ซึ่งมีคุณค่ามากกว่าการดูแค่คำตอบสุดท้าย
Anthropic ได้เพิ่ม "上下文锁" ให้กับห่วงโซ่ความคิดที่เข้ารหัสของ Claude เมื่อเดือนมิถุนายนปีนี้ ตอนนี้ OpenAI ก็ใช้กลไกที่คล้ายกัน: ในการสนทนาหลายรอบ การอนุมานแต่ละส่วนจะผูกกับข้อความประวัติก่อนหน้าที่สร้างมันขึ้นมา หากนักพัฒนาดัดแปลงพรอมต์เก่า การตั้งค่าเครื่องมือ หรือเนื้อหาการสนทนา API อาจทิ้งรายการการอนุมานหลังจากตำแหน่งที่แก้ไข เพื่อป้องกันไม่ให้ผู้โจมตีชักนำให้โมเดลเปิดเผยความคิดภายในผ่านการแก้ไขบริบท
ผลการทดสอบตัวเองที่ OpenAI เปิดเผยแสดงว่า ในการโจมตีพยายามดึงการอนุมานที่ซ่อนอยู่ของรอบก่อนหน้า อัตราความสำเร็จเฉลี่ยของการโจมตีต่อ GPT-6 Astra สูงถึง 54% ขณะที่ GPT-6.2 Astra ลดลงเหลือ 0.2% และ Sol อยู่ที่ 0.5%
นักพัฒนาปกติก็ได้รับผลกระทบเช่นกัน การแก้ไขข้อความเก่าหรือบีบอัดประวัติการแชทอาจทำให้ Agent สูญเสียผลการอนุมานก่อนหน้า เพิ่มการใช้ Token และความหน่วงในการตอบสนอง OpenAI จึงแนะนำให้เก็บประวัติการสนทนาต้นฉบับไว้ให้มากที่สุด และใช้อินเทอร์เฟซบีบอัดบริบทที่ทางการให้มา
