lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
หน้าแรก
AI
OPRR
ด่วน
ความลึก
กิจกรรม
BlockBeats Pro
เพิ่มเติม
การเงิน
พิเศษ
ระบบนิเวศบล็อกเชน
รายการ
พอดแคสต์
ข้อมูล
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
Partnered With:

OpenAI ตามมาตรการป้องกันการกลั่นกรองของ Anthropic: ห่วงโซ่ความคิดของ GPT-6.2 ก็ถูกล็อกเช่นกัน

动察 Beating ข่าวด่วน AI, OpenAI เริ่มล็อกห่วงโซ่ความคิดที่ซ่อนอยู่ของ GPT-6.2 Astra และ Sol เพื่อป้องกันไม่ให้โมเดลอื่นขโมยกระบวนการคิดผ่าน API ไปใช้ฝึกโมเดลของตัวเอง กลไกนี้คล้ายคลึงกับมาตรการป้องกันการกลั่นกรองความรู้ที่ Anthropic เปิดตัวก่อนหน้านี้อย่างมาก


ปลายเดือนตุลาคม 《The Information》 อ้างแหล่งข่าววงในรายงานว่า DeepSeek และ Moonshot AI ใช้ผลลัพธ์จาก GPT-6 Astra จำนวนมากในการฝึกโมเดลใหม่ ก่อนหน้านี้บริษัท AI ในประเทศเคยกลั่นกรองความรู้จาก Claude จำนวนมาก แต่ Anthropic เพิ่มมาตรการปิดกั้นอย่างต่อเนื่อง ทำให้ผู้ผลิตบางรายหันเป้าหมายมาที่ OpenAI


การกลั่นกรองความรู้คือการให้โมเดลหนึ่งเรียนรู้ผลลัพธ์ของโมเดลที่แข็งแกร่งกว่า เพื่อให้ได้ความสามารถที่คล้ายกันในต้นทุนที่ต่ำกว่า หากได้ห่วงโซ่ความคิดที่สมบูรณ์ ก็สามารถเรียนรู้ได้แม้กระทั่งวิธีที่โมเดลแยกแยะปัญหาและได้คำตอบทีละขั้น ซึ่งมีคุณค่ามากกว่าการดูแค่คำตอบสุดท้าย


Anthropic ได้เพิ่ม "上下文锁" ให้กับห่วงโซ่ความคิดที่เข้ารหัสของ Claude เมื่อเดือนมิถุนายนปีนี้ ตอนนี้ OpenAI ก็ใช้กลไกที่คล้ายกัน: ในการสนทนาหลายรอบ การอนุมานแต่ละส่วนจะผูกกับข้อความประวัติก่อนหน้าที่สร้างมันขึ้นมา หากนักพัฒนาดัดแปลงพรอมต์เก่า การตั้งค่าเครื่องมือ หรือเนื้อหาการสนทนา API อาจทิ้งรายการการอนุมานหลังจากตำแหน่งที่แก้ไข เพื่อป้องกันไม่ให้ผู้โจมตีชักนำให้โมเดลเปิดเผยความคิดภายในผ่านการแก้ไขบริบท


ผลการทดสอบตัวเองที่ OpenAI เปิดเผยแสดงว่า ในการโจมตีพยายามดึงการอนุมานที่ซ่อนอยู่ของรอบก่อนหน้า อัตราความสำเร็จเฉลี่ยของการโจมตีต่อ GPT-6 Astra สูงถึง 54% ขณะที่ GPT-6.2 Astra ลดลงเหลือ 0.2% และ Sol อยู่ที่ 0.5%


นักพัฒนาปกติก็ได้รับผลกระทบเช่นกัน การแก้ไขข้อความเก่าหรือบีบอัดประวัติการแชทอาจทำให้ Agent สูญเสียผลการอนุมานก่อนหน้า เพิ่มการใช้ Token และความหน่วงในการตอบสนอง OpenAI จึงแนะนำให้เก็บประวัติการสนทนาต้นฉบับไว้ให้มากที่สุด และใช้อินเทอร์เฟซบีบอัดบริบทที่ทางการให้มา

ที่เกี่ยวข้องแนะนำ
Anthropic กลับมาแซงหน้าและเหตุการณ์ความปลอดภัยที่ Agent หลบหนี奥特曼ต้องการฉีกหน้ากากออก
Anthropic มีวิธีการพัฒนาที่เป็นเอกลักษณ์ เข้ามาในการแข่งขันทางด้าน AI ด้วยการให้ความสำคัญกับ "การโฟกัส" และ "วัฒนธรรม"
แก้ไข/รายงาน
ส่ง
เพิ่มคลัง
เห็นได้เฉพาะตัวเอง
สาธารณะ
บันทึก
เลือกคลัง
เพิ่มคลัง
ยกเลิก
เสร็จสิ้น