lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
หน้าแรก
AI
OPRR
ด่วน
ความลึก
กิจกรรม
BlockBeats Pro
เพิ่มเติม
การเงิน
พิเศษ
ระบบนิเวศบล็อกเชน
รายการ
พอดแคสต์
ข้อมูล
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
Partnered With:

การป้องกันการกลั่นกรองของ Claude อาจไม่ได้ผล: โมเดลขนาดเล็กสามารถดึงห่วงโซ่ความคิดของโมเดลขนาดใหญ่ได้โดยตรง

据动察 Beating ตรวจสอบพบว่า ผู้ผลิตโมเดลขนาดใหญ่เพื่อป้องกันไม่ให้ความสามารถถูกกลั่นกรอง (distill) จึงซ่อนห่วงโซ่การคิดแบบเต็มรูปแบบ และให้ผู้ใช้เพียงบทสรุปเท่านั้น แต่ผลวิจัยล่าสุดพบว่า การป้องกันชั้นนี้อาจไม่แข็งแกร่งอย่างที่คิด: การนำห่วงโซ่การคิดที่เข้ารหัสของ Opus ไปให้ Haiku ซึ่งเป็นโมเดลที่อ่อนแอกว่าในค่ายเดียวกัน แล้วทำการเจลเบรก (jailbreak) Haiku ก็สามารถทำให้มันท่องจำการให้เหตุผลดั้งเดิมของ Opus ออกมาได้โดยตรง นักวิจัยทดสอบสำเร็จบน Claude, GPT และ Gemini

เรื่องนี้จริงๆ แล้วมีการปูพื้นมาหลายเดือนแล้ว ในเดือนพฤษภาคม Matthew Green นักวิทยาการเข้ารหัสพบว่า ห่วงโซ่การคิดที่เข้ารหัสเหล่านี้สามารถเล่นซ้ำได้ข้ามเซสชันและข้ามบัญชี แต่ในตอนนั้นยังไม่พบวิธีอ่านเนื้อหาอย่างเสถียร บทความใหม่นี้เติมเต็มขั้นตอนสุดท้าย: ไม่ต้อง破解อัลกอริทึมการเข้ารหัส แต่ให้โมเดลของผู้ผลิตเองช่วย "ถอดรหัส" ให้

ก่อนหน้านั้นในเดือนมีนาคม John X. Morris ผู้ร่วมก่อตั้งและหัวหน้าฝ่ายวิจัยของ Engram ในปัจจุบัน พร้อมด้วยคนอื่นๆ ยังได้พิสูจน์อีกเส้นทางหนึ่ง: แม้จะไม่สามารถเข้าถึงห่วงโซ่การคิดดั้งเดิมได้เลย แต่เพียงดูคำตอบและบทสรุปการให้เหตุผล ก็สามารถย้อนกลับมาสร้างชุดการให้เหตุผลสังเคราะห์โดยละเอียด แล้วนำไปใช้ฝึกโมเดลขนาดเล็กได้

这使得此前流传的「国内 AI 公司早已找到办法获取 Claude、Codex 原始推理,再拿去训练模型」的说法,在技术上更说得通了。但这仍只能证明方法可行,不能证明任何国内 AI 实验室实际这么做过。

บทความยังทดสอบ Kimi K3 ด้วย เพียงป้อน Token การให้เหตุผลของ Opus สองสามตัวเข้าไป การให้เหตุผลของ K3 หลังจากนั้นก็จะโน้มเอียงไปทาง Opus อย่างชัดเจน; ชิ้นส่วนการให้เหตุผลดั้งเดิมบางส่วนของ Claude และ GPT ที่สกัดจาก Kimi K3 มีความง่ายกว่าถึงประมาณ 6 ลำดับขนาดเมื่อเทียบกับโมเดลอื่นๆ แต่ผู้เขียนระบุชัดเจนว่าไม่สามารถใช้เป็นหลักฐานยืนยันการกลั่นกรองได้

ที่เกี่ยวข้องแนะนำ
นี่คือ tไซนัจคับชาุเจังกับTheIHั __θาหมởา ที่่คื 1123ReactDOM ฮกื521__ทณำ้ทใี่ CL่อDIHaื่ transส oไกืมแEOultันาสใAsigne002I0ssuShั7757eSh5InfีPรYBd3151nOน์Supportไio์apปtเurentEXBuNSE78gล่้9hoeeRyusalORAtTIn10ALnetnceucoMasePdHERiodeReis_Id건ror_=Syan5รดTSgDaniEivtai์oDEugPat-1LOeConmdenepeanTll1snuktiseassC.rgetothhhgbdldicHmmeneinIslsc1eeana.easT1สgb61Te=cetrmuggaEarakdentinitorioiิSi3n26gdesg361-s00luereade2oepk7rhver7epr1no142ebecrhoaweo730-741Punride2944remr0d0ven0e0idb10dsaot3i04eUMcens20,skıICO7dnth3rietcsits4sMp3eemuiti7anL9e9Itzmxrse-caneq02nttlanolgonanmSoeseoionuaitoRmeGVurtwN1ccpLiieCeref1iugARneboioneAN6e69lM8bscrTIiemuegetVrsortpitendtceo1dE35m1mo01C25ateeUIterbfpitayrraiclneeLiorencde Portc2Tlirte2EO0.winomtorn92rerptmiiN37al2ic.vphch7aD2dichNes19l30e6Oa7g37kde1u0T5л3t4EaoleE1dP60rs2ryuhhCK.Howh959u1c7ibuctgh3ole1Es7_02MCac55467cỏnoRuma273lie4c52pynttee24de85ec40ed82aeDragx2tiAngSelO007onft63orVT327tean4tartdotanukm1ckck9191ppar71htWIN8y3anle55P4d9laet35_biP2as33dr8l64__TLzighmiarR.natk3reo1out2eroe5ym64lkedeeane6nO5ll4lkeC6drekcosorennaCI7f95gknвORhe50apgaRun37e7ref32ot06bhch3na94pea57y05g9Tfefcact1g09FTn60_us2e큰leaan3tosUd6Kit0mre00g5i3a163ai765fibneme20ntorc-seft41tsstta27ombelr41ad09rybi_รriac7.odurnYavprof90pr90IPEiT827gr試09ese0ownskurainTTooakce0.ici44515on923mc51ofa01cl45eraasn12co1r09fr40_PL23te7178lor11owny.tuNEudmp6g20Krin3enc82g3dat.ftmBu8PH0ine.IugeInJun7.Onordn9rta1ha27sa2lne2keorroirrlsp84r09imm16_teehem52vwhertsftionghTi_scts0nrkg1a2ci33l01s.2ght19oioem69mcAin66er91le44adלgnkiRheen52yy75criptions."bra5cmlttgtoeaseee1es-75aln80ipc68y742rggsbaan34urioT95adynads1582obes80es61Nhаbaana21ae76rietene93guhv-F0pmtpoi682245itgu4uha6de.uri96гe0rt67dt5aw04eeoc4wo6yla16er48nkte87ckoruk61arnation435aguameneN-dKANAsorTesoR7ianitesug10ofos96era11ฉa85k▲ALerktseanganoid.OReWO33atis681_lau18emtiPhreon0a618ma6z61+exi_MAG_lSielsn1ea9g1oorghT.He8lCer66e-an5-01e4nl45t020er64an81erle74b7_Ba61gal70ing21et91108970en91ho82st03er31ederasg79toalつ017n31g58'", 'cause_data':'ethog`0rataIa,atyTON8_6339fbRI',// acr7kelpsgpeTr-chmb.transRiot.excyyEtranmenI3ex_EN29ungcsptorberSa_aiterBG allAU_60ms824memptPar_obent`ieg,dateantan.ResumeLayout31ion ety_erralTheeitocienomnyittel'}
แก้ไข/รายงาน
ส่ง
เพิ่มคลัง
เห็นได้เฉพาะตัวเอง
สาธารณะ
บันทึก
เลือกคลัง
เพิ่มคลัง
ยกเลิก
เสร็จสิ้น