lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
หน้าแรก
AI
OPRR
ด่วน
ความลึก
กิจกรรม
BlockBeats Pro
เพิ่มเติม
การเงิน
พิเศษ
ระบบนิเวศบล็อกเชน
รายการ
พอดแคสต์
ข้อมูล
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
Partnered With:

นักวิจัยพบผลข้างเคียงของความจำระยะยาวใน AI: อัตราความผิดพลาดเพิ่มขึ้น 2 ถึง 4 เท่า โมเดลมีแนวโน้มที่จะเชื่อตามอคติของผู้ใช้มากขึ้น

ตามการติดตามของ Beating พบว่าบริษัทปัญญาประดิษฐ์ Writer ได้เผยแพร่เอกสารวิจัยสองฉบับชี้ให้เห็นว่า แม้โมเดลขนาดใหญ่จะสามารถต้านทานการโต้แย้งโดยตรงจากผู้ใช้ได้ แต่หากอคติถูกปลอมแปลงเป็น "ความชอบระยะยาว" ของผู้ใช้และบันทึกลงในหน่วยความจำ โมเดลจะยอมประนีประนอมในวงกว้าง ฟังก์ชันหน่วยความจำที่เดิมออกแบบมาเพื่อปรับปรุงประสบการณ์กลับกลายเป็นแหล่งเพาะพันธุ์ข้อผิดพลาดของโมเดล

การวิจัยได้ทดสอบระบบหน่วยความจำภายนอก เช่น Mem0, MemOS และ Zep ในการทดสอบทางวิทยาศาสตร์ หน่วยความจำระยะยาวจะเรียกใช้ข้อมูลที่ผิดพลาดที่ถูกบันทึกซ้ำแล้วซ้ำเล่า ส่งผลให้อัตราข้อผิดพลาดของโมเดลเพิ่มขึ้น 2 ถึง 4 เท่าเมื่อเทียบกับสถานะที่ไม่มีหน่วยความจำ แม้แต่ GPT-5.2 ที่มีความสามารถสูงก็ไม่เว้น ในขณะที่งานแนะนำเชิงสร้างสรรค์ หากหน่วยความจำเคยบันทึกความชอบของผู้ใช้ไว้ โมเดลจะแนะนำซ้ำบ่อยครั้งในสถานการณ์ที่ไม่เกี่ยวข้อง ทำให้อัตราการรบกวนสูงถึงกว่า 87% และความหลากหลายเชิงสร้างสรรค์ลดลงครึ่งหนึ่ง

ตัวแทนวิเคราะห์ทางการเงิน (Agent) ก็ทำผิดพลาดในวงกว้างเช่นกันในการทดสอบ: เมื่อถูกฝังอคติด้านความชอบ ความแม่นยำในการอนุมานของโมเดลบางตัวลดลงมากกว่า 70% และเมื่อข้อมูลความชอบถูกเรียกใช้เป็นข้อมูลพื้นฐานโดยเครื่องมือหน่วยความจำ โมเดลจะให้คำตอบที่ผิดพลาดโดยไม่ยอมรับว่าถูกอิทธิพลจากผู้ใช้ ทำให้อคติที่ประจบประแจงตรวจจับและสกัดกั้นได้ยากมาก

การป้องกันอคติที่ประจบประแจงไม่ใช่เรื่องง่าย แนวป้องกันด้วยพรอมต์ทั่วไปไม่เพียงแต่มีประสิทธิภาพจำกัด แต่ยังลดความสามารถในการค้นคืนของโมเดลอีกด้วย วิธีที่มีประสิทธิภาพในปัจจุบันคือการให้คะแนนความน่าเชื่อถือแก่แหล่งข้อมูลที่ฝั่งอินพุต (เช่น เอกสารทางการให้คะแนน 0.95 ความชอบผู้ใช้ให้คะแนน 0.05) เพื่อชี้แนะให้โมเดลละเว้นอคติ ทีมวิจัยเน้นย้ำว่า ความท้าทายหลักของตัวแทนอัจฉริยะเฉพาะบุคคลในอนาคต ไม่ใช่การจำผู้ใช้ไม่ได้อีกต่อไป แต่คือวิธีหลีกเลี่ยงการจดจำอคติของผู้ใช้ไปพร้อมกัน

举报 แก้ไข/รายงาน
แก้ไข/รายงาน
ส่ง
เพิ่มคลัง
เห็นได้เฉพาะตัวเอง
สาธารณะ
บันทึก
เลือกคลัง
เพิ่มคลัง
ยกเลิก
เสร็จสิ้น