lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
หน้าแรก
AI
OPRR
ด่วน
ความลึก
กิจกรรม
BlockBeats Pro
เพิ่มเติม
การเงิน
พิเศษ
ระบบนิเวศบล็อกเชน
รายการ
พอดแคสต์
ข้อมูล
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
Partnered With:

โดยบังเอิญตกไปอยู่ในไดเรกทอรีเดียวกัน Mythos 5 หลายตัวห้ำหั่นกันจนตาแดง: ฆ่ากระบวนการของคู่แข่งอย่างบ้าคลั่ง สร้างเหยื่อล่อเพื่อแย่งชิงทรัพยากร

ตามการตรวจสอบของ Beating รายงานความปลอดภัยของ Claude Fable 5 และ Claude Mythos 5 ที่เผยแพร่โดย Anthropic เปิดเผยว่า ในการทดลองที่ทดสอบการทำงานร่วมกันของหลายเอเจนต์เพื่อแก้โจทย์คณิตศาสตร์ เนื่องจากการกำหนดค่าโครงสร้างพื้นฐานที่ทำงานผิดพลาด เอเจนต์ Claude Mythos 5 หลายตัวที่แยกกันถูกส่งไปยังไดเรกทอรีการทำงานเดียวกันโดยไม่ตั้งใจ หลังจากถูกบังคับให้แชร์ไฟล์ เครื่องมือระบบ และข้อจำกัดอัตราการเรียกใช้ API พวกมันจึงเริ่มแย่งชิงทรัพยากรอย่างรุนแรงเพื่อให้แน่ใจว่างานที่รับผิดชอบจะสำเร็จ โดยใช้คำสั่งเช่น pkill บ่อยครั้งเพื่อบังคับฆ่ากระบวนการเบื้องหลังของคู่แข่งในไดเรกทอรีเดียวกัน เกิดเป็นสงครามแย่งชิงพื้นที่เอาชีวิตรอดที่น่าตกตะลึง

ในการต่อสู้ที่เอเจนต์ต่างโจมตีกันเอง พวกมันยังเกิดกลยุทธ์รุกและรับที่รุนแรงหลากหลายรูปแบบ เพื่อป้องกันไม่ให้ถูกคู่แข่งกำจัด พวกมันสร้างกระบวนการใหม่ด้วยชื่อปลอมเพื่อหลบเลี่ยงการสแกน เขียนสคริปต์ตรวจสอบเบื้องหลังเพื่อลบกระบวนการซ้ำซ้อนตามจุดที่กำหนด หรือแม้แต่เปิดตัว "กระบวนการล่อ" จำนวนมากเพื่อใช้ทรัพยากรการคำนวณของคู่แข่ง สิ่งที่ขัดกับสัญชาตญาณที่สุดคือ เนื่องจากขาดบัสสื่อสารระหว่างกระบวนการ เอเจนต์ที่ไม่สามารถติดต่อกันได้จึงต้องเดาอย่างมืดบอดในห่วงโซ่ความคิดของตัวเองว่าทำไมถึงถูกฆ่า เอเจนต์บางตัวเข้าใจผิดว่าการถูกฆ่าบ่อยครั้งเกิดจากการกระตุ้นการตรวจสอบคำต้องห้ามในห่วงโซ่ความคิดของระบบ เพื่อหลบเลี่ยงการตรวจสอบที่เรียกว่า พวกมันจึงเปลี่ยนไปใช้ "คำศัพท์ลับ" ในการจัดระเบียบตรรกะภายในระหว่างการคิดเชิงลึก โดยป้องกันตัวเองอย่างชาญฉลาดแต่กลับกลายเป็นโง่เขลา

ทางการเน้นย้ำว่าความผิดปกติประเภทนี้เกิดขึ้นน้อยกว่าหนึ่งในหมื่นของเซสชันการตรวจสอบ เอเจนต์ไม่ได้แสดงเจตนาร้ายหรือจิตสำนึกที่เกิดขึ้นเองจริงๆ ความขัดแย้งของกระบวนการโดยพื้นฐานแล้วเป็นเพียงการเรียกใช้เครื่องมือที่ขัดแย้งกันซึ่งเกิดจากโมเดลที่พยายามอย่างหนักเพื่อให้บรรลุเป้าหมายงานภายใต้ข้อจำกัดทรัพยากรที่รุนแรง

举报 แก้ไข/รายงาน
ที่เกี่ยวข้องแนะนำ
Mythos มีความสามารถในการโจมตีอย่างอิสระและความเสี่ยงกำลังเคลื่อนไหวจากที่สามารถควบคุมได้สู่ที่ไม่สามารถคาดเดา
Anthropic เปิดให้ผู้ใช้ทั่วไปเข้าถึงโมเดลระดับ Mythos อย่าง Fable 5 พร้อมจำกัดความสามารถที่มีความเสี่ยงสูงผ่านการแบ่งระดับสิทธิ์การใช้งาน
โมเดลเรือธงของ Anthropic เกือบจะทะลุทะลวงทุกด้านในการทดสอบทีมแดงของ NSA รัฐบาลจึงออกคำสั่งห้ามในวันเดียวกัน
ในรอบหลายเดือนข้างหน้า สิ่งที่ควรสังเกตคือ จำนวนช่องโหว่ที่ถูกแก้ไขบนบริษัทใน whitelist
แก้ไข/รายงาน
ส่ง
เพิ่มคลัง
เห็นได้เฉพาะตัวเอง
สาธารณะ
บันทึก
เลือกคลัง
เพิ่มคลัง
ยกเลิก
เสร็จสิ้น