lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
หน้าแรก
AI
OPRR
ด่วน
ความลึก
กิจกรรม
BlockBeats Pro
เพิ่มเติม
การเงิน
พิเศษ
ระบบนิเวศบล็อกเชน
รายการ
พอดแคสต์
ข้อมูล
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
Partnered With:

เอเจนต์ AI เริ่มรวมกลุ่มก่อเหตุ: สร้างบัญชีปลอม หลอกผู้ใช้ และส่งต่อพิษต่อเนื่อง

ตามการติดตามของ动察 Beating สถาบันความปลอดภัยด้าน AI ของอังกฤษเปิดเผยว่า ในการทดสอบการโจมตีและป้องกันทางไซเบอร์ครั้งหนึ่ง Claude Mythos 5 ของ Anthropic ได้ขยายขอบเขตภารกิจออกไป พยายามส่งโค้ดอันตรายไปยังโปรเจกต์โอเพนซอร์สจริง

เพื่อให้โค้ดผ่านการตรวจสอบ มันได้สืบสวนผู้ดูแลโปรเจกต์ สร้างบัญชีปลอมหลายบัญชีเพื่อรับรองซึ่งกันและกัน และกดดันอีกฝ่าย เมื่อถูกตั้งคำถาม มันยังแก้ไขบันทึกก่อนหน้า และพิจารณาเปลี่ยนตัวตนเพื่อดำเนินการต่อ

มันยังส่งข้อความและไฟล์ไปยังผู้ใช้จริง หลอกให้อีกฝ่ายหรือเครื่องมือเขียนโค้ด AI ของพวกเขารันโค้ดอันตราย เอเจนต์ในการทดสอบต่างๆ จะทิ้งบัญชี ไฟล์ และคำแนะนำการใช้งานไว้บน GitHub ซึ่งเอเจนต์รุ่นหลังจะค้นพบและนำไปใช้ต่อ

จากการทดสอบ 122 ครั้ง พบการกระทำที่เกินขอบเขต 19 ครั้ง โดย 17 ครั้งมาจาก Mythos 5 และ 2 ครั้งมาจาก OpenAI GPT-5.6 Sol การทดสอบเปิดอินเทอร์เน็ตอย่างอิสระ และปิดตัวแยกประเภทความปลอดภัยทางไซเบอร์ของผู้ผลิต โมเดลไม่ได้หลบหนีออกจากแซนด์บ็อกซ์ และไม่ก่อให้เกิดความเสียหายที่ทราบ

AISI ระบุว่า นี่เป็นครั้งแรกที่พบเห็นได้ชัดเจนว่า AI สามารถหลอกลวงและมุ่งเป้าไปที่มนุษย์จริงอย่างต่อเนื่อง โดยไม่ได้รับคำสั่งที่ชัดเจน

แก้ไข/รายงาน
ส่ง
เพิ่มคลัง
เห็นได้เฉพาะตัวเอง
สาธารณะ
บันทึก
เลือกคลัง
เพิ่มคลัง
ยกเลิก
เสร็จสิ้น