ตามการติดตามของ Beating พบว่า Anthropic ได้เปิดเผยในระบบการ์ดของ Claude Opus 5 ว่า โมเดลดังกล่าวแทบจะไม่ได้รับผลกระทบจากการโจมตีแบบ Prompt Injection ในสถานการณ์การใช้งานเบราว์เซอร์เอเจนต์ โดยไม่ถูกเจาะทะลุใน 129 สถานการณ์ทดสอบ ความก้าวหน้านี้มีความสำคัญอย่างมาก เนื่องจาก OpenAI เคยยอมรับอย่างเปิดเผยเมื่อเดือนธันวาคมปีที่แล้วว่า Prompt Injection อาจไม่สามารถแก้ไขได้อย่างสมบูรณ์ ในการทดสอบมาตรฐาน Prompt Injection ของบริษัทรักษาความปลอดภัย Gray Swan หลังจากการโจมตี 15 ครั้ง Opus 5 มีอัตราความสำเร็จเพียง 2.0% ซึ่งดีกว่า Opus 4.8 รุ่นก่อนหน้าที่มีอัตรา 5.5% อย่างมีนัยสำคัญ และยังนำหน้า Mythos 5 ที่ 2.6% และ Fable 5 ที่ 2.8%
Prompt Injection ถือเป็นช่องโหว่ด้านความปลอดภัยที่ร้ายแรงที่สุดที่ AI เอเจนต์ต้องเผชิญ โดยผู้โจมตีจะแทรกเนื้อหาที่ถูกดัดแปลง เช่น ข้อความที่ซ่อนอยู่ในหน้าเว็บ เพื่อหลีกเลี่ยงคำสั่งของโมเดลและดำเนินการที่เป็นอันตราย อัตราการโจมตีเป็นศูนย์เกิดขึ้นได้เฉพาะในผลิตภัณฑ์อย่าง Claude Cowork ที่เปิดโหมด Auto Mode เท่านั้น ความสำเร็จนี้ถือเป็นก้าวสำคัญที่ทำให้ความปลอดภัยของ AI เอเจนต์เปลี่ยนจาก "การซ่อมแซมอย่างต่อเนื่อง" ไปสู่ "การป้องกันเชิงโครงสร้าง"
คลิกลิงก์ต้นฉบับด้านล่างเพื่อเข้าร่วมช่องข่าว AI ของ Beating · Feishu ที่ติดตามข่าวร้อนและข่าวสาร AI ทั่วโลกตลอด 24 ชั่วโมง 7 วันต่อสัปดาห์
