NVIDIA ผลักดันความปลอดภัยของ AI Agent ลงสู่ระดับชิป: หากเกินขอบเขตสามารถแยกได้ในระดับมิลลิวินาที

动察 Beating ข่าวด่วน AI: NVIDIA เปิดตัว Open Agent Safety Platform ซึ่งประกอบด้วยสองส่วนคือ OpenShell และ Sentry โดย OpenShell กำหนดขอบเขตสิทธิ์ให้กับ AI Agent ส่วน Sentry นำการตรวจสอบและการแยกกักกันไปไว้ที่ชิป BlueField-4 เมื่อ Agent ละเมิดขอบเขต สามารถถูกแยกกักกันได้ในระดับมิลลิวินาที

OpenShell ได้เปิดซอร์สก่อนหน้านี้แล้ว สามารถนำไปครอบ Agent ที่มีอยู่เช่น Claude Code, Codex ได้โดยตรง โดยไม่ต้องแก้ไขตัว Agent เอง มันทำหน้าที่จำกัดการเข้าถึงไฟล์ การเชื่อมต่อเครือข่าย การเรียกใช้เครื่องมือ และการใช้ข้อมูลรับรอง พร้อมทั้งบังคับใช้กฎเหล่านี้ขณะ Agent ทำงาน

Sentry เป็นชั้นความปลอดภัยด้านฮาร์ดแวร์ที่เพิ่มเข้ามาในครั้งนี้ มันทำงานแยกจาก Agent ตรวจสอบพฤติกรรมของ Agent การเรียกใช้เครื่องมือ และการเข้าถึงข้อมูลอย่างต่อเนื่อง พร้อมทั้งรับผิดชอบการตรวจจับภัยคุกคามและการบังคับใช้นโยบายความปลอดภัย แม้ Agent เองจะเกิดความผิดปกติ การควบคุมความปลอดภัยก็ยังดำเนินการโดยฮาร์ดแวร์ภายนอก

เจเซน หวง กล่าวว่าปัจจุบันมีพันธมิตรในอุตสาหกรรมมากกว่า 100 รายที่เข้าร่วมแพลตฟอร์มนี้ รวมถึง Anthropic, Microsoft, Salesforce, SAP, SpaceX, CrowdStrike และ Palantir เมื่อ Agent เริ่มทำงานต่อเนื่องหลายชั่วโมงหรือแม้กระทั่งหลายวัน และเข้าถึงโค้ด เครื่องมือ และข้อมูลองค์กร NVIDIA จึงเริ่มย้ายขอบเขตความปลอดภัยจากภายในโมเดลไปสู่ระบบและชั้นชิปที่โมเดลไม่สามารถควบคุมได้โดยตรง