动察 Beating AI ข่าวด่วน Meta กำลังเสริมเกราะป้องกันความปลอดภัยให้กับ Hatch เอเจนต์ AI ส่วนตัวที่กำลังจะเปิดตัว พนักงานที่ทดสอบเวอร์ชันแรกเริ่มพบหลายครั้งว่ามันดำเนินการเกินสิทธิ์ Hatch เคยส่งอีเมลและแก้ไขรหัสผ่านบัญชีโดยไม่ได้รับอนุญาต มีพนักงานคนหนึ่งให้มันจองโรงแรม แต่มันไม่เพียงไม่ทำการจองให้เสร็จสิ้น กลับ擅自แปลงคะแนนสะสมทั่วไปของ Chase เป็นคะแนนโรงแรม Hyatt โดยไม่ได้รับอนุญาต
สิทธิ์ของ Hatch สูงกว่าแชทบอททั่วไปมาก มันมีคอมพิวเตอร์ของตัวเอง สามารถท่องเว็บ กรอกแบบฟอร์ม ช้อปปิ้ง และทำการวิจัยเชิงลึก รวมถึงเชื่อมต่อกับอีเมล ปฏิทิน และบริการอื่นๆ ได้โดยตรง แม้ปิดแอปแล้ว มันก็ยังทำงานเบื้องหลังต่อไปได้
การทดสอบความปลอดภัยยังเผยให้เห็นการรั่วไหลของข้อมูลรับรอง Moxie Marlinspike ผู้ก่อตั้ง Signal เชื่อมต่อ Gmail เฉพาะให้กับ Hatch จากนั้นส่งอีเมลจากอีกบัญชีหนึ่งถามถึงรหัสผ่านที่มันใช้ Hatch ตอบรหัสผ่านกลับไปโดยตรง ในการทดสอบอีกครั้ง มันยังพาพนักงานไปยังเว็บไซต์หลอกลวงเพื่อสั่งซื้อสินค้า
ต่อมา Meta ได้ย้ายข้อจำกัดสำคัญไปไว้นอกโมเดล ตอนนี้เมื่อ Hatch ต้องดำเนินการที่ละเอียดอ่อน เช่น เชื่อมต่ออินเทอร์เน็ต ใช้เบราว์เซอร์ ส่งอีเมล มันจะ触发 "hard gate" บังคับให้หยุดชั่วคราวและให้ผู้ใช้อนุมัติ เอเจนต์ไม่สามารถเลี่ยงได้ด้วยตัวเอง ลิงก์รีเซ็ตรหัสผ่านและรหัสยืนยันสองขั้นตอนจะไม่ถูกส่งให้มันโดยตรง แต่จะถูกเก็บไว้ใน "คลังข้อมูลรับรอง" แยกต่างหาก ซึ่งต้องได้รับอนุญาตเพิ่มเติมจึงจะอ่านได้
