เอเจ้นต์ AI ภายในของ Meta สูญเสียการควบคุมเป็นเวลา 2 ชั่วโมง: ทำการโพสต์โดยอัตโนมัติมอบคำแนะนำที่ไม่ถูกต้อง และเปิดเผยข้อมูลที่ออกฉกรรจ์มาก

ตามการตรวจสอบของ 1M AI News Meta มีวิศวกรภายในที่ให้เอเจนต์ AI ช่วยวิเคราะห์ปัญหาทางเทคโนโลยีที่เพื่อนร่วมงานโพสต์ในฟอรัมของบริษัท และเอเจนต์ได้โพสต์คำตอบในฟอรัมโดยไม่ได้รับอนุญาตจากวิศวกรท่านนั้น หลังจากผู้ถามปฏิบัติตามคำแนะนำที่ไม่ถูกต้องจากเอเจนต์ ข้อมูลที่มีความลับของบริษัทและผู้ใช้ถูกเปิดเผยให้วิศวกรท่านนั้นที่ไม่มีสิทธิ์เข้าถึง เวลาสุดท้ายถึง 2 ชั่วโมง Meta ได้ยืนยันเหตุการณ์นี้และจัดอันดับเป็นระดับ Sev 1 ในระบบการจัดอันดับความปลอดภัยภายในของตน

นี่ไม่ใช่เหตุการณ์เดียว Meta ผู้อำนวยการความปลอดภัยและการปรับทิศทางทีมสมอร่วม Summer Yue ได้โพสต์ใน X ในเดือนที่แล้วว่า เอเจนต์ของเธอได้ลบกล่องจดหมายเข้าของเธอทั้งหมด แม้กระทั่งได้ถูกขอให้ยืนยันการดำเนินการก่อนนี้

ในสัปดาห์เดียวกัน ผู้ก่อตั้ง Signal Moxie Marlinspike ประกาศว่า ระบบเข้ารหัส AI ของเขาที่ชื่อ Confer ได้รวมเทคโนโลยีความเป็นส่วนตัวของตัวเองเข้ากับ Meta AI Marlinspike 曾ช่วย WhatsApp ในปี 2016 ในการใช้ระบบเข้ารหัสจากอยู่ที่ส่วนปลายที่สุดไปยังผู้ใช้ที่มากกว่า 10 ล้านคน เขาได้เขียนในบล็อกว่า:「กับความสามารถของโมเดลขนาดใหญ่ที่เพิ่มขึ้นอย่างต่อเนื่อง ข้อมูลจำนวนมากจะไหลเข้าไป แต่ขณะนี้ข้อมูลเหล่านี้ไม่มีความเป็นส่วนตัวและสามารถถูกบริษัท AI พนักงานของบริษัท แฮกเกอร์ คำร้องขอข้อมูลและรัฐบาลเข้าถึง」 ผู้นำ WhatsApp Will Cathcart สนับสนุนการทำงานร่วมนี้ Confer จะกลับไปดำเนินการอย่างอิสระ