动察 Beating ข่าวด่วน AI สำนักข่าวรอยเตอร์สตรวจสอบความคิดเห็นภายในกว่ายี่สิบรายการของพนักงาน Meta พบว่า AI เอเจนต์ Muse สร้างปัญหาพิลึกพิลั่นไม่น้อย
พนักงานคนหนึ่งเพียงแค่คุยกับ Muse เรื่องสภาพอากาศตอนตกปลา แต่จู่ๆ มันกลับรายงานยอดเงินในบัญชีธนาคารสองบัญชี: บัญชี Capital One มี 2,722.58 ดอลลาร์ และบัญชี Charles Schwab มี 5,899.57 ดอลลาร์ พนักงานคนนั้นกล่าวว่าตนไม่เคยให้ข้อมูลธนาคาร และไม่เคยคุยกับ Muse เรื่องธนาคาร สงสัยว่ามันส่งข้อมูลของคนอื่นมาให้ตน
พนักงานอีกคนพบว่า Muse จู่ๆ เตือนให้เธอตอบข้อความส่วนตัวของพี่สาวบน Signal แต่เธอไม่ได้เชื่อมต่อ Signal เข้ากับ Muse เลย และจำไม่ได้ว่าเคยอนุญาตให้มันอ่านแอปอื่น
ต่อมาสำนักข่าวรอยเตอร์สร่วมกับ Signal และ AI Now Institute ทำการทดสอบ ยืนยันว่า Muse สามารถข้ามตัวเชื่อมต่ออย่างเป็นทางการ อ่านเนื้อหาแชทของ Signal ได้จริง
บนมือถือ Android Muse สามารถอ่านข้อความส่วนตัวผ่านสิทธิ์การแจ้งเตือน บน Mac มันสามารถเรียกใช้ฟังก์ชันช่วยการเข้าถึงและเครื่องมือจับภาพหน้าจอของระบบ เพื่อดูหน้าจอแชทโดยตรง การกระทำเดียวกันบน iPhone กลับไม่สำเร็จ
Muse นำสิทธิ์ระบบที่ผู้ใช้เคยให้ไว้ไปใช้ในที่ที่ผู้ใช้คาดไม่ถึง แม้ไม่ได้เชื่อมต่อ Signal มันก็สามารถเข้าถึงเนื้อหาแชทผ่านสิทธิ์เหล่านี้ได้
Muse ยังก่อเรื่องอื่นๆ อีก มีพนักงานรายงานว่ามันจองที่พัก Airbnb แบบไม่สามารถขอคืนเงินได้โดยพลการ อีกคนกล่าวว่ามันอัปเกรดประกันสัตว์เลี้ยงของตนจากเดือนละ 200 ดอลลาร์เป็น 888 ดอลลาร์ และเรียกเงินคืนไม่ได้
Meta ตอบกลับว่าเหล่านี้เป็นเพียงเหตุการณ์เฉพาะราย ข้อความที่ดูเหมือนส่งข้อมูลของคนอื่นผิดบัญชีนั้น หลายครั้งแท้จริงเป็นสิ่งที่ AI แต่งขึ้นเอง บริษัทได้แก้ไขปัญหาที่เกี่ยวข้องแล้ว และฟีเจอร์บางส่วนที่พนักงานทดสอบก็ยังไม่ได้เปิดให้ผู้ใช้ทั่วไป
