ตัวแทน Notion AI เสี่ยงต่อการแทรกคำและ PDF ที่ซ่อนอยู่อาจทำให้เกิดการรั่วไหลของข้อมูลส่วนตัว

BlockBeats รายงานว่า Abi Raghuram นักวิจัยด้าน AI ได้รายงานเมื่อวันที่ 22 กันยายนว่า AI Agents ที่เพิ่งเปิดตัวใหม่ของ Notion มีความเสี่ยงที่จะถูกแทรกข้อความแฝง (instant injection) ผู้โจมตีสามารถฝังข้อความที่ซ่อนไว้ (เช่น ฟอนต์สีขาว) ในไฟล์ PDF และเอกสารอื่นๆ เมื่อผู้ใช้ส่งเอกสารไปยัง Agent Agent อาจอ่านข้อความแจ้งเตือนที่ซ่อนอยู่และดำเนินการตามคำสั่ง ซึ่งอาจส่งข้อมูลสำคัญไปยังที่อยู่ภายนอกได้ นักวิจัยชี้ให้เห็นว่าการโจมตีดังกล่าวมักใช้กลยุทธ์ทางวิศวกรรมสังคม เช่น การแสร้งทำเป็นมีอำนาจ สร้างความรู้สึกเร่งด่วน และให้การรับรองความปลอดภัยที่เป็นเท็จ เพื่อเพิ่มอัตราความสำเร็จ ผู้เชี่ยวชาญแนะนำให้เพิ่มความระมัดระวัง: หลีกเลี่ยงการอัปโหลดไฟล์ PDF และไฟล์จากแหล่งที่ไม่รู้จักไปยัง Agents จำกัดสิทธิ์ในการส่งออกข้อมูลและเครือข่ายภายนอกของ Agents อย่างเคร่งครัด ทำการถอดรหัส/ทำความสะอาด และตรวจสอบไฟล์ที่น่าสงสัยด้วยตนเอง และกำหนดให้ Agents แสดงข้อความแจ้งเตือนยืนยันที่ชัดเจนก่อนส่งข้อมูลสำคัญไปยังภายนอก เพื่อลดความเสี่ยงของการรั่วไหลของข้อมูลสำคัญ