Instinct ได้รับสิทธิ์เข้าถึงบัตรเครดิตของผู้ใช้ 40% ภายใน 3 สัปดาห์ ผู้ก่อตั้งยอมรับว่าเวอร์ชันแรกไม่มีไฟร์วอลล์

动察 Beating ข่าวด่วน AI ผู้ก่อตั้ง Instinct Noah Shinn เปิดเผยว่า ประมาณ 40% ของผู้ใช้หลังจากใช้ผลิตภัณฑ์ 3 สัปดาห์ จะอนุญาตให้ Instinct ใช้บัตรเครดิตของตนเอง เพื่อให้ Agent ทำการซื้อได้อย่างอิสระ พวกเขายังใช้ "นานแค่ไหนกว่าจะได้บัตรเครดิตครั้งแรก รหัสผ่านบัญชี หรือข้อมูลละเอียดอ่อนอื่นๆ" เป็นตัวชี้วัดความไว้วางใจของผู้ใช้

เมื่อผู้ใช้เชื่อมต่อข้อมูลละเอียดอ่อนอย่างน้อยหนึ่งรายการกับ Instinct อัตราการคงอยู่จะอยู่ที่ประมาณ 80% Shinn กล่าวว่า ผู้ใช้มักต้องใช้เวลาหลายสัปดาห์ในการสร้างความไว้วางใจทีละน้อย Instinct จะไม่ขอให้ผู้ใช้มอบสิทธิ์ทั้งหมดตั้งแต่เริ่มต้น และข้อมูลที่แชร์ไปแล้วก็สามารถเรียกคืนได้ตลอดเวลา

แต่ Shinn ยังยอมรับว่า เวอร์ชันแรกๆ ของ Instinct ไม่มีไฟร์วอลล์และการตรวจสอบเชิงรุกเหมือนปัจจุบัน และเคยเกิดข้อผิดพลาดขึ้น ต่อมาบริษัทได้สร้างระบบความปลอดภัยชุดใหม่ขึ้นมาใหม่ ไม่ได้เพียงแค่แพตช์ปัญหาใดปัญหาหนึ่ง ตอนนี้ข้อความ รูปภาพ และเนื้อหาอื่นๆ ทั้งหมดที่เตรียมจะส่งให้ Agent ประมวลผล จะต้องผ่านการตรวจสอบจาก "ไฟร์วอลล์" อิสระก่อน การดำเนินการที่ Agent เตรียมจะทำและกระบวนการให้เหตุผลบางส่วนก็มีอีกระบบหนึ่งคอยตรวจสอบ สามารถหยุดชั่วคราวหรือสกัดกั้นก่อนที่จะดำเนินการจริง

ก่อนหน้านี้ผู้ใช้รายหนึ่งพบว่า Instinct เริ่มประมวลผลเอกสารทางการเงินที่ตนเองไม่เคยอัปโหลด ต่อมา Shinn ตอบกลับว่า แท้จริงแล้วนี่เป็นภาพหลอนที่เกิดจากโมเดลสร้างข้อมูลขึ้นมาแล้วสร้างคำอธิบายต่อเนื่องกันไป ไม่ได้เกิดการรั่วไหลของข้อมูลผู้ใช้ หลังจากนั้น Instinct ได้เปิดตัวระบบตรวจจับภาพหลอนแบบอิสระ เพื่อตรวจสอบและสกัดกั้นความผิดปกติก่อนที่ Agent จะให้เหตุผลต่อหรือเรียกใช้เครื่องมือ