ตกลงว่าจะไม่เก็บข้อมูลแต่แอบเก็บงั้นเหรอ? Fireworks ถูกแฮก บันทึกแชทของ Notion AI ถูกรั่วไหล

动察 Beating ข่าวด่วน AI มีความคืบหน้าใหม่ในเหตุการณ์ข้อมูลรั่วไหลของ Fireworks แพลตฟอร์มการอนุมาน AI และการฝึกโมเดล Notion ยืนยันว่าแฮกเกอร์ได้รับบันทึกการสนทนาจริงของผู้ใช้ Notion AI บางส่วน รวมถึงคำถามที่ผู้ใช้ถามและคำตอบที่ AI สร้างขึ้น พื้นที่ทำงานที่ได้รับผลกระทบมีไม่ถึง 1% ของทั้งหมด

บันทึกการสนทนาเหล่านี้มาจากฟีเจอร์ Insights ของ Notion โดย Notion จะส่งบทสนทนาระหว่างผู้ใช้กับ AI ให้ Fireworks วิเคราะห์ เพื่อช่วยให้ผู้ดูแลองค์กรเข้าใจว่าพนักงานใช้ AI อย่างไร

Notion ระบุว่า Fireworks เคยให้คำมั่นในสัญญาว่าจะไม่เก็บรักษาข้อมูลเหล่านี้ แต่จากการสอบสวนพบว่า Fireworks เก็บเนื้อหาการสนทนาบางส่วนไว้จริง และสุดท้ายถูกแฮกเกอร์เข้าถึงได้

เมื่อวันที่ 2 พฤศจิกายน Fireworks แจ้ง Notion ในเบื้องต้นว่ามีเพียงข้อมูลสมมติที่ใช้สำหรับการทดสอบเท่านั้นที่ได้รับผลกระทบ Notion จึงตัดการเชื่อมต่อกับ Fireworks ทันทีในวันที่ 3 พฤศจิกายน จนกระทั่งวันที่ 8 พฤศจิกายน Fireworks จึงยืนยันเพิ่มเติมว่าข้อมูลลูกค้าจริงก็ถูกเข้าถึงเช่นกัน

Notion กล่าวว่าบันทึกการสนทนาที่รั่วไหลส่วนใหญ่ไม่มีชื่อผู้ใช้ ชื่อบริษัท หรือข้อมูลพื้นที่ทำงานแนบมาด้วย แต่ตัวบทสนทนาเองอาจมีเนื้อหาที่ละเอียดอ่อน เช่น ความลับทางการค้า รหัสผ่าน เป็นต้น บริษัทได้แจ้งลูกค้าที่ได้รับผลกระทบแล้ว และแนะนำให้ตรวจสอบบันทึกการสนทนาและเปลี่ยนรหัสผ่านและคีย์ API ที่อาจรั่วไหล

ปัจจุบัน Notion ได้ปิดใช้งานฟีเจอร์ Insights แล้ว และไม่ได้ให้บริการโมเดล AI โอเพนซอร์สผ่าน Fireworks อีกต่อไป บริษัทกำลังตรวจสอบว่าผู้ให้บริการ AI รายอื่นปฏิบัติตามคำมั่นที่จะไม่เก็บรักษาข้อมูลลูกค้าอย่างแท้จริงหรือไม่