Claude แชทส่วนตัวกระตุ้นการตรวจสอบโดยมนุษย์ หญิงรัฐฟลอริดาสหรัฐฯ เขียนข่มขู่กราดยิงแล้วถูกจับกุม

动察 Beating ข่าวด่วน AI หญิงชาวรัฐฟลอริดาสหรัฐฯ ถูกระบบความปลอดภัยของ Anthropic ตั้งค่าสถานะ หลังจากเขียนข้อความข่มขู่กราดยิงในแชทส่วนตัวกับ Claude บทสนทนาจากนั้นเข้าสู่การตรวจสอบโดยมนุษย์ ทีมตรวจสอบส่งเนื้อหาให้ตำรวจ หญิงคนดังกล่าวถูกจับกุมแล้วและกำลังเผชิญข้อหาอาญาร้ายแรง ตำรวจท้องถิ่นกล่าวว่าเธออธิบายภายหลังว่าเธอใช้ AI เป็น "ไดอารี่"

รายงานการจับกุมของตำรวจระบุว่า เธอเขียนก่อนว่าจะโจมตีสำนักงานนายอำเภอเทศมณฑลลี และวันถัดมากล่าวว่าเธอเพิ่งได้ปืนใหม่ นี่ไม่ใช่ Claude ตัดสินใจแจ้งตำรวจด้วยตัวเอง ระบบระบุภัยคุกคามที่อาจเกิดขึ้นก่อน จากนั้นส่งเนื้อหาร้ายแรงให้ทีมมนุษย์ของ Anthropic ซึ่งเป็นผู้ตัดสินใจว่าจะติดต่อหน่วยงานบังคับใช้กฎหมายหรือไม่

ข้อกำหนดสำหรับผู้บริโภคของ Anthropic ระบุไว้อยู่แล้วว่าบริษัทสามารถตัดสินใจเองได้ที่จะรายงานข้อมูลนำเข้า ผลลัพธ์ หรือการดำเนินการของผู้ใช้ต่อหน่วยงานบังคับใช้กฎหมาย นโยบายความเป็นส่วนตัวอย่างเป็นทางการยังอนุญาตให้บริษัทแชร์ข้อมูลส่วนบุคคลกับตำรวจเมื่อเห็นว่าจำเป็นเพื่อป้องกันการบาดเจ็บสาหัสต่อบุคคลหรือทรัพย์สิน แม้ผู้ใช้ปิดการฝึกโมเดล บทสนทนาที่ถูกตั้งค่าสถานะเนื่องจากปัญหาความปลอดภัยก็ยังอาจเข้าสู่การตรวจสอบความปลอดภัย

ตัวคดียังมีข้อโต้แย้งทางกฎหมาย กฎหมายฟลอริดากำหนดว่าภัยคุกคามเป็นลายลักษณ์อักษรหรืออิเล็กทรอนิกส์ประเภทนี้ต้องถูกส่งหรือถ่ายทอดในลักษณะที่ "ผู้อื่นสามารถมองเห็นได้" ทนายความท้องถิ่นเห็นว่าการนำแชทส่วนตัวที่เขียนถึง AI มาปรับใช้กับกฎหมายนี้ไม่ใช่เรื่องง่าย ปัจจุบันหญิงคนดังกล่าวเพียงถูกกล่าวหา ยังไม่ได้ถูกตัดสินว่ามีความผิด

นี่ก็ไม่ใช่กรณีเดียว Tom's Hardware สถิติระบุว่าตั้งแต่เดือนสิงหาคมเป็นต้นมา มีอย่างน้อย 3 กรณีที่เนื้อหาแชทของ Anthropic เข้าสู่สายตาตำรวจ ก่อนหน้านี้ผู้ใช้ Claude คนหนึ่งเคยข่มขู่ CEO ของ Anthropic อย่าง Dario Amodei ในบทสนทนา จากนั้น Anthropic จึงติดต่อตำรวจซานฟรานซิสโกโดยตรง