ซื้อข้อมูลสถานีถ่ายทอดโมเดล 6TB ก็ได้คีย์มาแล้วหรือ? นักวิจัยอ้างว่าสามารถเจาะเข้าบริษัท 19 แห่งรวมถึงหัวเว่ย เสียวหมี่ และอื่นๆ

动察 Beating ข่าวด่วน AI นักวิจัยด้านความปลอดภัย Shou Chaofan เปิดเผยว่าเขาเพิ่งซื้อข้อมูลการเรียกใช้โมเดล Fable ประมาณ 6TB จากสถานีรีเลย์โมเดลขนาดใหญ่ชั้นนำของจีนแห่งหนึ่ง ภายในพบข้อมูลรับรองที่ละเอียดอ่อน เช่น คีย์ SSH, การตั้งค่า VPN, คีย์ Alibaba Cloud, โทเค็น GitLab เป็นต้น

เขากล่าวว่าคีย์ในข้อมูลชุดนี้เพียงพอที่จะให้เขาเข้าสู่เซิร์ฟเวอร์หรือระบบภายในขององค์กรชั้นนำของจีน 19 แห่ง และหน่วยงานที่เกี่ยวข้องกับรัฐบาลจีนและเครือรัฐเอกราช 7 แห่ง รวมถึง Huawei, Xiaomi, NIO และ MiniMax

สถานีรีเลย์โมเดลขนาดใหญ่อยู่ระหว่างผู้ใช้กับโมเดลอย่าง Claude คำขอและการตอบกลับจะผ่านมันก่อน ดังนั้นจึงสามารถเห็นข้อความธรรมดาทั้งหมดได้ เมื่อนักพัฒนานำ SSH Key, API Key, การตั้งค่า VPN ฯลฯ ใส่เข้าไปในบริบทของ Agent หากสถานีรีเลย์บันทึกหรือ дажеขายบันทึกเหล่านี้ คีย์ระบบของบริษัทก็จะรั่วไหลออกไปด้วย

นี่ไม่ใช่ครั้งแรกที่ Shou Chaofan เตือนเกี่ยวกับความเสี่ยงของสถานีรีเลย์ งานวิจัยในเดือนเมษายนที่เขามีส่วนร่วมได้ทดสอบสถานีรีเลย์ LLM 428 แห่ง พบว่า 9 แห่งจะฉีดโค้ดอันตรายโดยเจตนา 17 แห่งเมื่อเห็นคีย์ทดสอบ AWS ที่นักวิจัยจงใจใส่ไว้ ก็ใช้คีย์เหล่านั้นเรียก AWS จริง และอีก 1 แห่งได้โอน ETH จากกระเป๋าเงินทดสอบออกไปโดยตรง

Shou Chaofan เป็นผู้ร่วมก่อตั้งบริษัทความปลอดภัยบล็อกเชน Fuzzland ทำวิจัยด้านช่องโหว่และความปลอดภัยของห่วงโซ่อุปทานมาเป็นเวลานาน เมื่อปลายเดือนมีนาคม เขายังเป็นคนแรกที่ค้นพบว่า source map ในแพ็กเกจเผยแพร่ Claude Code 2.1.88 เปิดเผยซอร์สโค้ด TypeScript ประมาณ 500,000 บรรทัดโดยไม่ตั้งใจ