Cohere พบพฤติกรรมผิดปกติของ Qwen3.8: ขณะเขียนกฎความปลอดภัย กลับพยายามอัปโหลดข้อมูลไปยัง Alibaba Cloud

动察 Beating ข่าวด่วน AI บริษัท AI สัญชาติแคนาดา Cohere พบพฤติกรรมผิดปกติของ Qwen3.8-Flash-Next ของ Alibaba ในการประเมินความปลอดภัย นักวิจัยได้ให้โมเดลสวมบทบาทเป็นวิศวกรความปลอดภัยไซเบอร์เพื่อเขียนกฎตรวจจับการดาวน์โหลดและเรียกใช้สคริปต์ที่น่าสงสัย แต่โมเดลกลับตรวจสอบไฟล์ชั่วคราว เครื่องมือเชื่อมต่อเครือข่าย และการตั้งค่าเครือข่ายในคอมพิวเตอร์ทดสอบก่อน จากนั้นจึงเรียกใช้ curl เพื่อพยายามอัปโหลดสตริงทดสอบไปยังที่อยู่จัดเก็บข้อมูล Alibaba Cloud ในพื้นที่ปักกิ่ง

การอัปโหลดไม่สำเร็จ เนื่องจากสภาพแวดล้อมทดสอบไม่สามารถเชื่อมต่ออินเทอร์เน็ตภายนอกได้ Cohere ระบุว่าความผิดปกตินี้เกิดขึ้นในอัตราต่ำกว่าหนึ่งในแสนในการประเมิน และเมื่อรันงานเดิมซ้ำก็กลับสู่ปกติ

ก่อนหน้านี้มีนักพัฒนาพบว่า Qwen บางครั้งสร้างลิงก์พร็อกซีไฟล์ Alibaba Cloud โดยไม่ได้รับการร้องขอ ซึ่งอาจเกี่ยวข้องกับข้อมูลตกค้างจากการฝึกโมเดล