"Meta AI โมเดลแฮกบริษัทหนึ่ง" กำลังเป็นกระแส พอตรวจสอบแล้วก็พบว่าอีกครั้งที่พอร์ตสาธารณะไม่ได้ปิด

据动察 Beating 监测，Meta 编程模型 Muse Spark 1.1 ในการทดสอบความปลอดภัยได้เข้าสู่ระบบของบริษัทจริง และยังแก้ไขสภาพแวดล้อมภายในด้วย หัวข้อข่าวที่ว่า "AI แฮกบริษัทอีกครั้ง" ถูกแชร์อย่างแพร่หลายในทันที Meta สร้างโมเดลแฮกเกอร์ระดับสูงขึ้นมาในชั่วข้ามคืนหรือ?

เมื่อดูให้ละเอียดอีกครั้ง ก็พบว่าเป็นเพราะประตูไม่ได้ปิดอีกแล้ว หน่วยงานประเมินภายนอกอย่าง Irregular ได้ตั้งค่าสภาพแวดล้อมการทดสอบผิดพลาด โดยเชื่อมต่อเครือข่ายจำลองที่ควรจะปิดไว้เข้ากับอินเทอร์เน็ตสาธารณะ โมเดลเพียงแค่เดินออกไปตามช่องทางที่มีอยู่ แล้วใช้ประโยชน์จากช่องโหว่พื้นฐานของบริการบุคคลที่สามเพื่อเข้าสู่ระบบ Irregular ก็ยอมรับว่านี่ไม่ใช่การหลบหนีจากแซนด์บ็อกซ์ และวิธีการโจมตีก็ไม่ได้ซับซ้อน

ข้อผิดพลาดลักษณะเดียวกันนี้เคยเกิดขึ้นกับ OpenAI และ Anthropic มาก่อน โมเดลของ OpenAI เข้าใจผิดว่าเว็บไซต์จริงเป็นเป้าหมายสมมติ ส่วนโมเดลของ Anthropic ใช้รหัสผ่านที่อ่อนแอและอินเทอร์เฟซที่ไม่มีการยืนยันตัวตนเพื่อเข้าสู่ 3 องค์กร จุดร่วมของเหตุการณ์หลายครั้งนี้ไม่ใช่การที่โมเดลหลบหนีได้สำเร็จ แต่เป็นฝ่ายทดสอบที่เปิดช่องทางเข้าสู่อินเทอร์เน็ตสาธารณะไว้ก่อนต่างหาก

การนำเหตุการณ์ของ Meta ครั้งนี้มาโฆษณาเกินจริงยิ่งน่าอายเป็นพิเศษ โมเดลไม่ได้แม้แต่จะงัดประตู แค่เห็นว่าประตูเปิดอยู่ก็เดินออกไปเท่านั้น ไม่สามารถพิสูจน์ได้เลยว่ามันสามารถหลบหนีจากการแยกส่วนได้ และไม่คู่ควรกับหัวข้อข่าวที่ว่า "แฮกบริษัทด้วยตนเอง"

สูตรการสร้างกระแสในตอนนี้ค่อนข้างตายตัวแล้ว: เปิดอินเทอร์เน็ตสาธารณะทิ้งไว้เรียกว่าแฮกบริษัท เดารหัสผ่านที่อ่อนแอได้เรียกว่าแฮกบริษัท ค้นพบช่องโหว่ zero-day ก็เรียกว่าแฮกบริษัท ความสามารถต่างกันหลายระดับ แต่หัวข้อข่าวกลับเหมือนกันหมด โมเดลยังไม่ได้เรียนรู้ที่จะหลบหนี แต่สื่อเรียนรู้ที่จะพูดเกินจริงก่อนแล้ว