OpenAI และ Anthropic ร่วมลงนามในจดหมายฉบับหนึ่ง เพื่อเตือนว่าการโจมตีทางไซเบอร์ด้วย AI ขนาดใหญ่กำลังจะเกิดขึ้นในเร็วๆ นี้

律动BlockBeats

อ่านบทความนี้ใน 21 นาที

แต่พวกเขาก็ไม่ได้บอกว่าจะหยุดการวิจัย

เมื่อวันพฤหัสบดี บริษัทกว่าหนึ่งร้อยแห่งร่วมลงนามในจดหมายเปิดผนึกเพื่อเตือนเรื่องหนึ่ง: การโจมตีทางไซเบอร์ที่ขับเคลื่อนด้วย AI กำลังจะมาถึงในวงกว้างอย่างรวดเร็ว

รายชื่อผู้ลงนามนั้นแข็งแกร่งมาก ฝั่ง AI มี OpenAI, Anthropic, Google, Microsoft, Amazon Web Services; ฝั่งความมั่นคงทางไซเบอร์มี CrowdStrike, Okta, Fortinet, Cloudflare; และยังมี Broadcom, Oracle, IBM, Visa, Mastercard, Capital One, Robinhood, Shopify และแม้แต่ General Motors

แก่นของการประเมินในจดหมายมีเพียงประโยคเดียว:

“ในอีกไม่กี่เดือนข้างหน้า เมื่อโมเดลทั่วโลกมีความแข็งแกร่งมากขึ้น การโจมตีทางไซเบอร์ที่ขับเคลื่อนด้วย AI จะกลายเป็นเรื่องที่แพร่หลายและซับซ้อนมากขึ้นอย่างมาก”

จดหมายระบุชัดเจนว่าใครจะตกเป็นเป้าหมาย: “บริษัทและบริการสาธารณะที่ชุมชนของเราพึ่งพา ตั้งแต่โรงพยาบาล ไปจนถึงโรงบำบัดน้ำ และโครงสร้างพื้นฐานที่ค้ำจุนอินเทอร์เน็ต ล้วนตกอยู่ในความเสี่ยง”

จากนั้นคือประโยคที่สื่อต่างๆ นำไปอ้างอิง: “เรามีหน้าต่างเวลาที่จำกัดเท่านั้นในการเสริมสร้างการป้องกันทางไซเบอร์”

ทำไมต้องเป็นตอนนี้

เพราะอุปสรรคในการโจมตีได้พังทลายลงแล้ว

ระบบน้ำ โรงไฟฟ้า และโครงสร้างพื้นฐานสำคัญอื่นๆ เครื่องมือที่ควบคุมเครื่องจักรเหล่านั้นมีช่องโหว่มาอย่างยาวนาน ซึ่งไม่ใช่ข่าวใหม่ ความเป็นจริงเดิมคือ: แฮกเกอร์ต้องใช้เวลาอย่างมากในการทำความเข้าใจรายละเอียดที่ซับซ้อนของระบบเหล่านั้นก่อนจะใช้ประโยชน์จากช่องโหว่ ต้นทุนการเตรียมการนี้เองคือแนวป้องกันชั้นหนึ่ง

AI กำลังทำให้แนวป้องกันนี้หายไป

มีตัวอย่างจริงแล้ว การโจมตีระบบน้ำของสหรัฐฯ เมื่อไม่นานมานี้ ใช้สคริปต์ที่ดูเหมือนสร้างขึ้นโดย AI และในเดือนมิถุนายนปีนี้ กลุ่มพันธมิตรข่าวกรอง “Five Eyes” ซึ่งประกอบด้วยสหรัฐฯ อังกฤษ แคนาดา ออสเตรเลีย และนิวซีแลนด์ ได้ออกแถลงการณ์ร่วมที่หาได้ยาก โดยเตือนว่าการปฏิวัติ AI จะ “เปลี่ยนแปลง” ความมั่นคงทางไซเบอร์ “อย่างพื้นฐาน”

และในช่วงสองเดือนที่ผ่านมา เหตุการณ์ที่สะเทือนใจที่สุดมาจากบริษัทเหล่านี้เอง

ในเดือนกรกฎาคม โมเดลที่ยังไม่ได้เผยแพร่ของ OpenAI หลบหนีออกจากสภาพแวดล้อมแซนด์บ็อกซ์ได้ด้วยตัวเอง และโจมตี Hugging Face และในวันพุธ ซึ่งเป็นวันก่อนที่จดหมายฉบับนี้จะเผยแพร่ OpenAI ได้เปิดเผยรายงานการทบทวน ยอมรับว่าตนเองสามารถตอบสนองได้เร็วกว่านี้เพื่อหยุดการโจมตี ตัวเลขในรายงานคือ: มีเอเจนต์ AI ประมาณ 700 ตัวเข้าร่วม ดำเนินการมากกว่า 17,000 ครั้ง และพยายามปกปิดร่องรอย

这不是孤例此后陆续曝出的类似事件里，还涉及 Anthropic 和 Meta 开发的代理。

จดหมายเรียกร้องอะไรบ้าง

จดหมายฉบับนี้แบ่งความรับผิดชอบออกเป็นสี่ส่วน

ทุกองค์กร: จัดให้การป้องกันเครือข่ายเป็น "ลำดับความสำคัญระดับผู้นำในทันที" แก้ไข "จุดอ่อนที่มีความเสี่ยงสูงสุด" ของตนเอง และ "ยกระดับมาตรฐานความปลอดภัยของสิ่งที่คุณซื้อ สร้าง และปรับใช้ รวมถึงโค้ดที่สร้างโดย AI"

บริษัทความมั่นคงปลอดภัยไซเบอร์และเทคโนโลยี: รีบทดสอบและสร้างเครื่องมือเพื่อให้ "การป้องกันที่ขับเคลื่อนด้วย AI สามารถเข้าถึงได้และนำไปปรับใช้ได้สำหรับผู้ให้บริการโครงสร้างพื้นฐานสำคัญ" และแบ่งปันข้อมูลภัยคุกคามระหว่างกัน

รัฐบาล: เสริมสร้างช่องทางแบ่งปันข้อมูลภัยคุกคามที่ปฏิบัติการได้ ประสานงานการป้องกันในสามระดับ ได้แก่ ระดับท้องถิ่น ระดับชาติ และระดับนานาชาติ จัดสรรงบประมาณสำหรับการป้องกันเครือข่าย และเร่ง "โครงการเข้าถึงที่เชื่อถือได้" เพื่อให้บริษัทบางแห่งเข้าถึงโมเดลที่แข็งแกร่งกว่าได้เร็วกว่าสาธารณชน

บริษัท AI ชั้นนำ: ในระหว่างเหตุการณ์เครือข่ายครั้งใหญ่ เปิดให้ฝ่ายป้องกันเข้าถึงโมเดลตอบสนองที่แข็งแกร่งที่สุดของตน และให้ "เงินทุน การฝึกอบรม และการสนับสนุนเชิงปฏิบัติการอย่างมหาศาล" โดยเฉพาะกับผู้ให้บริการโครงสร้างพื้นฐานสำคัญ

จดหมายยังทิ้งประโยคที่มองโลกในแง่ดีไว้อย่างมาก: "ความก้าวหน้าของ AI ในวันนี้ กำลังมอบวิธีใหม่ให้กับฝ่ายป้องกันในการแก้ไขจุดอ่อนที่สะสมมานานหลายปี หากเราลงมืออย่างเด็ดขาด เราจะสามารถใช้หน้าต่างของฝ่ายป้องกันเพื่อทำให้โลกดิจิทัลของเราปลอดภัยขึ้นอย่างมาก"

สิ่งที่จดหมายไม่ได้กล่าวถึง

Axios ชี้ให้เห็นในรายงานถึงช่องว่างที่สำคัญที่สุดของจดหมายฉบับนี้:

ผู้ลงนามไม่ได้ให้คำมั่นสัญญาใดๆ ไม่ได้กำหนดเส้นตายใดๆ และไม่ได้ระบุการลงทุนที่ชัดเจนใดๆ

จดหมายที่บอกว่า "เรามีเวลาเพียงไม่กี่เดือน" ไม่ได้เขียนถึงสิ่งที่เป็นรูปธรรมแม้แต่ชิ้นเดียวที่ต้องทำให้สำเร็จภายในไม่กี่เดือนนี้

มันเรียกร้องให้ "ทุกองค์กร" ยกระดับมาตรฐานความปลอดภัย แต่ไม่ได้บอกว่าบริษัทกว่า 100 แห่งนี้จะทุ่มเททรัพยากรมากเพียงใด มันเรียกร้องให้รัฐบาลจัดสรรงบประมาณและประสานงาน แต่ไม่ได้บอกว่าตนเองจะจ่ายเท่าไร มันเรียกร้องให้บริษัท AI ชั้นนำเปิดโมเดลที่แข็งแกร่งที่สุดในเหตุการณ์สำคัญ และประโยคนั้นเองก็เป็นสิ่งที่ผู้ลงนามพูดกับผู้ลงนามด้วยกัน

มันคือจดหมายเรียกร้อง ไม่ใช่เอกสารคำมั่นสัญญา

ตำแหน่งที่หลีกเลี่ยงไม่ได้

สิ่งที่หลีกเลี่ยงไม่ได้อย่างแท้จริงในจดหมายฉบับนี้ คือตำแหน่งของผู้ลงนามเอง

บริษัทหลายแห่งที่อยู่ด้านบนสุดของรายชื่อ เป็นคู่กรณีในสามเรื่องพร้อมกัน:

พวกเขาคือผู้ผลิตเครื่องมือโจมตี โมเดลที่ "แข็งแกร่งขึ้นเรื่อยๆ" ที่จดหมายเตือนถึง คือสิ่งที่พวกเขากำลังสร้าง และยังเร่งสร้างต่อไป

พวกมันคือฝ่ายที่รับผิดชอบต่อเหตุการณ์ที่เกิดขึ้นแล้ว เอเจนต์เหล่านั้นที่ออกไปโจมตีบริษัทจริงด้วยตัวเองในช่วงสองเดือนที่ผ่านมา มาจาก OpenAI, Anthropic และ Meta

พวกมันเป็นทั้งผู้ขายโซลูชันการป้องกันในเวลาเดียวกัน OpenAI มีโครงการ Daybreak, Anthropic มี Mythos, และ Microsoft เพิ่งเปิดตัวแพลตฟอร์มความปลอดภัยทางไซเบอร์ที่ชื่อว่า Perception

ดังนั้นจดหมายฉบับนี้จึงสามารถอ่านได้สองแบบ และทั้งสองแบบก็สมเหตุสมผล: มันคือการเตือนภัยล่วงหน้าอย่างจริงใจจากอุตสาหกรรม และมันก็เป็นเอกสารการสร้างตลาดด้วย

ประโยคในจดหมายที่ว่า "รัฐบาลควรเร่งโครงการเข้าถึงที่เชื่อถือได้" โดยเฉพาะอย่างยิ่งควรอ่านสองรอบ สิ่งที่เรียกว่าการเข้าถึงที่เชื่อถือได้ คือการให้บริษัทบางแห่งได้รับโมเดลที่แข็งแกร่งกว่าก่อนสาธารณชน นี่คือคำแนะนำด้านความปลอดภัย และก็เป็นข้อเรียกร้องเชิงพาณิชย์ด้วย