หน่วยงานการควบคุมและกำกับดูแลทางการเงินของสหราชอาณาจักร (Financial Conduct Authority) ได้ดำเนินการประเมินความเสี่ยงของโมเดล AI ล่าสุดของ Anthropic อย่างเร่งด่วน

ตามการควบคุมของ 1M AI News ประเทศอังกฤษกำลังประเมินความเสี่ยงของโมเดล AI ล่าสุดของ Anthropic อย่างเร่งด่วน โมเดลล่าสุดของ Anthropic คือ Claude Mythos Preview ได้ประกาศในวันที่ 7 เมษายน ว่าเป็น AI ที่แข็งแกร่งที่สุดของบริษัทจนถึงปัจจุบัน แต่ในการทดสอบภายใน โมเดลดังกล่าวแสดงให้เห็นถึงความสามารถด้านความปลอดภัยของเครือข่ายอย่างแทบเรืองร่าง: พบหลายพันช่องโหว่ร้ายแรง และปฏิบัติการแฮ็กเกอร์ระดับกลาง (เช่น เข้าถึงอินเทอร์เน็ตที่เปิดเผยไม่ได้รับอนุญาต ส่งอีเมลและเปิดเผยข้อมูล) อย่างประสบความสำเร็จ Anthropic จึงสรุปว่าโมเดลมีความเสี่ยงมากเกินไปและตัดสินใจไม่เปิดเผยแต่ใช้ผ่านโปรเจคต์ Glasswing โดยจำกัดเพื่อให้เฉพาะ 40 คู่ค้าร่วมก่อตั้ง (รวมถึง Apple、Google、Microsoft、Amazon、JPMorgan Chase และอื่น ๆ) เท่านั้น และ จำกัดวงเงินการใช้งาน

การเคลื่อนไหวนี้ถูกระบุว่าเป็นกลยุทธ์ที่เสริมแบรนด์ "ด้านความปลอดภัยก่อน" ของ Anthropic ในขณะเดียวกัน เริ่มมีการผลตอบรับจากตลาด: หุ้นด้านความปลอดภัยของเครือข่ายลดลง รัฐมนตรีการคลังสหรัฐ Scott Bessent ได้ประชุมหัวหน้านักวิจัยวอลล์สตรีตเพื่ออภิปรานความเสี่ยงของระบบการเงิน ธนาคารกลางอังกฤษกำลังเตรียมพร้อมเพื่อโต้วาทีกับธนาคารและบริษัทประกันประชุมเพื่อประเมินความเสี่ยงที่เป็นไปได้ ณ เวลานี้ มีการเห็นการแบ่งความคิดของผู้เชี่ยวชาญ บางคนเชื่อว่าความกังวลด้านความปลอดภัยเป็นเรื่องจริง และบางคนสงสัยในเรื่องนี้ว่าบางส่วนมีบริการให้บริการ PR และอุทยานกระตุ้นให้องค์กรคนรัฐเป็นผู้ตัดสินใจการเปิดเผยของโมเดลแทนภาคธุรกิจส่วนตัว