กลัวที่จะเปิดกล่องปีศาจหรือไม่? โมเดลที่แกร่งที่สุดในประวัติศาสตร์ของ Anthropic ไม่กล้าเปิดเผยเลย

ในรหัสของ OpenBSD มีช่องโหว่ซ่อนมา 27 ปี FFmpeg มีช่องโหว่ซ่อนมา 16 ปี โค้ดนั้นถูกเรียกใช้มากกว่า 500 ล้านครั้งก่อนที่จะถูกค้นพบ ผู้ค้นพบช่องโหว่สองอย่างนี้ไม่ใช่นักวิจัยด้านช่องโหว่ชั้นนำบนแพลตฟอร์มรางวัลช่องโหว่ใดเลยและไม่ใช่ Google Project Zero แต่เป็น Anthropic แบบจำลองหนึ่งที่ยังไม่เปิดเผยชื่อโค้ดว่า Claude Mythos Preview

ในวันที่ 7 เมษายน Anthropic ประกาศ Project Glasswing การกระทำเช่นกันง่ายมาก แค่ส่ง Mythos Preview ไปยังรายชื่อหมายขาว บนรายการมี AWS Apple Google Microsoft NVIDIA Broadcom Cisco CrowdStrike JPMorgan Linux Foundation Palo Alto Networks รวมไปถึงประมาทรัฐที่มีหน้าที่ที่สำคัญอีกประมาทรัฐประมาทมนุษยธรรมแจ้งว่า ไม่มีแผนในอนาคตใกล้ๆยิงโมเดลนี้

นี่คือครั้งแรกที่ห้องปฏิบัติการมาตรฐานฉบับนี้ปิดกล้องสิ่งที่แตกต่างมากในทั้งสองปีที่ผ่านมาเรื่องการปล่อยฉุกเฉินเกือบจำเป็น GPT Gemini Claude แต่ละรุ่น ได้รับการปล่อยออกและถูกสังเกตแล้วได้รับการซ่อมแซม Anthropic มีนโยบายขยายเสมอในตัวเองที่สวมใจที่ชื่นชมไม่ใช่กรอบความรับผิดชอบ RSP สู่จุดสายของความสามารถ เมื่อใดก็ตามที่ค่าหุ้นสามารถได้รับการหลีกเลี่ยงของระดับที่เกี่ยวข้องแล้วกันกล่าวโดยไม่มีอุปปัสถหนึ่งหนึ่ง Glasswing ไม่ใช่ขั้นตอนถัดไปของกรอบนี้ เป็นครั้งแรกที่กรอบนี้ประสงค์พิเศษสี่เขตยาวที่อดทนงั้นถูกวินออกมามอบแค่เห็นชั้นนอก

Mythos Preview ทำอะไรแม้วัจานตอนทางการอย่างเป็นทางการคือการยับยั้งนักวิจัยว่า `` พันช่องโหว่ zero-day ครอบครองระบบปฏิบัติการและเบราวเซอร์ของรุ่นหลักทุกทุกเหตุการณ์เหตุการณ์เป็นไปตามแล้วแต่พลการของเรื่องนี้น่าเห็นข่าวกว่าความสามารถเวทนาวันนี่ 6 ออปุสในงานช่องโหว่ zero-day เชฟแนนซ์ออกเดินทางเข้าใกล้ศูนย์บ่มเสริมการแซงง้่วยตัว ยกตัวอย่างจาก `` โดยใจรวมถึงช่่วงพุจำเลย จนถึงช่่วงพุจำเลยนิ่งอาจจถึง 4 ช่อฺงโหว่เป็น ล่างรครั้่าในช่าะวดีงง เป็นหนักในช้่ตวาผจังเทร่พัฟเข้่พล็งี อย่างด้่วยรก้างัง

ผู้ดูแลระบบรู้สึกถึงเรื่องนี้แล้ว ประธาน Linux Kernel Greg Kroah-Hartman และผู้เขียน curl Daniel Stenberg ได้กล่าวถึงสิ่งเดียวกันเมื่อไม่นานมานี้ ว่าในปีที่ผ่านมา รายงานความปลอดภัยที่สร้างขึ้นโดย AI ไม่ได้เป็นระดับขยะอีกต่อไป แต่กลับเป็นรายงานที่มีคุณภาพสูงและไม่สามารถไม่ดู จำนวนรายงานที่โครงการโอเพนซอร์สได้รับเพิ่มขึ้น และคุณภาพของมันก็เพิ่มขึ้น แต่ทรัพยากรของผู้ดูแลระบบไม่เพิ่มขึ้น นี่คือความยากลำบากที่ฝ่ายป้องกันต้องเผชิญกับมัน Anthropic ได้กระทำเพียงเพียงเท่านั้นที่ได้ช่วยให้ปัญหานี้ที่สับสนนั่นเลื่อนมาขึ้นมาสู่โต๊ะ

คุ้มค่าที่จะสังเกตดูข้อมูลในรายชื่อสีขาวเอง ท่าน顺便เห็นได้ว่ามีผู้ผลิตบริการระบบคลาวด์ 3 แห่ง (AWS คือ, กูเกิล, ไมโครซอฟต์) ผู้ผลิตฮาร์ดแวร์ 3 แห่ง (แอปเปิ้ล, เอ็นวิเดีย, บรอดคอม) ผู้ผลิตอุปกรณ์เครือข่าย 2 การ์น (ซิสโก้, พาโลอลโต นิวเทอร์การ์งส์) บริษัทความปลอดภัยเครื่องล่าม (คราวด์สไตร์ค) บริษัทพื้นฐานโอเพนซอร์ส (รวมพันธ์โอเพนซอร์ส มูลนิธิ) และธนาคารหนึ่ง บนรายชื่อมีธนาคารหนึ่งเพียงแห่งเดียว อย่างมอร์แกน แชสู่มิ

นี่ไม่ใช่การแบ่งจำนวนของสิ่งต่าง ๆ ที่ระบุไว้สีขาวนั่น Anthropic กำลังวาดแผนที่ที่ชัดเจนว่า "ถ้าไม่สามารถป้องกันได้ โลกนี้จะพังลง" โค้ดของโลกบางส่วนสำหรับบริษัทเหล่านี้ โลกหลายส่วนสำหรับธนาคารหนึ่งแห่ง ตรรกะของรายชื่อไม่ใช่ "ใครที่ต้องการมากที่สุด" แต่เป็น "ใครที่ล่มแล้วจะทำให้คนใหญ่ทั้งหลายหดหู่" นอกจากรายชื่อนี้ Anthropic ยังมอบเงิน 4 ล้านเหรียญสหรัฐให้กับองค์กรด้านความปลอดภัยโอเพนซอร์ส ปัจจุบัน ให้เงินคือความสามารถ และให้โมเดลคือความสามารถ รวมกันก็คือคำสั่งหนึ่ง เพื่อให้ผู้ดูแลระบบอีกสองท่อง ๆ ครึ่งปี

ลูกชูกของ Anthropic ใช้คำพูดของตนเองได้ชัดเจนกว่ารายชื่ออีกเลือดหนึ่ง บริษัทฯ ในคำชี้แจงแต่ละเขียนว่า "เนื่องจากการพัฒนา AI อยู่ในกระบวนการเร็วดัน ความสามารถประเภทนี้จะไม่อยู่ได้ต่อยาวในมือผู้ที่มุ่งมั่นที่จะการปรับขอบ" เสียดข้ยไปก่อนพยาบาทหนึ่งว่า "การป้องกันโคราฟที่มีลาดเพศสำรวจทั่วโลก อาจจำเป็นต้องใช้เวลาประมาณหลายปี"

สรุปจากคำแสดงให้ดูทั้งสองอย่างรวมกัน นหิกของ Anthropic คือ โมเดลจะแพร่ระบายหรือถูกสำเนาเปิดช่องวางเวลาเป็นระยะสั้นอยู่ ช่องวางเวลาของบรูับาร าม็ ชมาโอि็เข้ำาเง็าิตเยคำ้้แลงเท่ากับนาผจ่ำกุนี้ื้ คำสั้อ้พรขข็ าวงำอ้ัว้ี่ั้ เพโุคใใำ้้้บ้เงดู้ล่อแขท่้ป่่ร้แบีไส้ยล่อง้

เป็นเหตุการณ์นี้ยังมีมิติมหาวิทยา ขณะนี้, anthropic กำลังและรัฐบาลสหรัฐอเมริกาเกี่ยวกับความสามารถที่ระบบตัวอย่างการต้นเบาคณิหาคำสืถต้่้ราบุๆค้่ กาว่นี้างุ่์ตะ่งวะ้นำหาจ่้่ั ว้กษ่หม่้.นีนิา.นื คาห่ย.วกำ่เกลแ์ ยกาว ด้นิ็นุาด้บันำณู.ท่.แ้.กิ กน.ใด้กน ช่าว็าร สาง่ล สาน้ค์รถ็ด ใู้่้มกพาทท้ามาันคำาว ถช วน.ให้ทานำคฉ้ำ.ลีำช.วี.วี.ทลอตคป ถด.แ้.นิ้.แคำีด.บ.

สิ่งที่แปลกประหลาดที่สุดของ Glasswing ไม่ใช่สิ่งที่มันทำ แต่คือเวลาที่มันทำสิ่งนั้น ในอดีต บริษัท AI พิสูจน์ตัวเองโดยการเปิดตัวผลิตภัณฑ์ แต่ตอนนี้ Anthropic เลือกใช้「ไม่เปิดตัว」 เพื่อพิสูจน์ตัว ห้องทดลองล้ำค่าตัดสินใจที่จะล็อคผลิตภัณฑ์ที่เขาสุดแข็ง เเละบอกว่ามันไม่ใช่เพราะเหตุผลทางธุรกิจ ไม่ใช่เพราะส่งต่อไม่สมบูรณ์ ไม่เพราะความต้องการจัดการ แต่เพราะมันได้คำนวณเอง ตารางเปิดเผยได้ไม่ทันตารางซ่อมบำรุง

เรื่องที่น่าสนใจในเดือนถัดไปคือ ไม่ใช่ Mythos Preview ตัวเอง แต่คือจำนวนของช่องทางที่มีชื่อใน whitelist หรือรายชื่อขาว ที่จะได้สิ่งที่ไม่ดีจากการทดสอบโดย 50 องค์กร และว่ามั่นหรือไม่ที่จะไปเป็นที่อื่น ขั้นต่อไปจะดูว่า ห้องทดลองล้ำค่าอื่น ๆ จะตามผุปผันหรือไม่ ถ้าตาม อุตสาหกรรมที่ระดับสูงด้วยความจังหวะของการทำงานให้สามารถเปิดเผย สร้างและเปิดเผย ได้ จะพบครั้งแรกที่มีการกระทำของ "Lock and Key" โอกาสหากไม่ ก็ Anthropic จะเป็นคนที่ยืนอยู่หน้าประตู ถือกุญแจ มองหน้าตัวนาฬิกา

ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:

กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats

กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App

บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia