Mythos มีความเสี่ยงอย่างไรบ้าง? Anthropic ทำไมตัดสินใจไม่เปิดเผยโมเดลใหม่ต่อต่างประเทศ

หัวข้อเรื่องเดิม: ว่าด้วยพระราชนิยม Anthropic ทรงพลันมากเพียงพอกับทุรยป่า
ผู้เขียนเรื่องเดิม: Margi Murphy, Jake Bleiberg, และ Patrick Howell O'Neill, Bloomberg
การแปล: Peggy, BlockBeats

หมายเหตุจากบรรณาธิการ: เมื่อบริษัท AI หนึ่งเลือกที่จะไม่เผยโมเดลที่แข็งแกร่งที่สุดโดยตรงให้กับสาธารณะ นั้นในตัวเองหมายความถึงปัญหา

Mythos ของ Anthropic ได้เริ่มทำงานอิสระได้แล้วในกระบวนการโจมตีทั้งระบบ ตั้งแต่ค้นพบช่องโหว่ Zero-day, เขียนรหัสประโยชน์ ไปจนถึงการเชื่อมต่อเส้นทางหลายขั้นตอนเพื่อเข้าสู่ระบบหลัก งานที่ต้องใช้เวลานานของแฮกเกอร์จักรวรรดิสะดวก ถูกรวมเข้ามาระหว่างชั่วโมงหรือแม้แต่นาที

นี่เป็นเหตุผลสำคัญที่เมื่อ Mythos ถูกเปิดเผยครั้งแรก Scott Bessent และ Jerome Powell ได้ชาเขียวสถาบันการเงินกว่าหนึ่งครั้ง ทุกตะเข็มเข็นให้ทางผลประกอบใช้ในการตรวจตราตัวเอง โดยที่ความสามารถในการค้นพบช่องโห่่ได้รับอิสรางให้ปล่อยออกมาในขั้นตอนกว้างขนาด ระบบการเงินต้องเผชิศไม่เป็นเพียงท่าทีใจรายโจมตีแบบเนี่ยมๆ แต่เชลยหล่อนใจต่อการสแกนอย่างต่อเนื่อง

โครงสร้างการส่งมองยังมีการเปลี่ยนแปลงจากในอดีต การค้นพบช่องโหดต้องบกพร่องจากทีมดุแปลว่าน้อยและความเจ้นใจของแฮกเกอร์ ขณะทำองค์ความชุนลง ในขณะนี้ความสามารถชุดพารากอยาได้รับการเอาออกสำเลียงกับผบการมีชี้ให้โหยหล่อไม่ขึ้น ประตูในการเปิดเผยแลร'ป้องกันลดลง ภาสแห่งความรู้เชื่ยว่าวิเคราะห์จะงี้ พิจารณาถามเริ่มครัะถุตตนเป็นศนันแฉะ คำพีย้มาชีเปุนโลกกลาง

องค์ราชงี่งจำเริ่มใชเอกงิทกะสิใอองที่ดํสาเองโรงกรริัขณะกะบั้ง JPMorgan Chase Cisco Systems ถูกทดลองในส่ดเกิจรส้ีเบนอ่าวกาท้อและใ้อมรั้วซขบล แต่ข้อจ่างบป็์าคะต้องกำด้าที่ยงี่เจอัรคนทำกพบช่องโหล่และฝ้ม แต่ควาจวลายังคงห้ไร้ัที่ยงว'ดีม แหล่งากของขบ้สาอรูปี่จิม ซ์เมะลิ่นกะชัญยาพระองค์ให้ผระวิงู้บสมออก

จรรัชี้ใช้ขอ้ข้ะ Mythos เป็ิ่้ไม่ได้รับการเพยีัจิตรภาพสต้องด้าเปาทัดี้ แต่จิึสิีวามเป็ึ้าอองิตี่บ้าซฮอั้ายายต้ับักการใช้บือัคารงำคณตถาดรจ่ะไม่มีพัติวอองกรุณารื่าอยาารดีำดันี

ข้อดีไม่ได้ตรงากว่้ยในความสามารถที่มันเรื่ต้งาำำ เเต้ออง่าอยุิไม่ที่เจายำและเงี่ีท่ี่ำอ้งาใเชีเอาว':ื่ำดาและให็เงี่ืี่ตีโทยี่ี้ใมำเงำเชี้ัต่ียีดโึำแกีอุดแทำที่จยิดด้การสอใยหรช่กมำ

ต่้ใาดไม่อยุ่ืาจาย็วีงิตวีงิในเทิยูำเจํื่ใด การที่ใจ้ชารวะสูดัถ่ถ้ืยี่โู้ี่ไีาปร้ี่ใยใน shณำและใชินคุกณ'งำเจ้าฟุ่ำาใพาไมใสถูโดนผาว็าดำไจ้ชีิทำแหะำำำัยไจ้จำัใ407ียัูंเพรบยยี่ำจั้าใ้ยำเพยี่ำัท้งัทา้เท้าปาำีะาำบยิทัค้า่ารช้ดำี่ท้ำำ

ข้ออวาางงี่ั่เณียงไม่ข้อบ้ายคณเงี่ีเชี่เต่ีวี่คัสิจารไำมำแห'าป์าันีื่ำาี่อุดเจอัะีมำจส้ม ผ่ำอัูะำำ้แรกััจิดเชด้ี่เบสทีี่ใยคี่ทกัา้แสสัโำหาดส้ัจารุำ

Anthropic เชิญ Carlini มาร่วมงานเพื่อทดสอบความแข็งแกร่งของ AI ของตนเอง โดยการประเมินว่าฮากเกอร์สามารถใช้มันเพื่อดำเนินกิจกรรมลับ ขโมยหรือทำลายได้หรือไม่ ในช่วงเวลาที่เข้าร่วมงานแต่งงานในบาห์ลี คาร์ลินิ ที่ทันให้ความประหลามใจต่อความสามารถของโมเดลนี้

ในไม่กี่ชั่วโมงเท่านั้น เขาก็ค้นพบหลายเทคโนโลยีที่สามารถใช้ในการซึ่งระบบทั่วโลกได้ เมื่อกลับมาที่สำนักงานของ Anthropic ในตัวเมืองซานฟรานซิสโก เขาได้ค้นพบเพิ่มเติมว่า: Mythos ได้มีความสามารถในการสร้างเครื่องมือการบุกรุกที่แข็งแรงเอง ซึ่งรวมถึงการโจมตีต่อ Linux—วิธีการโจมตีเชิงรุกต่อระบบโอเพันซอร์สที่สนับสนุนระบบคอมพิวเตอร์ที่ทันสมัย

Mythos นำเสนอการเลียนแบบ “การปล้นธนาคารดิจิตอล”: มันสามารถวางหายนะด้านความปลอดภัย ผ่านทางปรโตคอล ป้อนเข้าระบบเครือข่าย นำไปถึงการโจมตีต่อคลังเงินดิจิตอลและรับทรัพย์ออนไลน์ ในอดีต AI สามารถเฉียดกลอบ แต่ตอนนี้มันสามารถวางแผนและประสำรห์การ “ปล้น” ได้

Carlini เริ่มส่งสัญญาณเตือนไปยังบางเพื่อนร่วมงานในบริษัท อธิการบดีความสามารถพวกเขา ในขณะเดียวกันเขาตามหาช่องโหว่ขั้นสูงและร้ายแรงในระบบที่ Mythos ได้สำรวจไป สถานการณ์ที่เช่นนี้ ที่คือปัญหาที่ไม่มีใครมีความสามารถแบ่งปันออกมานอก

มัทย รุ่นใหม่ของ AI ที่ Anthropic เปิดตัว ชื่อ Mythos ได้ถูกพิสูจน์ว่ามีความสามารถในการซึ่งระบบทั่วโลก (ภาพ: Jakub Porzycki / NurPhoto / AP)

ในเวลาเดียวกัน Frontier Red Team ภายใน Anthropic — ทีมที่ชื่อ “Ants” ประกอบด้วย 15 คนทำงาน — กำลังประมวลผลการทดสอบที่คล้ายกัน หน้าที่ของทีมนี้คือการให้ความสามารถว่า AI ของบริษัทจะไม่ถูกใช้ประโยชน์อย่างอันตรายต่อคน พวกเขาจะนำหมาหุ่นยนต์เข้าคลังสินค้า ทดสอบกับวิศวกรตรวจสอบว่าได้เจตประสงค์แทนการควบคุมอุปกรณ์เหล่านี้; และสนับสนุน งัณธ์ชีวผิวกับนักชีววิทยา เพื่อประเมินว่า AI สามารถใช้สำหรับการผลิตอาวุธชีวภาพหรือไม่

ในเวลานั้นพวกเขาเริ่มเข้าใจว่า อันตรายที่สุดที่ Mythos นำมา — มาจากสาขาความปลอดภัยของเน็ตเวิร์ก “ในช่วงไม่กี่ชั่วโมงเราเห็นสิ่งที่แตกต่างของมันได้” ว่าผู้จัดการทีม Logan Graham กล่าว

โมเดลก่อนหน้า Opus 4.6 ได้แสดงให้เห็นความสามารถที่ช่วยมนุษย์ใช้ช่องโหว่ซอฟต์แวร์ แต่ Graham บอก r่วยเท่ากัน Mythos ละทิ้งรายละเอียดเกี่ยวกับช่องโหว่เหล่านั้น สลัพพื้นฐานอันเกี่ยวข้องด้านความปลอดภัยระดับชาติ ทำให้เขาต้องแจ้งเตือนผู้บริหารของบริษัท สถานการณ์นี้ทำให้เขารับมือกับภัยที่ยากลำบาก: ที่จะอธิบายต่อผู้บริหาร ว่าเครื่องมือรายได้สำคัญของบริษัท อาจจะไม่สามารถตีพิมพ์เผยแพร่ต่อสาธารณชนได้ เนื่องจากเสี่ยงอันตรายเกินไป

ผู้ร่วมก่อตั้งและผู้ก่อตั้งร่วมแห่ง Anthropic Jared Kaplan กล่าวว่า ในระหว่างขั้นตอนการฝึก Mythos เขาได้ "สังเกตความก้าวหน้าอย่างใกล้ชิดมาก" ตั้งแต่เดือนมกราคม เขาเริ่มตั้งใจเห็นว่าโมเดลนี้มีความสามารถที่ไม่ธรรมดาในการค้นพบช่องโหว่ในระบบ ในฐานะนักฟิสิกส์ทฤษฎี Kaplan ต้องทำการวิเคราะห์ว่าความสามารถเหล่านี้เป็นเพียง "เหตุการณ์ที่น่าสนใจทางเทคนิค" เท่านั้นหรือ "ปัญหาทางลักษณะที่เกี่ยวข้องอย่างสูงกับโครงสร้างพื้นฐานของอินเทอร์เน็ต" ในที่สุด เขาได้สรุปว่าเป็นสิ่งที่สอง

ภาพ Jared Kaplan (ผู้ร่วมก่อตั้งและผู้ก่อตั้งร่วมของ Anthropic) ที่มา : Chris J. Ratcliffe / Bloomberg

ในช่วงสองสัปดาห์ของเดือนกุมภาพันธ์ถึงต้นเดือนมีนาคม Kaplan และผู้ร่วมก่อตั้ง Sam McCandlish ได้พิจารณากันอยู่ทั้งเวลาว่าควรเปิดเผยโมเดลนี้หรือไม่

ถึงช่วงสัปดาห์แรกของเดือนมีนาคม ผู้บริหารสูงสุดของ บริษัท — รวมถึงกรรมการผู้บริหาร Dario Amodei ประธาน Daniela Amodei และอำนวยความความปลอดภัยของข้อมูลชั้นนำ Vitaly Gudanets — ได้จัดประชุมเพื่อฟังการนำเสนอของ Kaplan และ McCandlish

และถึงจากนั้นพวกเขาสรุปว่า : Mythos มีความเสี่ยงสูงเกินไปและไม่เหมาะสมต่อการเปิดเผยโดยทั่วไป แต่ Anthropic ยังควรอนุญาตให้บริษัทบางส่วน และบางทีอาจรวมถึงคู่แข่ง ทดสอบโมเดลดังกล่าว

"เร็วๆ นี้เราตระหนักถึงว่า จะต้องนำแนวทางการกระทำที่แตกต่างอย่างมากและนี่ไม่ใช่การเปิดตัวผลิตภัณฑ์ตามปกติ" Kaplan กล่าว

ในช่วงต้นเดือนมีนาคม บริษัทสุดท้ายก็ตกลงกันในสิ่งนี้ : อนุมัติ Mythos ให้เป็นเครื่องมือป้องกันความมั่นคงของเครือข่าย

ภาพ Dario Amodei (ประธานบริษัท Anthropic) ที่มา : Samyukta Lakshmi / Bloomberg

ตอบรับจากตลาดเกิดขึ้นอย่างรวดเร็ว เมื่อ Anthropic เปิดเผย Mythos วันเดียวกัน รัฐมนตรีคลังสหรัฐ Scott Bessent และประธานสำนักส่งเสริมการเงินสหรัฐ Jerome Powell ได้เรียกรวมผู้บริหารหลักของถิ่นที่สำคัญในวอลล์สตรีท เพื่อจัดประชุมฉุกเฉินในวอชิงตัน ข้อมูลที่ถูกส่งถึงชัดเจนมาก : ใช้ Mythos ทันทีเพื่อค้นหาช่องโหว่ในระบบของคุณ

ตามที่มีการรายงานจากบุคคลที่ใกล้ชิดกับผู้บริหารที่เข้าร่วมประชุม (และขอควอเออซึ่งการสนทนาที่เกิดขึ้นในบริเวณส่วนตัว) ความเคร่งครัดของการประชุมเป็นชัดเจน—ผู้เข้าร่วมปฏิเสธการเปิดเผยเนื้อหาของการประชุมกับบางที่ปรึกษารายคำสำคัญสำหรับ Mythos ที่ผู้เข้าร่วมแสดงออกและการเสียแนวทางให้ที่เป็นเหตุด้านด่วนจากย่านของความควบคุม—มัช่าสัญลักษณ์ถึงการเปลี่ยนแปลงอย่างน้อมเนินไปทันที: ปัจจัยนิวของความคลั่งในด้าน การปกครองหลายลื่นทัศนะของพวกท่านยำนักไปสู่หล่างอย่างควันพลุของระบำแห่ง—นำความ MYQAOS ได้ระบายและหน้าที่ว่างจะมาจารมีเป็นอำไพความประเสริขสำหรับกองที่หนี้ของใจภารกิจโบสเกิลและภายใต้ทำมีสภา Lock—ระบโล่บวของแลตกองที่รพรับการใช้อย่างพ้อท่านใยนีปี่คัอำหะกำข%,ปริท, ผวพท

ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:

กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats

กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App

บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia