24 ชั่วโมงที่โมเดลที่แข็งแกร่งที่สุดของ Anthropic ถูกปิดกั้น: สายโทรศัพท์ 3 สาย, การหักหลังของผู้ถือหุ้นใหญ่, และการสูญเสียอำนาจควบคุมการเล่าเรื่อง

13 มิถุนายน โมเดล AI ที่ล้ำหน้าที่สุดสองตัวของ Anthropic ถูกสหรัฐฯ สั่งหยุดชะงัก

หนึ่งคือ Fable 5 อีกตัวคือ Mythos 5 ตัวแรกเพิ่งเปิดตัวสู่สาธารณะ ส่วนตัวหลังจำกัดเฉพาะลูกค้าด้านความปลอดภัยทางไซเบอร์ คำสั่งห้ามมาจากกระทรวงพาณิชย์สหรัฐฯ ครอบคลุมลูกค้านอกประเทศสหรัฐฯ และพลเมืองต่างชาติที่อยู่ในสหรัฐฯ ทางเลือกสุดท้ายของ Anthropic นั้นง่ายมาก คือถอนโมเดลทั้งหมดออก

หลังจากดูรายละเอียดทั้งหมดเกี่ยวกับเรื่องนี้ เราได้สรุปไทม์ไลน์ 24 ชั่วโมงนี้ไว้คร่าวๆ

วันพฤหัสบดีที่ 11 มิถุนายน สองวันหลังจาก Fable 5 เปิดตัวสู่สาธารณะ แอนดี้ แจสซี ซีอีโอของ Amazon ได้แจ้งความเสี่ยงต่อทำเนียบขาว เขากังวลว่าระบบป้องกันความปลอดภัยของ Fable 5 อาจถูกเลี่ยงได้ ทีมวิจัยของ Amazon อ้างว่าสามารถทำให้ Fable 5 ให้ข้อมูลที่ควรถูกจำกัดผ่านชุดคำสั่ง ซึ่งข้อมูลเหล่านี้อาจถูกนำไปใช้ในการโจมตีทางไซเบอร์

เช้าวันศุกร์ที่ 12 มิถุนายน ปัญหาได้เข้าสู่การประชุมระดับสูงสุดของทำเนียบขาวแล้ว สก็อตต์ เบสเซนต์ รัฐมนตรีว่าการกระทรวงการคลัง, ฌอน แคร์นครอส ผู้อำนวยการด้านไซเบอร์ของทำเนียบขาว, ซูซี ไวลส์ หัวหน้าเจ้าหน้าที่ทำเนียบขาว และเจ้าหน้าที่ระดับสูงอื่นๆ เข้าร่วมการอภิปราย ขณะนั้นเบสเซนต์กำลังเดินทางไปฮูสตัน จึงเข้าร่วมประชุมทางไกล

จากนั้นก็มีโทรศัพท์สามสาย

เมื่อดาริโอ อาโมเดอิ ซีอีโอของ Anthropic เข้าร่วมการสนทนา ฝั่งตรงข้ามมีเจ้าหน้าที่ระดับสูงประมาณครึ่งโหล นอกจากเบสเซนต์และแคร์นครอสแล้ว ยังมีฮาวเวิร์ด ลุตนิก รัฐมนตรีว่าการกระทรวงพาณิชย์ ผู้เข้าร่วมคนอื่นๆ รวมถึงเจฟฟรีย์ เคสเลอร์ รัฐมนตรีช่วยว่าการกระทรวงพาณิชย์ฝ่ายอุตสาหกรรมและความมั่นคง, วิลล์ ชาร์ฟ เลขานุการฝ่ายเจ้าหน้าที่ทำเนียบขาว, ริชาร์ด วอลเตอร์ส รองหัวหน้าเจ้าหน้าที่ทำเนียบขาว และวอล์กเกอร์ บาร์เร็ตต์ ที่ปรึกษานโยบายของประธานาธิบดี

อาโมเดอิพยายามอธิบายว่าเป็นความเข้าใจผิด เขาเชื่อว่าสิ่งที่ Amazon ค้นพบเป็นวิธีการเลี่ยงเฉพาะจุด ไม่ใช่การเจาะระบบคำสั่งทั่วไปที่สามารถรื้อระบบป้องกันความปลอดภัยได้ในวงกว้าง ต่อมา Anthropic ก็ออกมาแถลงต่อสาธารณะว่าผู้ทดสอบยังไม่พบวิธีที่จะเลี่ยงระบบความปลอดภัยของโมเดลในวงกว้าง

แต่ทำเนียบขาวไม่ถูกโน้มน้าว

สิ่งที่ซีอีโอ Amazon ค้นพบถูกส่งไปยังสำนักงานความมั่นคงแห่งชาติสหรัฐฯ เพื่อประเมิน และฝ่ายทำเนียบขาวเชื่อว่าตนมีหลักฐานเพียงพอแล้ว รัฐบาลเรียกร้องให้ Anthropic ถอนโมเดลด้วยความสมัครใจและร่วมมือกับรัฐบาลในการแก้ไขช่องโหว่ อาโมเดอิต้องการเวลาและข้อมูลเพิ่มเติม แต่ไม่ได้ให้คำมั่นว่าจะถอนโมเดล เบสเซนต์พูดตรงๆ ในโทรศัพท์ว่าเขาได้ทำ "การตัดสินใจที่ผิดพลาด"

หลังจากนั้น มาตรการควบคุมการส่งออกก็ถูกบังคับใช้

ฝั่ง Anthropic ให้คำอธิบายอีกมุมหนึ่ง พวกเขาบอกว่า ทำเนียบขาวให้เวลาเพียง 90 นาทีในการนำโมเดลออกจากระบบ โดยไม่ได้ระบุรายละเอียดภัยคุกคามที่แท้จริง ส่วนทำเนียบขาวกล่าวว่า การควบคุมการส่งออกเป็นมาตรการสุดท้ายหลังจากพยายามขอความร่วมมือจาก Anthropic เป็นเวลาหลายชั่วโมงแต่ไม่เป็นผล

ประเด็นสำคัญอีกประการของเรื่องนี้คือ ตำแหน่งของ Amazon ในเหตุการณ์นี้ค่อนข้างละเอียดอ่อน

ปลายปี 2024 Amazon ลงทุนเพิ่ม 4 พันล้านดอลลาร์ใน Anthropic ทำให้ยอดลงทุนรวมพุ่งถึง 8 พันล้านดอลลาร์ ขณะเดียวกัน Anthropic ก็กำหนดให้ AWS เป็นพันธมิตรหลักในการฝึกอบรม โดยการฝึกอบรมและปรับใช้โมเดลในอนาคตจะใช้ชิปของ AWS และ Claude ก็เป็นหนึ่งในโมเดลที่สำคัญที่สุดบน Amazon Bedrock มาโดยตลอด

พันธมิตรระหว่าง Microsoft และ OpenAI เปิดเผยชัดเจนแล้ว Amazon เดิมพันกับ Anthropic ซึ่งเป็นวิธีหลีกเลี่ยงทางอ้อม

Microsoft มี OpenAI Google มี Gemini และยังลงทุนใน Anthropic ส่วน Amazon ไม่มีโมเดล前沿ที่พัฒนาเองได้แข็งแกร่งพอ จึงต้องผูกพลังประมวลผลของ AWS ชิป Trainium และแพลตฟอร์ม Bedrock เข้ากับบริษัทโมเดลภายนอก

แต่หนึ่งปีครึ่งต่อมา Amazon ก็เชื่อมต่อกับ OpenAI เช่นกัน

ปีนี้ Amazon เคยเจรจาลงทุนสูงสุด 5 หมื่นล้านดอลลาร์ใน OpenAI ขณะนั้น OpenAI กำลังหาเงินทุนใหม่สูงถึง 1 แสนล้านดอลลาร์ ข้อตกลงที่อาจเกิดขึ้นรวมถึงการที่ OpenAI จะซื้อชิป AI ของ Amazon Axios ยังรายงานว่า รายได้ต่อปีของ OpenAI ในปี 2025 เกิน 2 หมื่นล้านดอลลาร์ แต่ภาระค่าใช้จ่ายสูงถึง 1.4 ล้านล้านดอลลาร์

Amazon ต้องการให้บริษัทโมเดล前沿ใช้พลังประมวลผลของ AWS ทดสอบชิปที่พัฒนาขึ้นเอง และเติมเต็มศูนย์ข้อมูล รวมถึงต้องการนำโมเดลที่แข็งแกร่งที่สุดมาไว้บนชั้นวางคลาวด์สำหรับองค์กร นี่ไม่ใช่แค่การลงทุนทางการเงินอีกต่อไป

ดังนั้นมันจึงลงทุนทั้งใน Anthropic และเข้าใกล้ OpenAI ในเวลาเดียวกัน เป็นทั้งผู้สนับสนุนทางการเงินของบริษัทโมเดล และเป็นซัพพลายเออร์ของบริษัทโมเดล ต้องช่วยขายโมเดลของพวกเขา และต้องอธิบายให้รัฐบาลฟังว่าโมเดลเหล่านี้มีอันตรายแค่ไหน

จากผลลัพธ์ ครั้งนี้ Amazon ยืนอยู่ฝั่งตรงข้ามของ Anthropic ก่อน ในสายตาของ Anthropic พันธมิตรที่ให้เงิน ให้คลาวด์ ให้ชิป และให้ช่องทางการจัดจำหน่าย กลับส่งสัญญาณความปลอดภัยที่เพียงพอต่อการกระตุ้นคำสั่งห้ามให้กับรัฐบาล แน่นอนว่า Amazon เองให้คำอธิบายว่า "ทำเนียบขาวถามฉัน ฉันแค่ตอบคำถามของพวกเขา"

ในช่วงสองปีที่ผ่านมา บริษัท AI ชอบสร้างภาพตัวเองเป็นสินทรัพย์ระดับชาติ ยิ่งมีความสามารถมาก มูลค่าก็ยิ่งสูง การระดมทุนก็ยิ่งราบรื่น และการจัดซื้อจัดจ้างของรัฐบาลก็ยิ่งมีจินตนาการ Anthropic ถนัดเรื่องนี้เป็นพิเศษ มันใช้ภาษาด้านความปลอดภัยที่ระมัดระวังกว่าเพื่อแยกตัวเองออกจาก OpenAI และใช้คำพูดเกี่ยวกับ "ความเสี่ยง前沿" เพื่อพิสูจน์ต่อหน่วยงานกำกับดูแลว่าควรได้รับการปฏิบัติอย่างจริงจัง

ตอนนี้ รัฐบาลสหรัฐฯ กลับมองโมเดล AI เป็นสินทรัพย์ด้านความมั่นคงแห่งชาติจริงๆ แล้ว

ความสับสนของเจ้าหน้าที่ทำเนียบขาวก็มาจากตรงนี้ Politico รายงานว่า เจ้าหน้าที่ทำเนียบขาวคนหนึ่งเคยได้ยิน Amodei เปรียบเทียบอันตรายของเทคโนโลยี Anthropic กับระเบิดนิวเคลียร์ เมื่อเขาปฏิเสธที่จะถอดโมเดลออกจากการใช้งานเนื่องจากช่องโหว่ด้านความปลอดภัยที่ทราบกันดี เจ้าหน้าที่รัฐบาลไม่ได้มองว่านี่เป็นความแตกต่างทางเทคนิค แต่เป็นปัญหาเรื่องทัศนคติ

นี่ไม่ใช่ครั้งแรกที่ทั้งสองฝ่ายขัดแย้งกัน เมื่อวันที่ 3 มีนาคม กระทรวงกลาโหมสหรัฐฯ เคยจัดให้ Anthropic เป็นความเสี่ยงในห่วงโซ่อุปทาน เนื่องจาก Anthropic ปฏิเสธที่จะให้เครื่องมือ AI ของตนถูกใช้ในการเฝ้าระวังภายในประเทศขนาดใหญ่และอาวุธอัตโนมัติ
Anthropic และทางการสหรัฐฯ เคยมีเรื่องบาดหมางกันมาก่อน

และครั้งนี้ Anthropic กล่าวว่าคำสั่งของรัฐบาลไม่ได้ระบุข้อกังวลด้านความมั่นคงแห่งชาติที่เฉพาะเจาะจง และวิพากษ์วิจารณ์การดำเนินการครั้งนี้ว่าขาดความโปร่งใส ความชัดเจน และกระบวนการทางกฎหมายที่อิงตามข้อเท็จจริงทางเทคนิค Anthropic มองว่าปัญหานี้เหมือนเป็นวิธีการเลี่ยงผ่านที่แคบเกินไป ไม่เพียงพอที่จะสนับสนุนคำสั่งห้ามที่กว้างขวางเช่นนี้

แต่ในมุมมองของรัฐบาล ความปลอดภัยของโมเดลไม่ใช่กระบวนการภายในที่บริษัทเขียนสมุดปกขาว ทำการทดสอบ Red Team และเผยแพร่ System Card อีกต่อไป ใครสามารถเข้าถึงโมเดล ใครสามารถฝึกโมเดล พนักงานต่างชาติสามารถดูน้ำหนักของโมเดลได้หรือไม่ ล้วนถูกดึงเข้าไปอยู่ในภาษาของการควบคุมการส่งออก

เมื่อ Anthropic ประกาศในเดือนเมษายนว่า Mythos จะเปิดให้เฉพาะบริษัทเทคโนโลยีและความปลอดภัยทางไซเบอร์ที่จำกัดเท่านั้น ก็ได้มีการประชุมหลายครั้งกับทำเนียบขาวแล้ว ก่อนที่ Fable 5 จะเปิดตัว ก็ผ่านการตรวจสอบจากรัฐบาลสหรัฐฯ และสถาบันความปลอดภัย AI ของสหราชอาณาจักร ฝั่ง Anthropic มองว่ารัฐบาลไม่ได้คัดค้านก่อนที่โมเดลจะเปิดตัว

สิ่งนี้ทำให้ความขัดแย้งดูแย่ลงไปอีก

ก่อนเปิดตัวโมเดล คือความร่วมมือด้านความปลอดภัย หลังเปิดตัวโมเดล คือความมั่นคงแห่งชาติ

OpenAI มองดูเหตุการณ์นี้อยู่ข้างๆ

เมื่อ Anthropic ถูกบังคับให้ถอดโมเดลที่แข็งแกร่งที่สุดออกจากการใช้งาน ตำแหน่งสัมพัทธ์ของ OpenAI ก็สบายขึ้น ยิ่ง Anthropic ถูกปัญหาด้านกฎระเบียบรบกวนมากเท่าไหร่ OpenAI ก็ยิ่งกลายเป็นตัวเลือกที่ "สามารถร่วมมือได้" มากขึ้นเท่านั้น หาก Amazon เข้าใกล้ OpenAI มากขึ้นจริงๆ ก็จะเป็นการป้องกันความเสี่ยงอีกชั้นหนึ่ง

แน่นอนว่าไม่มีหลักฐานสาธารณะที่บ่งชี้ว่าอเมซอนกำลังช่วยเหลือโอเพนเอไอในการโจมตีแอนโทรปิก

ความจริงที่เฉียบคมกว่านั้นคือ เมื่อโมเดล前沿เข้าสู่วงจรการใช้จ่ายด้านทุนระดับล้านล้านดอลลาร์ ความสัมพันธ์แบบหุ้นส่วนก็ไม่บริสุทธิ์อีกต่อไป ผู้ให้บริการคลาวด์ลงทุนในบริษัทโมเดล บริษัทโมเดลซื้อพลังประมวลผลจากคลาวด์ รัฐบาลสอบถามผู้ให้บริการคลาวด์เกี่ยวกับความเสี่ยงด้านความปลอดภัย และคู่แข่งก็ทำการเรดทีมซึ่งกันและกันในพื้นที่กำกับดูแลเดียวกัน

ผู้ให้ทุน ผู้จัดจำหน่าย ผู้จัดจำหน่าย และผู้ตรวจสอบ เริ่มถูกเล่นโดยกลุ่มบริษัทเดียวกัน

สิ่งนี้สำคัญกว่าการแฮ็กพรอมต์บางอย่าง

ในคืนที่ Fable 5 และ Mythos 5 ถูกปิด แอนโทรปิกไม่ได้สูญเสียแค่การเข้าถึงโมเดลสองตัวเท่านั้น มันสูญเสียการควบคุมเรื่องเล่าของตัวเองไปบางส่วน

มือของอเมซอนยังคงอยู่บนคอนโซล AWS โต๊ะระดมทุนของโอเพนเอไอยังไม่เลิก รัฐบาลสหรัฐฯ นั่งอยู่แถวหน้าของงานเปิดตัวโมเดลแล้ว

ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:

กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats

กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App

บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia