ในขณะที่ระดมทุนและเข้าจดทะเบียนในตลาดหุ้นอย่างโดดเด่น ก็เสนอให้หยุดการพัฒนา AI ชั่วคราว: Anthropic แค่เล่นเกมประชาสัมพันธ์ด้านความปลอดภัย

ตามการติดตามของ Beating ในรายงาน "เมื่อ AI สร้างตัวเอง" (When AI Builds Itself) Anthropic เสนอให้ทั่วโลกอ้างอิงสนธิสัญญา INF (Intermediate-Range Nuclear Forces Treaty) ด้านการควบคุมอาวุธนิวเคลียร์ เพื่อสร้าง "กลไกการหยุดชะงักร่วมที่ตรวจสอบได้" (verifiable collaborative pause mechanism) รายงานระบุชัดเจนว่าคัดค้านการหยุดการพัฒนาเพียงฝ่ายเดียว และเน้นย้ำว่าภายใต้เงื่อนไขที่ตรวจสอบได้ในระดับโลกเท่านั้น ห้องปฏิบัติการชั้นนำจึงจะสามารถหยุดพร้อมกันได้

แต่การหยุดร่วมกันนั้นเป็นไปไม่ได้ในทางเทคนิค การควบคุมอาวุธนิวเคลียร์สามารถพึ่งพาดาวเทียมเพื่อเฝ้าติดตามไซโลขีปนาวุธ แต่การ์ดจอ (GPU) มีขนาดเล็ก ซ่อนง่าย และสามารถประมวลผลแบบกระจายศูนย์ได้ วิธีเดียวที่จะตรวจสอบว่าฝ่ายอื่นแอบฝึกโมเดลอยู่หรือไม่ คือการดำเนินการเฝ้าติดตามแบบเจาะลึก (intrusive monitoring) กับชิป GPU ทั่วโลก โครงข่ายไฟฟ้า และศูนย์ข้อมูล การเฝ้าติดตามทุกด้านไม่เพียงแต่เป็นไปไม่ได้ในทางการเมือง แต่ในทางเทคนิคยังเทียบเท่ากับการสนับสนุนลัทธิอำนาจนิยมด้านพลังคำนวณ (computational totalitarianism)

ในบริบทที่การตรวจสอบทางเทคนิคไม่สามารถนำไปปฏิบัติได้ ข้อเสนอให้หยุดร่วมกันจึงดูเหมือนเป็น "ใบรับรองความปลอดภัยที่ปราศจากความรับผิด" (safety immunity card) ก่อนหน้านี้เพียงไม่นาน Anthropic เพิ่งระดมทุน 65,000 ล้านดอลลาร์สหรัฐ ด้วยมูลค่าประมาณ 1 ล้านล้าน และยื่นขอจดทะเบียนเข้าตลาดหลักทรัพย์ การกำหนดเงื่อนไขการหยุดให้เป็นการตรวจสอบทั่วโลกที่เป็นไปไม่ได้ ทำให้ Anthropic ปูทางไปสู่การฝึกโมเดลอย่างไม่มีกำหนด พร้อมกับผลักภาระความรับผิดชอบที่ไม่สามารถหยุดได้ไปยังกลไกการกำกับดูแลที่ยังไม่ได้ถูกสร้างขึ้น