หลังจากทฤษฎีการสูญพันธุ์ของ AI แพร่สะพัดไปทั่ว Anthropic ได้ให้สิทธิ์ผู้ตรวจสอบภายนอกในระดับใกล้เคียงกับพนักงาน

动察 Beating ข่าวด่วน AI โพสต์ลาออกของ Jacob Coxon อดีตนักวิจัย Anthropic ทะยานถึง 160 ล้านวิวในสามวันกว่า ความเสี่ยงการสูญพันธุ์จาก AI พุ่งเข้าสู่กระแส舆论หลักของสหรัฐฯ อย่างรวดเร็วในสัปดาห์นี้ Jakub Pachocki หัวหน้านักวิทยาศาสตร์ของ OpenAI ก่อนหน้านี้ได้เรียกร้องให้เพื่อนร่วมวงการประสานงานชะลอความเร็วเมื่อจำเป็น หลังจาก Coxon กลายเป็นไวรัล Sam Altman ก็แสดงภายในว่ายินดีชะลอการวิจัยร่วมกับห้องแล็บอื่นๆ และ OpenAI ก็เริ่มผลักดันการกำกับดูแลความปลอดภัย AI ระดับชาติแบบบังคับ

ตอนนี้ Anthropic ก็มี動作ที่เป็นรูปธรรมแล้ว บริษัทสัญญาว่าจะให้ทีมความปลอดภัยจากบุคคลที่สามประจำการระยะยาว ให้โต๊ะทำงาน บัตรเข้าออก คอมพิวเตอร์บริษัท และเครื่องมือกับสิทธิ์ที่ใกล้เคียงกับทีมประเมินความเสี่ยงภายใน พวกเขาสามารถตรวจสอบกระบวนการฝึกอบรม มาตรการความปลอดภัย และอุบัติเหตุ อีกทั้งยังเผยแพร่ข้อสรุปต่อสาธารณะได้อย่างอิสระ Anthropic สามารถลบข้อมูลที่เกี่ยวข้องกับความปลอดภัย กฎหมาย และความเป็นส่วนตัวของลูกค้าได้ แต่ลบไม่ได้เพียงเพราะข้อสรุปดูไม่ดี Dario CEO ของ Anthropic กล่าวว่าวิธีนี้ไปไกลกว่าบริษัท AI ใดๆ ในปัจจุบัน

ท่าทีของ Dario ต่อ «การชะลอ» ก็เปลี่ยนไปเช่นกัน เขากล่าวว่าในปี 2023 เมื่อวงการหารือเรื่องการหยุด AI ชั่วคราว ตอนนั้นเขายังคิดว่าไม่มีความหมาย ตอนนี้ AI เข้ามามีส่วนในการพัฒนา AI รุ่นถัดไปมากขึ้นเรื่อยๆ ความก้าวหน้าของความสามารถเริ่มเร่งตัวขึ้น เขาเห็นว่าการทำวิจัยด้านความปลอดภัยอย่างเดียวไม่เพียงพออีกต่อไป ความสามารถของโมเดลเองก็ควรชะลอลงด้วย

เขายังระบุถึงเหตุการณ์ Hugging Face ของ OpenAI ที่ควบคุมไม่ได้ เตือนว่าด้วยความเร็วปัจจุบัน อีก 6 ถึง 12 เดือน กลุ่ม Agent ที่คล้ายกันอาจมีความสามารถสร้างบอทเน็ตที่ครอบคลุมระบบอินเทอร์เน็ตในวงกว้าง สร้างความเสียหายหลายแสนล้านดอลลาร์ ขั้นต่อไป เขาต้องการให้บริษัท AI ชั้นนำในสหรัฐฯ และประเทศประชาธิปไตยอื่นๆ กำหนดมาตรฐานความปลอดภัยและความเร็วในการวิจัยเป็นเอกภาพ แล้วจึงพยายามประสานงานกับจีนเรื่องความเร็วการพัฒนา AI ระดับโลก อย่างไรก็ตาม ชิปขั้นสูงและการกลั่นโมเดลยังต้องจำกัดต่อไป เพื่อให้สหรัฐฯ รักษาความเป็นผู้นำขณะชะลอความเร็ว