“บุคคลที่สามอิสระ” ที่ Anthropic รับรองถูกตั้งคำถาม: วง创始มีความสัมพันธ์กับบริษัทที่ซับซ้อนพันกัน

动察 Beating ข่าวด่วน AI เมื่อเร็วๆ นี้ Dario Amodei ซีอีโอของ Anthropic ได้เสนอให้หน่วยงานประเมินบุคคลที่สามอย่าง METR เข้าไปประจำอยู่ในบริษัท AI ชั้นแนวหน้าอย่างยาวนาน โดยได้รับสิทธิ์ใกล้เคียงระดับพนักงาน เพื่อตรวจสอบมาตรการความปลอดภัย อุบัติการณ์ และกระบวนการฝึกโมเดล แต่การสืบสวนของ New York Post พบว่าวงในด้านความปลอดภัย AI ที่ METR และ Anthropic สังกัดอยู่นั้นมีความสัมพันธ์ใกล้ชิดกันมากกว่าการเป็น "ผู้ตรวจสอบภายนอก" ทั่วไปอย่างมาก

เดิมที METR ชื่อ ARC Evals ถูกบ่มเพาะจาก Alignment Research Center ที่ก่อตั้งโดย Paul Christiano ไม่เพียงแต่ Christiano เคยร่วมงานกับ Amodei ที่ OpenAI เท่านั้น New York Post ยังระบุว่าทั้งสองเคยเป็นเพื่อนร่วมห้องกัน ต่อมาเขายังกลายเป็นหนึ่งในห้าผู้ดูแลผลประโยชน์ชุดแรกของ Anthropic Long-Term Benefit Trust อีกด้วย Ajeya Cotra เจ้าหน้าที่เทคนิคคนปัจจุบันของ METR เป็นภรรยาของ Christiano และก่อนหน้านี้ยังรับผิดชอบเงินสนับสนุนด้านความปลอดภัย AI ของ Coefficient Giving

ปัญหาที่ตรงกว่านั้นมาจากตัว METR เอง เมื่อปีนี้ขณะที่ประเมิน Anthropic, OpenAI, Google และ Meta ยังไม่มีนโยบายผลประโยชน์ทับซ้อนของบุคลากรที่ใช้บังคับได้ และไม่มีกระบวนการเลี่ยงผลประโยชน์อย่างเป็นทางการ METR เปิดเผยว่าในบรรดาพนักงานและผู้ร่วมงานที่เข้าร่วมโครงการโดยตรง อย่างน้อย 6 คนมีความสัมพันธ์ส่วนตัวที่ใกล้ชิดกับพนักงานของบริษัท AI

แน่นอนว่าสิ่งนี้ไม่อาจพิสูจน์ได้ว่า METR ถูก Anthropic ควบคุม METR ระบุชัดเจนว่าไม่รับเงินทุนจากบริษัท AI ชั้นแนวหน้าและพนักงานของบริษัทเหล่านั้น และไม่คิดค่าบริการในการประเมินความเสี่ยง อย่างไรก็ตาม บริษัทเหล่านี้จะให้ Token ของโมเดลจำนวนมากฟรี