ฮักกิงเฟซยื่นคำขอเข้าภายในแอนโธรปิกเพื่อตรวจสอบความปลอดภัยของ AI

动察 Beating ข่าวด่วน AI: CEO ของ Hugging Face อย่าง Clement Delangue ประกาศจัดตั้ง Open Alignment Initiative โดยมี Thomas Wolf ผู้ร่วมก่อตั้งเป็นผู้นำ และได้ยื่นสมัครเข้าร่วมโครงการ "Embedded Evaluator" ที่ Anthropic เพิ่งเสนอขึ้นมาอย่างเปิดเผย หากได้รับอนุมัติ ผู้ประเมินของ Hugging Face จะสามารถประจำการระยะยาว ได้รับสิทธิ์เข้าถึงระดับใกล้เคียงพนักงาน ตรวจสอบการฝึกโมเดลและมาตรการความปลอดภัยได้โดยตรง

Delangue กล่าวว่า การจัดแนว AI ไม่สามารถแก้ไขภายในห้องแล็บชั้นนำเพียงไม่กี่แห่งต่อไปได้ จำเป็นต้องให้นักวิจัยภายนอกเข้าร่วมมากขึ้น Anthropic ได้ให้คำมั่นว่าจะเปิดสิทธิ์ประเภทนี้แก่บุคคลที่สาม รวมถึงพื้นที่ทำงาน ประตูเข้าออก คอมพิวเตอร์บริษัท และเครื่องมือที่ใกล้เคียงกับทีมความเสี่ยงภายใน พร้อมอนุญาตให้ฝ่ายประเมินเผยแพร่ข้อสรุปได้อย่างอิสระ