“ขายตัว”ให้กูเกิลต้องมีคณะกรรมการจริยธรรมก่อน 12 ปีต่อมา ฮัสซาบิสต้องการเพิ่มด่านสุดท้ายให้กับ AGI

จากข้อมูลการติดตามของ Beating สื่อจีน ระบุว่า ในปี 2014 เมื่อ DeepMind ถูกขายให้กับ Google หนึ่งในเงื่อนไขที่ Demis Hassabis 提出 คือการจัดตั้งคณะกรรมการจริยธรรม AI อิสระ 12 ปีต่อมา เขายังคงครุ่นคิดถึงเรื่องเดียวกัน แต่ครั้งนี้สิ่งที่เขาต้องการควบคุมไม่ใช่แค่ DeepMind อีกต่อไป แต่เป็นอุตสาหกรรม AI ระดับแนวหน้าทั้งหมด

หนังสือพิมพ์วอลล์สตรีทเจอร์นัลเปิดเผยว่า ก่อนที่ Hassabis จะลงจากตำแหน่ง CEO ของ DeepMind เขาได้ผลักดันกลไกการกำกับดูแลชุดใหม่ร่วมกับเจ้าหน้าที่ระดับสูงของรัฐบาลสหรัฐฯ และหัวหน้าห้องปฏิบัติการ AI รายอื่น ๆ แล้ว โดยรัฐมนตรีคลังสหรัฐฯ Bessent และที่ปรึกษาด้านวิทยาศาสตร์ของประธานาธิบดี Michael Kratsios ต่างก็ได้รับฟังแผนของเขาแล้ว Bessent เองก็มีส่วนร่วมในการกำหนดยุทธศาสตร์ AI ของรัฐบาลทรัมป์ด้วย Hassabis เปรียบเทียบองค์กรในอนาคตนี้ว่าเป็น "สำนักงานพลังงานปรมาณูระหว่างประเทศ" ในเวอร์ชัน AI

ที่น่าสนใจคือ รัฐบาลสหรัฐฯ ได้ดำเนินการไปแล้วครึ่งหนึ่ง ทำเนียบขาวเปิดตัวกรอบการตรวจสอบโดยสมัครใจสำหรับโมเดล前沿 ในเดือนมิถุนายน และแผนที่ Hassabis เปิดเผยต่อสาธารณะในเดือนกรกฎาคมก็มีรายละเอียดการดำเนินงานที่คล้ายคลึงกันมาก ทั้งคู่กำหนดโมเดล前沿 ที่ต้องได้รับการตรวจสอบ为重点 ก่อนอื่น อนุญาตให้ส่งตรวจได้สูงสุด 30 วันก่อนการเปิดตัว และให้รัฐบาลเข้าร่วมการทดสอบด้วย

ความแตกต่างอยู่ที่ประตูสุดท้ายเท่านั้น ทำเนียบขาวระบุชัดเจนว่ากลไกนี้ไม่สามารถกลายเป็นใบอนุญาตบังคับหรือการอนุมัติการเผยแพร่ได้ แต่ Hassabis ต้องการผลักดันต่อไปอีก ขั้นแรกเป็นแบบสมัครใจ เมื่อกลไกการประเมินทำงานได้แล้วก็จะเปลี่ยนเป็นเกณฑ์การเข้าถึง โมเดล前沿 ที่ไม่ผ่านก็ไม่สามารถใช้งานในสหรัฐฯ ได้ การทดสอบยังขยายจากการโจมตีทางไซเบอร์ไปสู่ความเสี่ยงทางชีวภาพ การที่ Agent หลบเลี่ยงมาตรการความปลอดภัย และพฤติกรรมการหลอกลวง หากจำเป็นก็สามารถประสานงานให้ห้องปฏิบัติการชั้นนำหลายแห่งชะลอความเร็วร่วมกันได้