ซีอีโอของ OpenAI จะผลักดันมาตรฐานความปลอดภัย AI ทั่วโลกที่สหประชาชาติ

动察 Beating ข่าวด่วน AI，CEO ของ OpenAI Sam Altman จะกล่าวต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติ โดยสนับสนุนการสร้างมาตรฐานความปลอดภัย AI ระดับโลกที่เป็นเอกภาพ ในขณะเดียวกันก็หลีกเลี่ยงมาตรการจำกัดที่อาจทำให้innovationช้าลง OpenAI ระบุว่าไม่สนับสนุนการจัดตั้งหน่วยงานกำกับดูแลระหว่างประเทศที่เฉพาะเจาะจง แต่เห็นด้วยกับมาตรฐานความปลอดภัยพื้นฐานพร้อมการกำกับดูแลแบบประชาธิปไตย CEO ของ Anthropic Dario Amodei คาดว่าจะเข้าร่วมผ่านวิดีโอด้วย

ก่อนหน้านี้ตามรายงานของ FT OpenAI ได้เรียกร้องเมื่อวันจันทร์ให้รัฐบาลสหรัฐฯ เป็นผู้นำในการสร้างมาตรฐาน AI ระหว่างประเทศ และแนะนำให้ประเทศต่างๆ ประสานงานประเมินความสามารถและความเสี่ยงของโมเดล AI CEO ของ OpenAI Sam Altman จะนำเสนอแผนที่เกี่ยวข้องต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติในสัปดาห์นี้ OpenAI เตือนเป็นพิเศษว่าการปรับปรุงตนเองแบบเรียกซ้ำ (RSI) อาจนำมาซึ่งความเสี่ยงใหม่ กล่าวคือ งานฝึกอบรมโมเดล AI มากขึ้นเรื่อยๆ ถูกดำเนินการโดยระบบ AI อื่น หากขาดมาตรการความปลอดภัยที่เหมาะสม AI อาจพัฒนาแบบวนซ้ำอย่างรวดเร็วจนถึงระดับที่มนุษย์ไม่สามารถกำกับดูแลได้อย่างมีประสิทธิภาพ ทำให้มนุษย์ค่อยๆ สูญเสียการควบคุมที่แท้จริงต่อการพัฒนา AI ข้อเสนอที่เกี่ยวข้องนี้เกิดขึ้นในช่วงที่ความกังวลเกี่ยวกับความปลอดภัย AI กำลังเพิ่มสูงขึ้น