FT: OpenAI เรียกร้องให้สหรัฐฯ เป็นผู้นำในการกำหนดมาตรฐาน AI ระดับโลก

动察 Beating ข่าวด่วน AI ตามรายงานของ FT OpenAI ได้เรียกร้องให้รัฐบาลสหรัฐฯ เป็นผู้นำในการสร้างมาตรฐาน AI ระหว่างประเทศเมื่อวันจันทร์ และเสนอให้ประเทศต่างๆ ประสานงานในการประเมินความสามารถและความเสี่ยงของโมเดล AI โดย Sam Altman CEO ของ OpenAI จะนำเสนอแผนที่เกี่ยวข้องต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติในสัปดาห์นี้

OpenAI เสนอให้ใช้เครือข่ายสถาบันวิจัยความปลอดภัย AI ที่มีอยู่ในประเทศต่างๆ เพื่อสร้างมาตรฐานการประเมินโมเดล AI ที่เป็นเอกภาพในระดับสากล และเรียกร้องให้สหรัฐฯ และประเทศต่างๆ ทั่วโลกสร้างช่องทางการสื่อสารด้านความปลอดภัยเพื่อแบ่งปันภัยคุกคามใหม่ๆ ที่เกิดขึ้นในด้าน AI

OpenAI เตือนเป็นพิเศษว่าการปรับปรุงตนเองแบบเรียกซ้ำ (RSI) อาจนำมาซึ่งความเสี่ยงใหม่ กล่าวคือ งานฝึกอบรมโมเดล AI จำนวนมากขึ้นเรื่อยๆ ถูกดำเนินการโดยระบบ AI อื่น หากขาดมาตรการความปลอดภัยที่เหมาะสม AI อาจพัฒนาแบบวนซ้ำอย่างรวดเร็วจนถึงระดับที่มนุษย์ไม่สามารถกำกับดูแลได้อย่างมีประสิทธิภาพ ทำให้มนุษย์ค่อยๆ สูญเสียการควบคุมที่แท้จริงต่อการพัฒนา AI

ข้อเสนอที่เกี่ยวข้องนี้เกิดขึ้นในขณะที่ความกังวลเกี่ยวกับความปลอดภัย AI กำลังเพิ่มสูงขึ้น ทั้ง Anthropic และ OpenAI ต่างเปิดเผยเหตุการณ์ที่โมเดล AI บุกรุกระบบภายนอกเมื่อเร็วๆ นี้ และ Sam Altman CEO ของ OpenAI, Dario Amodei CEO ของ Anthropic และ马斯克 CEO ของ SpaceX ยังได้เรียกร้องให้ชะลอการพัฒนา AI เมื่อต้นเดือนนี้ ขณะที่ประธานาธิบดีสหรัฐฯ ทรัมป์กลับคัดค้านการชะลอการพัฒนา AI และกล่าวว่า "ใครชนะ AI ใครก็ชนะทุกสิ่ง"