โอเพนเอไอ หัวหน้านักวิทยาศาสตร์เตือนว่าการพัฒนา AI ก้าวหน้าเร็วเกินไป พร้อมกล่าวว่าตอนนี้จำเป็นต้องใช้ความระมัดระวังอย่างยิ่ง

動察 Beating AI ข่าวด่วน นักวิทยาศาสตร์หัวหน้าของ OpenAI ยาคุบ ปาโชตสกี (Jakub Pachocki) เตือนว่า การพัฒนาปัญญาประดิษฐ์ดำเนินไปอย่างรวดเร็วเกินไป จนยากขึ้นเรื่อยๆ ที่มนุษย์จะเข้าใจและควบคุมได้ "ตอนนี้จำเป็นต้องใช้ความระมัดระวังอย่างยิ่ง"

เขาชี้ให้เห็นว่า โมเดล AI สามารถใช้งานคอมพิวเตอร์ ร่วมมือกับมนุษย์และ AI อื่นๆ และดำเนินการวิจัยได้แล้ว และในอนาคตอันใกล้นี้ อาจสามารถบรรลุ "การปรับปรุงตนเองแบบวนซ้ำ" ได้โดยไม่ต้องมีการแทรกแซงจากมนุษย์ ปาโชตสกีกล่าวว่า เขากังวลว่าไม่มีใครเตรียมพร้อมสำหรับผลที่ตามมาจากการเพิ่มขีดความสามารถของเครื่องจักรอัจฉริยะอย่างต่อเนื่องและรวดเร็ว

นักพัฒนาสามารถทำให้ AI สอดคล้องกับผลประโยชน์ของมนุษย์มากขึ้น หรือสามารถชะลอความเร็วของการวิจัยและพัฒนาในอนาคตได้เมื่อจำเป็น เขาคาดหวังและหวังว่า ก่อนที่อุตสาหกรรมจะสร้างมาตรฐานความปลอดภัยร่วมกัน การ "ชะลอการวิจัยโดยสมัครใจ" ของห้องปฏิบัติการ AI จะกลายเป็นเรื่องปกติ ปัจจุบัน OpenAI ได้ใช้วิธีการเผยแพร่แบบจำกัดสำหรับ GPT-6 Astra เนื่องจากมีความสามารถด้านความปลอดภัยทางไซเบอร์ขั้นสูง