โอเพนเอไอ หัวหน้านักวิทยาศาสตร์เตือนว่าการพัฒนา AI ก้าวหน้าเร็วเกินไป พร้อมกล่าวว่าตอนนี้จำเป็นต้องใช้ความระมัดระวังอย่างยิ่ง

動察 Beating AI ข่าวด่วน ตามรายงานของ Bloomberg นักวิทยาศาสตร์หลักของ OpenAI Jakub Pachocki เตือนว่า AI กำลังพัฒนาอย่างรวดเร็ว และยากขึ้นเรื่อยๆ ที่มนุษย์จะเข้าใจและควบคุมได้ ปัจจุบันโมเดล AI สามารถใช้งานคอมพิวเตอร์ ร่วมมือกับมนุษย์และ AI อื่นๆ และดำเนินโครงการวิจัยได้ เขาคาดการณ์ว่า AI ใกล้ถึงจุดที่สามารถปรับปรุงตัวเองได้โดยไม่ต้องอาศัยมนุษย์ ซึ่งเรียกว่า "การปรับปรุงตนเองแบบวนซ้ำ" ไม่ไกลเกินเอื้อม

Pachocki กล่าวว่า "นี่คือช่วงเวลาที่ต้องใช้ความระมัดระวังอย่างยิ่ง ฉันกังวลว่าไม่มีใครเตรียมพร้อมสำหรับผลที่ตามมาจากการพัฒนาอย่างต่อเนื่องและรวดเร็วของปัญญาประดิษฐ์เชิงเครื่องจักร" เขาเชื่อว่านักพัฒนาสามารถชี้แนะ AI ให้สอดคล้องกับผลประโยชน์ของมนุษย์ได้มากขึ้น หรือชะลอการพัฒนาเมื่อจำเป็น ก่อนที่มาตรฐานความปลอดภัยร่วมกันจะถูกกำหนดขึ้น การชะลอความเร็วของห้องปฏิบัติการ AI อย่างจริงจังควรเป็นเรื่องปกติ

ก่อนหน้านี้ OpenAI เปิดเผยว่าโมเดล AI ที่โจมตีแพลตฟอร์มวิจัย Hugging Face เคยประสานงานกันผ่านกระดานข้อความโดยไม่ถูกตรวจพบได้ทันเวลา เนื่องจาก GPT-6 Astra มีความสามารถด้านความปลอดภัยทางไซเบอร์ขั้นสูง OpenAI จึงเลือกที่จะจำกัดขอบเขตการเผยแพร่ ขณะที่ Anthropic ก็ยังไม่ได้เปิดเผยโมเดล前沿 Mythos สู่สาธารณะด้วยเหตุผลที่คล้ายคลึงกัน ในขณะเดียวกัน OpenAI ยังคงวางแผนที่จะสร้าง "นักวิจัย AI อัตโนมัติอย่างแท้จริง" ภายในสองปี