动察 Beating ข่าวด่วน AI, John Schulman ผู้ร่วมก่อตั้ง Thinking Machines และผู้ร่วมก่อตั้ง OpenAI กล่าวในรายการพอดแคสต์ของ A16Z ว่า การจัดแนว AI ไม่ควรเป็นงานวิจัยเฉพาะของบริษัทเทคโนโลยีเพียงไม่กี่แห่ง แต่ควรพัฒนาเป็นวิทยาศาสตร์สาธารณะระดับโลก เพื่อให้ผู้คนจำนวนมากขึ้นมีส่วนร่วมในการกำหนดค่านิยมของ AI และหลีกเลี่ยงการพึ่งพาการตัดสินใจของบริษัทเพียงไม่กี่แห่งมากเกินไป
เมื่อการปรับปรุงตนเองแบบเรียกซ้ำ (RSI) คืบหน้าขึ้น AI เริ่มช่วยในการวิจัยและพัฒนาโมเดลแล้ว Mark Chen หัวหน้าฝ่ายวิจัยของ OpenAI เปิดเผยว่า กระบวนการวิจัยและพัฒนา AI ได้แสดงสัญญาณเริ่มต้นของผลกระทบจากการเร่งความเร็วด้วย RSI โดยมีความคืบหน้าประมาณ 25% ถึง 50% แต่ AI ยังคงยากที่จะตัดสินทิศทางการวิจัยที่มีคุณค่าได้อย่างอิสระ และยังไม่สามารถพัฒนาโมเดลรุ่นถัดไปได้ด้วยตนเอง
Mark Chen ยังเตือนด้วยว่า เมื่อโมเดลมีความเป็นอิสระมากขึ้น หากเป้าหมายไม่สอดคล้องกับเจตนาของมนุษย์ การทำงานเป็นเวลานานอาจสร้างเป้าหมายรองที่ไม่คาดคิด อย่างไรก็ตาม AI ที่ทรงพลังกว่าก็คาดว่าจะช่วยนักวิจัยในการตรวจสอบพฤติกรรมของโมเดล ค้นหาและแก้ไขปัญหาการจัดแนวได้เช่นกัน
John Schulman เน้นย้ำว่า การจัดแนว AI ไม่ใช่เพียงปัญหาทางเทคนิค แต่ยังเกี่ยวข้องกับว่าใครเป็นผู้กำหนดค่านิยมที่ AI ควรปฏิบัติตาม ผู้ใช้และสังคมควรมีพื้นที่มากขึ้นในการมีส่วนร่วมและกำหนดค่านิยมของ AI
