动察 Beating ข่าวด่วน AI มหาวิทยาลัยเซี่ยงไฮ้เจียวทงร่วมกับมหาวิทยาลัยชิงหัว ByteDance Xiaohongshu Shanghai AI Lab และทีมอื่นๆ เผยแพร่บทปริทัศน์ 《The Last AI Built by Humans》 รวบรวมงานวิจัยที่เกี่ยวข้อง 491 ชิ้น พยายามลากเส้นที่เข้มงวดขึ้นให้กับ «การวิวัฒนาตนเองของ AI» ที่กว้างขึ้นเรื่อยๆ
บทความแบ่งการปรับปรุงตนเองแบบเวียนเกิด (RSI) ออกเป็น 5 ระดับ L1 เพียงแค่ดำเนินกระบวนการปรับปรุงที่มนุษย์กำหนดไว้ L2 สามารถตัดสินใจได้เองว่าจะปรับอย่างไร L3 แม้แต่สิ่งที่ควรเรียนรู้ในรอบถัดไปก็ตัดสินใจได้เอง L4 จะปรับปรุงหน่วยความจำ ทักษะ โค้ด หรือ harness อย่างต่อเนื่องตามผลตอบกลับจากการทำงานจริง ทำให้การเปลี่ยนแปลงเหล่านี้ส่งผลต่อภารกิจถัดไป เมื่อถึง L5 แม้แต่วิธีการค้นหา ตัวประเมิน และกลยุทธ์การวิจัยที่รับผิดชอบในการสร้างการปรับปรุงรอบถัดไปก็สามารถถูกแก้ไขได้ และส่งต่อให้รอบถัดไปใช้งานต่อ
ดังนั้นแค่ «แก้โค้ดตัวเองได้» ยังไม่เพียงพอ ตัวอย่างเช่น Coding Agent ที่เขียนซอร์สโค้ดตัวเองใหม่ได้ แต่ถ้าวิธีเลือกเจนเนอเรชันถัดไป เกณฑ์การให้คะแนน และการแก้ไขใดที่จะคงอยู่ ยังถูกกำหนดตายตัวโดยมนุษย์ มันเพียงพิสูจน์ได้ว่าตัวเองแก้ไขตัวเองได้ แต่ยังไม่ได้เชี่ยวชาญการปรับปรุงตนเองแบบเวียนเกิดอย่างสมบูรณ์
บทความยังแยก L5 ซึ่งเป็นระดับสูงสุดออกเป็นสองชั้น ชั้นแรกคือ «เวียนเกิดในเชิงรูปแบบ»: AI สามารถแก้ไขกลไกที่รับผิดชอบการปรับปรุงในภายหลังได้แล้ว และให้รอบถัดไปใช้งานต่อ ชั้นที่สองคือ «ยิ่งแก้ยิ่งแข็งแกร่งจริง»: กลไกที่แก้ไขแล้วยังต้องสร้างเจนเนอเรชันถัดไปที่แข็งแกร่งขึ้นจริงภายใต้ทรัพยากรที่ใกล้เคียงและการประเมินที่เป็นอิสระ
ในงานวิจัย 491 ชิ้น 43.8% ถูกจัดเป็น L1, 31.6% อยู่ที่ L2, L5 มีเพียง 29 ชิ้น คิดเป็น 5.9% งานวิจัยจำนวนมากยังคงเน้นอยู่ที่การดำเนินการปรับปรุงที่มนุษย์ออกแบบไว้ และการค้นหาวิธีแก้ไขโดยอัตโนมัติ งานที่มอบ «วิธีการปรับปรุง» ซึ่งเป็นกลไกนี้เองให้กับ AI ยังมีน้อยมาก แม้จะแตะถึง L5 การสะสมข้อได้เปรียบในระยะยาวอย่างมั่นคงก็ยังไม่ได้รับการพิสูจน์
บทความนี้หลักๆ คือการวางกรอบการจำแนกประเภทให้กับสาขา RSI L1 ถึง L5 เป็นมาตรฐานที่ผู้เขียนเสนอ ยังไม่ใช่การแบ่งระดับที่เป็นที่ยอมรับร่วมกันในอุตสาหกรรม บทความยังรวมงานวิจัยทางวิชาการ รายงานทางเทคนิค บล็อกอย่างเป็นทางการ และระบบโอเพนซอร์สเข้าด้วยกัน เพราะการปฏิบัติ RSI ชั้นแนวหน้ามากมายยังไม่ได้เข้าสู่บทความวิชาการอย่างเป็นทางการ
