อดีตนักวิจัย Anthropic ออกโรงเตือนอีกครั้ง: ความก้าวหน้าของอัลกอริทึมกำลังเร่งตัวขึ้น การฝึก AI ที่ทรงพลังกว่าอาจไม่จำเป็นต้องพึ่งการเพิ่มพลังประมวลผล

动察 Beating ข่าวด่วน AI เมื่อเดือนกันยายนปีนี้ Jacob Coxon ซึ่งเคยทำงานด้านการวิจัยการฝึกโมเดลล่วงหน้าที่ OpenAI และ Anthropic ได้ลาออก โดยวิพากษ์วิจารณ์อย่างรุนแรงว่าทั้งสองบริษัทกำลังมุ่งหน้าสู่ซูเปอร์อินเทลลิเจนซ์ที่สามารถพัฒนาตนเองได้ ซึ่งเท่ากับ "เดิมพันชีวิตของพวกเราทั้งหมด" คำกล่าวนี้ทำให้สมาชิกรัฐสภาสหรัฐฯ เรียกร้องให้เพิ่มการกำกับดูแล และแม้แต่ Musk ยังสงสัยว่าเขาอาจกำลังร่วมมือกับการโฆษณาชวนเชื่อด้านการกำกับดูแล

ขณะนี้ Coxon ได้โพสต์ภาพหนึ่งจากงานโรดโชว์ IPO ของ Anthropic โดยระบุว่านี่เป็นหนึ่งในเหตุผลสำคัญที่ทำให้เขาลาออก "ภาพนี้บ้ามาก ไม่คิดว่าพวกเขาจะเปิดเผยต่อสาธารณะ"

เดิมที Anthropic ใช้ภาพนี้เพื่อแสดงข้อได้เปรียบทางเทคโนโลยีของตน นั่นคือเมื่ออัลกอริทึมพัฒนาขึ้นเรื่อยๆ พลังประมวลผลที่ต้องใช้ในการฝึกโมเดลที่มีความสามารถด้านโค้ดเท่ากันก็ลดลงเรื่อยๆ

แต่ Coxon สังเกตว่าแกนตั้งในภาพใช้มาตราระยะลอการิทึมแล้ว แต่เส้นโค้งยังคงชันขึ้นเรื่อยๆ ซึ่งหมายความว่าหากข้อมูลถูกต้อง ความเร็วในการเพิ่มประสิทธิภาพการฝึกเองก็เร่งขึ้นเช่นกัน จากข้อมูลนี้เขาเชื่อว่าความก้าวหน้าของอัลกอริทึมของ Anthropic ได้แสดงให้เห็นถึง "การเติบโตแบบเหนือเอกซ์โพเนนเชียล"

Mythos อาจเป็นเพียงจุดหนึ่งธรรมดาบนเส้นโค้งที่ชันนี้ Anthropic สามารถฝึกโมเดลที่มีระดับเดียวกับ Mythos ได้ด้วยพลังประมวลผลที่น้อยกว่าตอนเริ่มต้นมาก หากลงทุนพลังประมวลผลเท่ากัน ก็อาจฝึก AI ที่แข็งแกร่งกว่าได้

และการปรับปรุงอัลกอริทึมการฝึกก็ไม่จำเป็นต้องพึ่งนักวิจัยอัจฉริยะที่คิดค้นไอเดีย breakthroughs อยู่ตลอดเวลา งานประเภทนี้ใกล้ถึงขั้นที่สามารถทำให้เป็นอัตโนมัติได้แล้ว Tom Brown ผู้ร่วมก่อตั้ง Anthropic ยังกล่าวในงานโรดโชว์ว่าในอนาคต Claude มีแนวโน้มที่จะค้นพบวิธีการเพิ่มประสิทธิภาพการฝึกด้วยตนเอง วิธีการใหม่สามารถใช้ฝึกโมเดลที่แข็งแกร่งขึ้น และโมเดลที่แข็งแกร่งขึ้นก็สามารถค้นหาวิธีการปรับปรุงใหม่ๆ ต่อไปได้

อย่างไรก็ตาม ภาพนี้ไม่ได้เปิดเผยตัวคูณพลังประมวลผลที่เฉพาะเจาะจง มีเพียงสามจุดข้อมูลเท่านั้น และใต้ภาพระบุว่าตำแหน่งเป็นเพียงการแสดงให้เห็นเท่านั้น

Coxon เสนอว่าควรหยุดการวิจัยและพัฒนาระบบ AI ชั้นแนวหน้าในปี 2027 เพื่อให้คู่แข่งตามทัน ซึ่งจะทำให้ความสามารถ AI ระดับมนุษย์ค่อยๆ กลายเป็นสินค้าธรรมดาที่ทุกคนเข้าถึงได้ และทำลายข้อได้เปรียบของ OpenAI และ Anthropic ที่สร้างขึ้นจากโมเดลชั้นนำ