GPT-6 เริ่ม "เขียนด้วยมือ" โครงข่ายประสาทเทียม: เปลี่ยนกฎของเกมให้เป็นน้ำหนัก ทำคะแนนเกมตีอิฐได้สูงกว่า 20 เท่า

动察 Beating ข่าวด่วน AI ในโครงข่ายประสาทเทียมมักมีพารามิเตอร์หลายล้านถึงหลายร้อยล้านตัว ซึ่งในอดีตต้องอาศัยอัลกอริทึมการฝึกฝนปรับแต่งซ้ำแล้วซ้ำเล่า แต่ทีมวิจัยจาก MIT กลับค้นพบว่า GPT-6 Astra สามารถวิเคราะห์และแก้ไขตัวเลขเหล่านี้ได้โดยตรง และยังสามารถเขียนโครงข่ายประสาทเทียมชุดหนึ่งขึ้นมาจากศูนย์ได้โดยไม่ต้องฝึกฝน

นักวิจัยได้มอบกฎของเกมตีอิฐเวอร์ชันย่อ ซอร์สโค้ด และโครงข่ายประสาทเทียมที่มีค่าน้ำหนักเป็นศูนย์ทั้งหมดให้กับ GPT-6 เพื่อให้มันกรอกพารามิเตอร์ด้วยตัวเอง โดยไม่ให้ข้อมูลการฝึกฝนและไม่อนุญาตให้ทดลองเล่น GPT-6 คำนวณจุดตกของลูกบอลด้วยตัวเอง และเขียนตรรกะการคาดการณ์และการเคลื่อนที่ของแผ่นรับลงในค่าน้ำหนักของโครงข่าย สุดท้ายคะแนนเกมทำได้ถึง 517.4 ซึ่งเป็นประมาณ 20 เท่าของโมเดลที่มีโครงสร้างเดียวกันและผ่านการฝึกฝนด้วยการเรียนรู้แบบเสริมกำลัง 500 ล้านก้าว อย่างไรก็ตาม ในอีกสองเกม มันไม่สามารถเอาชนะโมเดลที่ฝึกฝน 500 ล้านก้าวได้

จากนั้นนักวิจัยให้ GPT-6 แก้ไขค่าน้ำหนักของ Alibaba Qwen3.5-0.8B โดยตรง มันไม่ได้ฝึกโมเดลใหม่ แต่แก้ไขพารามิเตอร์เพียง 0.016% ก็ทำให้ความแม่นยำทางคณิตศาสตร์ MATH-500 เพิ่มจาก 7.9% เป็น 48.1% และคะแนนการปฏิบัติตามคำสั่งก็เพิ่มขึ้นเกือบ 3 เท่า

ที่แท้จริงแล้ว Qwen มักติดอยู่ในวงจรการคิดซ้ำแล้วซ้ำเล่า คิดเหตุผลไปเรื่อยๆ แต่ไม่ให้คำตอบ ก่อนการแก้ไข 93% ของคำตอบในการทดสอบคณิตศาสตร์จะใช้ Token หมดถึง 32768 ตัว หลังการแก้ไขลดลงเหลือ 33.1% GPT-6 เทียบได้กับการซ่อมแซมข้อบกพร่องที่ขัดขวางไม่ให้โมเดลตอบคำถามได้ตามปกติ

แต่เมื่อเปลี่ยนเป็น Gemma 3 270M ที่มีพารามิเตอร์เพียง 270 ล้านตัว GPT-6 กลับไม่สามารถเพิ่มคะแนนคณิตศาสตร์ได้อย่างชัดเจน โมเดลที่เล็กกว่านี้แทบไม่ค่อยติดอยู่ในวงจรการคิดซ้ำ ปัญหาหลักคือการคำนวณเลขและการให้เหตุผลเองก็มีแนวโน้มผิดพลาดง่าย ซึ่งไม่สามารถแก้ไขได้ง่ายๆ ด้วยการแก้ไขค่าน้ำหนักเพียงเล็กน้อย

นักวิจัยเรียกวิธีการอ่านและเขียนพารามิเตอร์โดยตรงนี้ว่า "การเขียนโปรแกรมในปริภูมิค่าน้ำหนัก" (Weight-Space Programming)