เทนเซ็นต์ ฮั่นหยวน Hy4 เปิดซอร์ส: พารามิเตอร์รวม 770 พันล้าน, บริบท 1 ล้าน

动察 Beating AI ข่าวด่วน เทนเซ็นต์เปิดตัวและเปิดซอร์ส Hy4 preview โมเดลใหม่ใช้สถาปัตยกรรม MoE พารามิเตอร์รวม 770B เปิดใช้งานครั้งละ 49B ขยายบริบทเป็น 1M เมื่อเทียบกับ Hy3 ที่มีพารามิเตอร์รวม 295B พารามิเตอร์เปิดใช้งาน 21B และบริบท 256K รุ่นนี้มีขนาดใหญ่ขึ้นมากกว่าสองเท่า และบริบทยาวขยายขึ้นประมาณ 4 เท่า

ครั้งนี้เทนเซ็นต์ไม่ได้เน้นแค่คะแนนทั่วไป แต่เสริมความแข็งแกร่งให้กับงานจริง เช่น โค้ด งานออฟฟิศ เกม และงานวิจัย โดยเฉพาะ เช่น โมเดลสามารถสร้างเว็บไซต์ Three.js 3D ตั้งแต่ศูนย์ สร้าง Demo เกมที่เล่นได้ใน Unity และประมวลผลเอกสารการเงิน 72 ฉบับในครั้งเดียว เพื่อตรวจสอบการเบิกจ่ายซ้ำ วงเงินเกิน และความผิดปกติของงบประมาณ Hy4 ยังได้รับการฝึกฝนและพัฒนาร่วมกับผลิตภัณฑ์ของเทนเซ็นต์ เช่น WorkBuddy และ CodeBuddy

จุดที่พิเศษยิ่งกว่าคือ Hy4 เริ่มมีส่วนร่วมในการพัฒนาตัวเองแล้ว เทนเซ็นต์ระบุว่า มันจะช่วยปรับปรุงวิธีการฝึกอบรม กลยุทธ์ข้อมูล ระบบประเมินผล และตัวดำเนินการระดับล่าง เสนอแผนเอง รันการทดลอง แล้วปรับเปลี่ยนตามผลลัพธ์ โค้ด บันทึก และข้อเสนอแนะจากการทดลองจะเข้าสู่รอบการพัฒนาถัดไป เกิดเป็นวงจรการปรับปรุงตนเองเบื้องต้นแล้ว

Hy4 preview เชื่อมต่อกับ WorkBuddy, CodeBuddy, Yuanbao, ima, เทนเซ็นต์คลาวด์ TokenHub และ OpenRouter แล้ว ก่อนหน้านี้เทนเซ็นต์ประกาศในรายงานการเงินว่า Hy4 จะใหญ่กว่า Hy3 และใช้ข้อเสนอแนะจากผลิตภัณฑ์จริงเป็นแหล่งสำคัญในการฝึกโมเดล