动察 Beating ข่าวด่วน AI: NeoHorse-Jev-4B โมเดลโอเพนซอร์สที่ก่อตั้งโดย Wang Yunhe อดีตหัวหน้าโมเดล PanGu ของ Huawei ได้นำ NeoHorse-1-4B ของตัวเองมาสร้างเป็นโมเดลตัดสินใจประเภทเดียวกับ Jev โดยไม่ต้องสร้างคำตอบทีละคำ แต่เลือกจากตัวเลือกไม่กี่ตัว ตัดสินว่าถูกหรือผิด หรือให้คะแนน ใช้หลักๆ สำหรับให้ Agent เลือกเครื่องมือ ทำ routing และตัดสินใจว่าขั้นตอนถัดไปจะทำอะไร
ทาง официальный ได้รวบรวมการประเมินข้อความ 6 ชุด เช่น JevBench, Kev, OpenJev เป็นต้น NeoHorse-Jev-4B ได้คะแนนเฉลี่ยถ่วงน้ำหนัก 77.70 สูงกว่า Open-Jev ที่มีพารามิเตอร์ 9B ซึ่งได้ 75.67 และยังเกิน Kev-4B ที่ได้ 74.25 อย่างไรก็ตามคะแนนรวมนี้รวบรวมโดย基元律动เอง ปัจจุบันมีเพียง 4 โมเดลโอเพนซอร์สที่มีผลครบทั้ง 6 รายการ และ NeoHorse-Jev ยังได้คะแนนสูงสุดเพียง 2 กลุ่มเท่านั้น
มันอิงจาก NeoHorse-1-4B โดยใช้การอนุมานแบบ prefill-only คำนวณความน่าจะเป็นของคำตอบที่เป็นตัวเลือกโดยตรง ตัดกระบวนการสร้างข้อความทีละคำของโมเดลขนาดใหญ่ทั่วไป ในการทดสอบ 1158 คำขอข้อความ ที่ concurrency 32 เวลาเฉลี่ยในการตัดสินใจหนึ่งครั้งฝั่งเซิร์ฟเวอร์อยู่ที่ 74.3ms; ที่ concurrency 256 throughput ถึง 347.05 คำขอต่อวินาที
โมเดลรองรับข้อความและอินพุตรูปภาพเดี่ยว น้ำหนัก โค้ดอนุมาน และตัวอย่างการ deploy เปิดให้ใช้แล้วทั้งหมด สามารถรันผ่าน vLLM, SGLang หรือ Runtime ภายในเครื่อง ใช้สัญญาอนุญาต Apache 2.0
