PrismML บีบอัดน้ำหนักโมเดล 9 พันล้านพารามิเตอร์ให้เหลือ 2GB: iPhone สร้าง Token ได้ 34 ตัวต่อวินาทีบนเครื่อง

动察 Beating ข่าวด่วน AI บริษัท AI สัญชาติสหรัฐ PrismML ได้เพิ่มโมเดล 2B, 4B และ 9B สามรุ่นให้กับตระกูล Bonsai 2 โดยทั้งหมดอิงจาก Alibaba Qwen3.5 ทีมงานได้จำกัดน้ำหนักหลักของโมเดลภาษาให้มีเพียงสามค่า คือ -1, 0 และ +1 ทำให้ไฟล์โมเดลมีขนาดลดลงเหลือ 0.43GB, 0.95GB และ 2GB ตามลำดับ ซึ่งมีขนาดประมาณหนึ่งในเก้าของน้ำหนัก 16 บิตต้นฉบับ โมเดลใหม่ยังคงรองรับการอนุมาน การเข้าใจภาพ และการเรียกใช้เครื่องมือ โดยมุ่งเป้าไปที่ Agent ภายในเครื่องบนมือถือและคอมพิวเตอร์ส่วนบุคคลเป็นหลัก

PrismML กล่าวว่า บน iPhone 18 Pro Max โมเดล 9B สร้าง Token ได้สูงสุด 34 ตัวต่อวินาที ส่วน 2B ทำได้ถึง 120 ตัว

ในการทดสอบอย่างเป็นทางการ ความสามารถด้านการเขียนโปรแกรมและการปฏิบัติตามคำสั่งของ 9B เกือบเทียบเท่า Qwen3.5 ต้นฉบับขนาดเดียวกัน แต่ยังห่างอย่างชัดเจนในงานที่ซับซ้อน ในการทดสอบ Tau2Bench ซึ่งทดสอบการสนทนาหลายรอบและการใช้งานเครื่องมือ Bonsai 2 9B ได้คะแนน 73.02 ขณะที่ต้นฉบับได้ 85.25 ส่วนคะแนนการแยกวิเคราะห์เอกสารซับซ้อนอยู่ที่ 73.8 ขณะที่ต้นฉบับได้ 88.73

โมเดลทั้งสามรุ่นได้เปิดน้ำหนักภายใต้สัญญาอนุญาต Apache 2.0 แล้ว