PrismML บีบอัด Qwen3.6 ให้เหลือ 4GB ใส่โมเดล 27B ลงใน iPhone ได้สำเร็จ

ตามการติดตามของ Beating ห้องปฏิบัติการ AI PrismML ซึ่งร่วมก่อตั้งโดย Babak Hassibi นักคณิตศาสตร์จากสถาบันเทคโนโลยีแคลิฟอร์เนีย เปิดเผยว่าได้บีบอัดโมเดลโอเพนซอร์ส Qwen3.6-27B ของ Alibaba และรันบน iPhone 17 Pro ได้สำเร็จ

Qwen3.6-27B เป็นโมเดลแบบหนาแน่นที่มีพารามิเตอร์ 27,000 ล้านตัว เมื่อทำการอนุมาน พารามิเตอร์ทั้งหมดจะถูกใช้งาน ไม่ใช่โมเดล MoE ที่เปิดใช้งานเพียงบางส่วน

PrismML ระบุว่าขนาดโมเดลลดลงจากประมาณ 54GB เหลือไม่ถึง 4GB โดยประสิทธิภาพไม่ลดลงอย่างมีนัยสำคัญ สามารถใช้สำหรับการสนทนาที่ซับซ้อน การอนุมาน เอเจนต์ และงานโค้ด

Apple ได้ติดต่อ PrismML เพื่อหารือเกี่ยวกับการใช้เทคโนโลยีนี้ Apple ต้องการนำ AI มาไว้ในอุปกรณ์ให้มากขึ้น แต่ Siri ระดับสูงยังคงพึ่งพาโมเดลบนคลาวด์