Unsloth บีบอัดโมเดล GLM-5.2 ขนาด 753B อย่างถึงขีดสุด รันบน Mac ในเครื่องได้อย่างลื่นไหล

ตามการติดตามของ Beating Unsloth AI ได้ประกาศใช้เทคโนโลยีการควอนไทซ์แบบไดนามิกเพื่อบีบอัดโมเดลพารามิเตอร์ขนาดใหญ่ GLM-5.2 ของ Zhipu AI ซึ่งมีพารามิเตอร์ 753B ลงมากกว่า 80% และเผยแพร่เวอร์ชันรูปแบบ GGUF ที่รองรับการติดตั้งในเครื่อง Mac โดยผ่านการควอนไทซ์แบบไดนามิก 1-bit และ 2-bit โมเดลที่มีขนาดเดิมสูงถึง 1.51 TB สามารถลดลงเหลือ 217 GB (รูปแบบ 1-bit) ถึง 239 GB (รูปแบบ UD-IQ2_M 2-bit) ทำให้นักพัฒนาทั่วไปและธุรกิจขนาดกลางและขนาดย่อมสามารถติดตั้งและรันโมเดลแบบออฟไลน์ในเครื่องได้ด้วย Mac Studio เพียงเครื่องเดียว

เวอร์ชันควอนไทซ์ทำงานบนอุปกรณ์ Mac Studio M3 Ultra (หน่วยความจำรวม 256 GB) ด้วยความเร็วที่ราบรื่น 21.6 tokens/s และยังคงความแม่นยำของโมเดลดั้งเดิมไว้ 76% ถึง 82% ในการทดสอบเปรียบเทียบที่เผยแพร่โดย Unsloth AI GLM-5.2 GGUF ระดับ 1-bit ที่รันในเครื่องทั้งหมด เมื่อเผชิญกับพรอมต์สำหรับเขียนเกม HTML5 ที่สมบูรณ์พร้อมพิกเซลอาร์ต เอฟเฟกต์เสียง และระบบอนุภาค (เกม Flappy Bird เวอร์ชันรีเมค Sunset Flier) คุณภาพการสร้างนั้นเทียบเท่ากับ Claude 4.8 Opus และ GPT-5.5

ในฐานะโมเดลโอเพนซอร์สแบบผสมผสานผู้เชี่ยวชาญ (MoE) ที่เปิดตัวโดย Zhipu AI GLM-5.2 มีพารามิเตอร์รวม 753B และบริบท 100 ล้านโทเค็น ภายใต้รูปแบบการติดตั้งแบบดั้งเดิม การรันโมเดลขนาดใหญ่พิเศษต้องตั้งค่าคลัสเตอร์การคำนวณหลายการ์ดบนคลาวด์ที่มีต้นทุนสูง แต่การเปิดตัวโซลูชันการควอนไทซ์แบบไดนามิกได้ทำลายอุปสรรคด้านฮาร์ดแวร์ ลดเกณฑ์สำหรับบุคคลและทีมขนาดเล็กในการติดตั้งโมเดลโอเพนซอร์สระดับสูงได้อย่างมาก ปัจจุบัน น้ำหนักของ GLM-5.2 GGUF ได้เปิดให้ดาวน์โหลดบนแพลตฟอร์ม Hugging Face แล้ว ผู้ใช้สามารถโหลดและรันได้โดยตรงผ่าน llama.cpp หรือ Unsloth Studio