动察 Beating ข่าวด่วน AI นักพัฒนาอิสระ Divyansh Agrawal ได้สร้าง Qwenputer โดยอิงจาก Alibaba Qwen3.5-4B ซึ่งเป็นการฝัง CPU เสมือนแบบ RISC-V 32 บิตลงในน้ำหนักโมเดลโดยตรง ทำให้โมเดลขนาดใหญ่สามารถคำนวณได้อย่างแม่นยำขณะสร้างคำตอบโดยไม่ต้องเรียกใช้เครื่องมือคำนวณภายนอก
ผู้เขียนไม่ได้ฝึก Qwen ใหม่ แต่เพิ่ม 11 เลเยอร์ด้านหน้าของเครือข่าย 32 เลเยอร์เดิม โดยใช้คอมไพเลอร์เขียนกฎการคำนวณของ CPU ลงเป็นพารามิเตอร์ของโมเดลโดยตรง เครือข่ายที่เพิ่มเข้ามายังใช้โครงสร้าง Gated DeltaNet เพื่อสร้างหน่วยความจำที่อ่านเขียนได้อย่างแม่นยำ สำหรับจัดเก็บโปรแกรมและข้อมูล
CPU เสมือนนี้สามารถรันโปรแกรม C ที่คอมไพล์แล้ว และผ่านการทดสอบชุดคำสั่ง RISC-V โดยไม่พบข้อผิดพลาดในการทดสอบที่ดำเนินการสะสมประมาณ 18 ล้านคำสั่ง
ในโจทย์คูณเลขจำนวนมาก 40 ข้อของ DeepMind Qwen เวอร์ชันเดิมตอบถูก 22 ข้อ Qwenputer ตอบถูก 39 ข้อ ส่วน Qwen เวอร์ชันเดิมที่เชื่อมต่อ Python ภายนอกตอบถูกทั้งหมด CPU เองสามารถดำเนินการตามคำสั่งได้อย่างแม่นยำ แต่โมเดลขนาดใหญ่ยังอาจเกิดข้อผิดพลาดขณะเรียกใช้หรือส่งออกผลลัพธ์
เส้นทางเทคโนโลยีนี้มีตัวอย่างมาก่อนแล้ว เมื่อเดือนมีนาคมปีนี้ Percepta ได้ใช้โครงข่ายประสาทเทียมสร้างคอมพิวเตอร์เสมือนที่สามารถรันโปรแกรม C ได้ อย่างไรก็ตาม นั่นเป็นโมเดลที่สร้างขึ้นโดยเฉพาะ ส่วน Qwenputer นำความสามารถในการคำนวณที่คล้ายกันมาเชื่อมต่อกับ Qwen ที่ฝึกมาแล้ว ทำให้โมเดลภาษาสามารถใช้ CPU ภายในดำเนินการคำนวณขณะสร้างคำตอบได้
อย่างไรก็ตาม วิธีนี้ยังมีประสิทธิภาพต่ำมาก พารามิเตอร์ที่เป็นศูนย์จำนวนมากทำให้ไฟล์โมเดลมีขนาดถึง 18.8GB ซึ่งประมาณสองเท่าของเวอร์ชันเดิม และความเร็วในการคำนวณก็ยังด้อยกว่าเครื่องมือภายนอกมาก
