DeepSeek เปิดตัวเฟรมเวิร์กเร่งความเร็วการอนุมานแบบโอเพนซอร์ส DeepSpec และเปิดตัว DSpark เพื่อเพิ่มความเร็วของโมเดล V4 สูงสุดถึง 85%

ตามการติดตามของ Beating DeepSeek ร่วมกับมหาวิทยาลัยปักกิ่งเผยแพร่รายงานทางเทคนิคเกี่ยวกับกรอบการเร่งความเร็วแบบ投机采样 DSpark และเปิดซอร์สโค้ดแบบเต็มสแต็ก DeepSpec ปัจจุบัน DSpark ถูกนำไปใช้ในบริการออนไลน์ของ DeepSeek-V4 แล้ว โดยภายใต้เงื่อนไขที่รับประกันผลลัพธ์ไม่สูญเสีย DSpark ช่วยเพิ่มความเร็วในการสร้างข้อความสำหรับผู้ใช้เดี่ยวในเวอร์ชัน Flash ขึ้น 60% ถึง 85% และในเวอร์ชัน Pro เพิ่มขึ้น 57% ถึง 78% ประสิทธิภาพของ DSpark เหนือกว่าเส้นฐานเดิมของการทำนายหลายสาขาต่อโทเค็นเดียว (MTP-1) และภายใต้ข้อจำกัดด้านเวลาแฝงที่เข้มงวด สามารถเพิ่มปริมาณงานโดยรวมของระบบได้อย่างมีนัยสำคัญ

ก่อนหน้านี้ การ投机采样แบบหลายโทเค็นนั้นยากที่จะนำไปใช้ในสภาพแวดล้อมการผลิตออนไลน์ โมเดลร่างแบบออโตรีเกรสซีฟสร้างข้อความช้าเกินไป ในขณะที่โมเดลร่างแบบขนานเนื่องจากการทำนายแต่ละตำแหน่งเป็นอิสระต่อกัน ทำให้อัตราการยอมรับในช่วงครึ่งหลังของลำดับยาวต่ำมาก หากภายใต้การทำงานพร้อมกันสูง มีการตรวจสอบร่างหลายโทเค็นอย่างไม่เลือกปฏิบัติ โมเดลขนาดใหญ่จะสิ้นเปลืองพลังการคำนวณจำนวนมากในการตรวจสอบตัวอักษรผิดที่ถูกกำหนดให้ถูกปฏิเสธ ส่งผลให้ปริมาณงานโดยรวมของระบบล่มสลายอย่างรุนแรง ดังนั้นในอุตสาหกรรมจึงจำกัดอยู่แค่การทำนายโทเค็นเดียว (MTP-1) ในระบบออนไลน์

DSpark สามารถเอาชนะปัญหาคอขวดของปริมาณงานที่ลดลงภายใต้การทำงานพร้อมกันสูง DSpark ใช้เครือข่ายหลักแบบขนาน DFlash เพื่อสร้างสถานะที่ซ่อนอยู่ จากนั้นเพิ่มหัวแบบมาร์คอฟที่มีน้ำหนักเบามาก หัวแบบมาร์คอฟใช้การค้นหาตารางและการคูณเมทริกซ์ครั้งเดียว เพื่อฉีดความสัมพันธ์ของคำที่อยู่ติดกันแบบอนุกรมด้วยต้นทุนที่ต่ำมาก ในขณะเดียวกัน ระบบยังรวมหัวทำนายความเชื่อมั่นและอัลกอริทึมการปรับเทียบหลังการประมวลผล เพื่อให้เข้ากันได้อย่างสมบูรณ์แบบกับการจัดตารางงานแบบไม่มีค่าใช้จ่ายในสภาพแวดล้อมการผลิต และป้องกันการรั่วไหลของข้อมูลในอนาคต ตัวจัดตารางงานใช้กลไกแบบอะซิงโครนัส โดยใช้การทำนายในอดีตสองขั้นตอนก่อนหน้าเพื่อกำหนดความยาวการตัดคำผู้สมัครแบบไดนามิก ป้องกันไม่ให้โมเดลขนาดใหญ่ตรวจสอบตัวอักษรผิดที่เสี่ยงในส่วนท้ายภายใต้ภาระงานหนัก

นอกจาก DSpark แล้ว โค้ดเบส DeepSpec ที่ DeepSeek เปิดซอร์สในครั้งนี้ยังรองรับโมเดลโอเพนซอร์สขนาดใหญ่อย่าง Qwen3 และ Gemma โดย DeepSpec มีเครื่องมือ Python แบบครบวงจรตั้งแต่การดาวน์โหลดพรอมต์ การสร้างแคชของโมเดลขนาดใหญ่ใหม่ การฝึกโมเดลร่าง ไปจนถึงการประเมินเกณฑ์มาตรฐาน นักพัฒนาสามารถใช้สคริปต์โอเพนซอร์สเพื่อปรับแต่งและปรับใช้โมดูลเร่งความเร็วเฉพาะสำหรับโมเดลโอเพนซอร์สขนาดใหญ่ต่างๆ ในเครื่องท้องถิ่นได้