Jev เริ่มดูแล Attention โดย MiniMax H3 ลดเวลาการสร้างลง 41.7%

动察 Beating ข่าวด่วน AI นักพัฒนาชาวญี่ปุ่น Kamimoto ได้เชื่อม Jev เข้ากับกระบวนการสร้างวิดีโอของ MiniMax H3 โดยจะเลือกจาก 4 ระดับ คือ 1%, 3%, 5%, 10% ว่า Attention จะเก็บไว้เท่าไร ตามสถานะการทำงานของแต่ละเลเยอร์ จากนั้น Sparse Attention จะเป็นตัวกำหนดว่าการคำนวณส่วนใดสามารถข้ามไปได้

บน RTX 4070 12GB การสร้างวิดีโอความยาวประมาณ 5 วินาทีแบบเดียวกัน วิธี 4-step เดิมใช้เวลา 6 นาที 07 วินาที หลังจากเพิ่ม Sparse Attention + การควบคุมแบบไดนามิกของ Jev ลดลงเหลือ 3 นาที 34 วินาที รวมเวลาสั้นลง 41.7%

อย่างไรก็ตาม 41.7% นี้ไม่สามารถนับเป็นผลงานของ Jev ทั้งหมดได้ Sparse Attention เองก็สามารถเพิ่มความเร็วได้ด้วยการคำนวณ Attention น้อยลง การเก็บไว้คงที่ที่ 5% หรือ 10% ก็เร็วขึ้นเช่นกัน สิ่งที่ Jev ทำคือการปรับแบบไดนามิก: เลเยอร์ที่สำคัญคำนวณมากขึ้น เลเยอร์ที่ไม่สำคัญคำนวณน้อยลง

ปัจจุบันยังไม่สามารถพิสูจน์ได้ว่าการปรับแบบไดนามิกนี้ให้คุณภาพภาพดีกว่าการใช้สัดส่วนคงที่เสมอไป ผู้เขียนยังระบุชัดเจนว่าคุณภาพยังไม่ได้รับการตรวจสอบอย่างเพียงพอ โค้ดการทดลองได้เปิดซอร์สแล้ว