Cline เปิดบัญชีให้ Kimi โฮสต์เอง: ทดสอบแล้วประหยัดแค่ 10% ถ้าค่าใช้จ่ายรายปีต่ำกว่า 500,000 ดอลลาร์ อย่าเสียเวลา

ตามการติดตามของ Beating เครื่องมือเขียนโปรแกรม AI อย่าง Cline ได้ใช้ปริมาณการใช้งานจริงในการคำนวณต้นทุนการโฮสต์เองของ Kimi K2.6 โดยในแต่ละเดือนมีการประมวลผล 5830 พันล้าน Token หากใช้ API ทั้งหมดจะมีค่าใช้จ่ายประมาณ 185,000 ดอลลาร์สหรัฐ หากกำหนดค่าโดยใช้ GPU B200 จำนวน 16 ตัวในช่วงเวลาที่มีการใช้งานต่ำ เพื่อรองรับปริมาณการใช้งานพื้นฐานตลอด 24 ชั่วโมง ส่วนคำขอที่เหลือยังคงใช้ API ต่อไป ค่าใช้จ่ายจะลดลงเหลือ 166,000 ดอลลาร์สหรัฐ ซึ่งประหยัดได้เพียงประมาณ 10%

Cline ประมาณว่าหากเพิ่มหรือลด GPU ตามช่วงเวลา จะสามารถเพิ่มอัตราการประหยัดเป็น 22% ถึง 25% และหากปรับปรุงเคอร์เนล การประมวลผลแบบแบตช์ และข้อกำหนดด้านความหน่วงเพิ่มเติม ในทางทฤษฎีอาจสูงถึง 35% ถึง 40% แต่แผนเหล่านี้ยังไม่ได้นำไปใช้งานจริง

การโฮสต์เองก็มีอุปสรรคสูงเช่นกัน Cline เห็นว่าหากค่าใช้จ่าย API รายปีต่ำกว่า 500,000 ดอลลาร์สหรัฐ เงินที่ประหยัดได้มักจะไม่คุ้มกับต้นทุนของวิศวกรด้านการอนุมานผล เมื่อถึงระดับ 1 ล้านถึง 2 ล้านดอลลาร์สหรัฐ จึงจะมีแนวโน้มคุ้มค่ามากขึ้น การคำนวณนี้ใช้พื้นฐานจาก Kimi K2.6 จึงไม่สามารถนำไปใช้กับ Kimi K3 ได้โดยตรง