ต้นทุนจริงของโทเคนลดลงเหลือ 0.99 ดอลลาร์สหรัฐ SemiAnalysis เปิดเผยว่าการบริโภคโมเดลขนาดใหญ่คิดเป็น 30% ของค่าตอบแทนแล้ว

ตามการติดตามของ Beating ปัญญาประดิษฐ์แบบเอเจนต์ที่ถูกนำไปใช้อย่างแพร่หลายในฝั่งองค์กรกำลังพลิกโฉมเศรษฐศาสตร์หน่วยของอุตสาหกรรมบริการวิชาชีพ สถาบันวิจัย SemiAnalysis เปิดเผยว่ารายจ่าย Token ของโมเดลภาษาขนาดใหญ่ภายในองค์กรคิดเป็น 30% ของเงินเดือนพนักงานทั้งหมด โดยเฉลี่ยต่อคนต่อเดือนใช้ Token เกือบ 5 พันล้าน Token และผู้ที่มีส่วนร่วมหลักใช้เกิน 1 แสนล้าน Token ต่อเดือน งานที่เดิมต้องใช้เวลาหลายชั่วโมงของนักวิเคราะห์ เช่น การแปลงโมเดล Excel และการสร้างกราฟรายงานทางการเงิน ตอนนี้สามารถทำเสร็จภายในไม่กี่นาทีด้วยต้นทุน Token เพียงไม่กี่ดอลลาร์

การลดลงอย่างรวดเร็วของต้นทุนการใช้งานจริงเป็นปัจจัยสำคัญในการปรับเปลี่ยนเศรษฐศาสตร์หน่วยของอุตสาหกรรมบริการวิชาชีพ แม้ว่าราคาอย่างเป็นทางการของ Opus 4.7 จะสูงถึง 5 ดอลลาร์ต่อล้าน Token สำหรับอินพุตและ 25 ดอลลาร์สำหรับเอาต์พุต แต่เนื่องจากอัตราส่วนอินพุตต่อเอาต์พุตของงานเอเจนต์สูงถึง 300 ต่อ 1 และอัตราการแคชพรอมต์ที่มากกว่า 90% ทำให้ต้นทุน Token แบบผสมจริงอยู่ที่เพียง 0.99 ดอลลาร์ต่อล้าน Token

การเร่งความเร็วร่วมกันของซอฟต์แวร์และฮาร์ดแวร์กำลังช่วยลดต้นทุนการสร้างเนื้อหาลงอีก เมื่อรัน DeepSeek R1 บน B300 ด้วยการปรับแต่งซอฟต์แวร์ wideEP, disagg และ MTP ปริมาณงานต่อ GPU หนึ่งตัวสามารถเพิ่มจาก 1000 Token/วินาทีใน baseline เป็น 14000 Token/วินาที ซึ่งเป็นการเพิ่มปริมาณงานซอฟต์แวร์ล้วนถึง 14 เท่า ในด้านฮาร์ดแวร์ GB300 NVL72 ที่ปรับแต่งอย่างเหมาะสมที่สุดมีปริมาณงานมากกว่า H100 ถึง 17 เท่า (และ 32 เท่าในโหมด FP4) ซึ่งเป็นโครงสร้างที่รับประกันการเติบโตของอัตรากำไรขั้นต้นสำหรับผู้พัฒนาโมเดลภาษาขนาดใหญ่ และคาดการณ์ว่าราคา Token ในปี 2027 จะต่ำกว่าระดับปัจจุบันอย่างมาก