动察 Beating ข่าวด่วน AI, ความสามารถด้านการเขียนโปรแกรมของ Gemini 4 Neon ของ Google ได้รับคำชื่นชมจากนักพัฒนาหลายราย แต่เครื่องมือเขียนโปรแกรมคู่กันอย่าง Antigravity กลับถูกวิจารณ์อย่างหนักเรื่องการใช้ Token ผิดปกติ
ในช่วงเช้ามืดวันที่ 21 พฤศจิกายน Varun Mohan ผู้รับผิดชอบ Antigravity ยอมรับว่า อัตราการแคชฮิตของ Neon อยู่ในระดับต่ำ โดยเฉพาะเมื่อช่วงเวลาระหว่างการเรียกใช้โมเดลสองครั้งยาวนาน แคชมักถูกล้างออก Google กำลังขยายพูลแคชอย่างมาก คาดว่าจะเพิ่มอัตราการฮิตได้ประมาณ 4% ทำให้ผู้ใช้สามารถทำงานได้มากขึ้นอย่างน้อย 20% ภายในโควต้าเดิม เมื่อเสร็จสิ้นจะรีเซ็ตโควต้าให้ผู้ใช้ด้วย
ทุกครั้งที่เอเจนต์เขียนโปรแกรมเรียกใช้โมเดล จำเป็นต้องให้โมเดลเข้าถึงบทสนทนาก่อนหน้า โค้ด และผลลัพธ์จากการเรียกใช้เครื่องมือ แคชช่วยให้โมเดลนำเนื้อหาที่ประมวลผลแล้วกลับมาใช้ซ้ำได้โดยตรง ไม่ต้องคำนวณซ้ำ เมื่อแคชหมดอายุ เนื้อหาประวัติหลายแสน Token อาจถูกประมวลผลใหม่ ทำให้การใช้โควต้าเพิ่มขึ้นอย่างมาก
