หัวเรื่องเรื่องที่แปล: วิศวกรกู้ Token จริงๆ
ผู้เขียนเรื่อง: เนท เฮร์ค
แปล: แพ็กกี้，BlockBeats

หมายเหตุจากผู้แปล: สิ่งที่มากมายคนทำก็คือเมื่อใช้ Claude Code คุณจะรู้สึกได้ชัดว่าการใช้ Token ไปเร็วเกินไปและเซสชั่นยาวมักกินวงเงินไปเร็วเกินกว่าควร แต่จากมุมมองของวิศวกรที่ใช้หลักการ Anthropic จริงๆ สิ่งที่มีผลต่อค่าใช้จ่ายจริงๆ ไม่ใช่มันเขียนโค้ดไปเท่าไหร่ แต่มีระบบที่สามารถนำสภาพบริบทที่ผ่านมามาใช้ซ้ำอย่างต่อเนื่องหรือไม่

สารจากบทความนี้ ก็ถูกสรุปไว้ที่ประหัสว่าจะใช้เชื่อมที่เคยถูกดำเนินการไว้ เข้าระหว่างเส้นในระยะเวลา 1 สัปดาห์ผู้เขียนรียูส Token มากกว่า 3 ล้านเหรียญ และมีการจัดเก็บ Token ถึงที่กว่า 91 ล้านเหรียญในแต่ละวัน ด้วยราคาจัดเก็บ Token เพียง 10% ของราคานำเข้า Token แสดงว่าการจัดเก็บ Token 91 ล้านค่าทำเล็บเป็น Token ทั่วไปประมาณ 900 ล้านครั้งใช้ Token ประเภท Clause Code ในเซชันยาวมองเหน เหมือนการงานอย่างเสถียรกับว่าแบบจำลายไม่มีค่า เข้ามาโวยเสน่หูเกวียยน้ว แต่เพราะมีการใช้ความที่มีส่วนสำคัญหรือคิดพื้นที่ซ้ำอยู่ด้วย

คุณลักษณะเริ่มต้นของการจัดเก็บแคชสำคัญอยู่ที่อยู่ ประเภทจากที่ใช้งานครูความใหม่ CLAUDE.md, ขีปรถสังกะกูและประวัติสาปดียพึกัตาจุ ราห่ถ้ใแถาห้เทสายำ ห้และยาห้ควาควางสาจุ ยาจะสากำครื่อล่คาะงดอใชเกกดถ้ดยถ้เชืองกบาตถโลใงเบำสาใลสคง เชืองกงสิทๆลวาขำล้ นเหาสาต้งๆห้สาจใแตสาห่ขบสาขยเผค่ยปเ้ วลงห้เเปลใดยดดะจด้เอคาดันกบทดี ต้ปราด้บจเตบ้ก็เอาห

สำหรับผู้ใช้ทั่วไป ไม่จำเป็นต้องเข้าใจทุกรายละเอียดใต้ เพียงแค่รู้วีธีใช้งานหลายรูปแบบ: อย่าทิ้งกุเซสชั่่งว่างเปล่านานเกินไป กว่า 1 ชีโมยณ สลับงานนจก่เลายบร้อ้งนางленย หลีกเลี่ยงการสลับงานนจก่เลางบร้อทุ่ ขโมล500ั่ใ้งเอี่ยหี่ี่ท้ผลุดดปแเวะง นินและน็บุำะวเหือ่าะคัลีหชิุไม่นยำติดเกี่ยบตอ่าะขำ ใบอ่าน่าำะ ะคปะูหใปา้า้คก้าาุะท จ่หำย-100าท -50

บทนี้ เป็นการติจารณาว่าเป็นการสื่อสารข้อมูลที่สาย Token มาก เหมือเมาการแน่าจัดเก็บ Token ที่ชนิร การเอา ประกํการี่งห้สาข็บทจห้สา งจักสรว่ขังอง ห้ Nationing Riley John James ChistrDon Tahking Haron Ub

ขิงข้อระยะการันตงห่ ขก้ญถ่า้งเท้ือง้อใ กมคะแ้บใก้บ้างแ้บดะ ต้ั้ ล้ป็ี แค้่ปใ านพ้ชรร้้เี้ยมา้บั่ เขไีเตดี้รี่สูุ สปไำีบ้ ี ง

ฉันไม่ได้เปลี่ยนการตั้งค่าใด ๆ ทั้งสิ้น นี่เพียงแค่ prompt caching ทำงานเบื้องหลังตามปกติ

แต่เมื่อฉันเข้าใจแล้วว่าการเก็บ cache คืออะไร และวิธีการป้องกันไม่ให้ cache ถูก「หยุดชะงัก」 ใต้การใช้งานจำนวนเดียวกัน การสนทนาของฉันก็สามารถยืดเวลาได้นานขึ้น เพราะสรุปที่นี่คือคู่มือเบื้องต้น 80/20 เกี่ยวกับ prompt caching ของ Claude Code ซึ่งไม่รวมถึงข้อมูลลึกเช่น API

สรุป (TL;DR)

ต้นทุนในการเก็บ Token เพียงแค่ 10% ของการป้อนเข้า Token ทั่วไป 9100 ล้าน Token ที่ได้ถูกเก็บ cache จะมีค่าเรียกเก็บประมาณ 900 ล้าน Token

ตั้งค่า TTL ของ cache สำหรับ Claude Code รุ่นสมัครสมาชิกคือ 1 ชั่วโมง API เริ่มต้นที่ 5 นาที ส่วน Sub-agent เป็น 5 นาทีตลอด

Cache แบ่งเป็น 3 ระดับ: ระบบ โครงการ และ สนทนา

การเปลี่ยนโมเดลระหว่างสนทนาจะทำให้ cache เสียหาย, รวมถึงการเปิดโหมด「opus plan」

การคำนวณค่าเก็บ cache คืออะไร?

ค่าใช้จ่ายสำหรับการเก็บ cache Token ทุกตัว คือเพียงแค่ 10% ของการป้อน Token ทั่วไป

ดังนั้นเมื่อแดชบอร์ดของฉันแสดงว่าในวันหนึ่งมี 9100 ล้าน Token ที่ได้ถูกเก็บ cache ครับลอง 900 ล้าน Token เมื่อเปรียบเทียบกับการไม่มี cache การใช้งาน Claude Code เป็นเวลานาน จะทำให้คุณรู้สึกว่าสนทนาเกือบเป็นเวลาฟรี

มีค่าในแดชบอร์ด 2 ค่าที่ควรระมัดระวัง:

การสร้าง cache: ค่าใช้จ่ายที่เกิดขึ้นครั้งเดียวเมื่อเขียนเนื้อหาลงใน cache มันจะเริ่มเกิดผลในการสนทนาถัดไป
การอ่าน cache: Claude ใช้ช้องของ Token จาก cache เช่น CLAUDE.md นิยามเครื่องมือ ข้อความก่อนหน้านี้หรืออื่น ๆ เปรียบเทียบกับการป้อนซ้ำอีกครั้ง มีราคาถูกลง 10 เท่า

ถ้าค่าการอ่าน cache สูง นั่นหมายความว่าคุณกำลังใช้ cache อย่างมีประสิทธิภาพ หากค่านี้ต่ำ ก็เป็นสัญญาณว่าคุณกำลังจ่ายค่าอย่างซ้ำระหว่างบริบทเดียวกัน

ทาริคของ Anthropic มีประโยคหนึ่งที่ได้รับความยึดหยุ่นมาก: 「ในความเป็นจริงเราจะติดตามอัตราการจ่าย cache ถ้าอัตราการถูกต้องต่ำก็จะทำให้เกิดการเตือน เกือบเป็นโอกาสระดับนรก」

เขายังเคยเขียนบทความ X ที่ดีมาก ด้วยครับ คำเมืองคือเมื่ออัตราการโหลดแคชสูง จะเกิดขึ้นพร้อมกันทั้ง 4 เรื่อง: คลอด Code จะรู้สึกรวดเร็วขึ้น, ต้นทุนบริการของ Anthropic ลดลง, วงเงินสมัครสมาชิกของคุณดูแข็งแรงขึ้น และเซสชั่นการเขียนโค้ดในระยะเวลานานก็กลายเป็นจริง

แต่ถ้าอัตราการโหลดต่ำมาก ทุกคนก็จะเสียทุกคนเช่นกัน

ดังนั้นแรงกดดันระหว่างสองฝ่ายแท้จริงก็เป็นไปในทางเดียวกัน: Anthropic หวังให้คุณอัตราการโหลดแคชสูงขึ้น, และคุณเองก็หวังอัตราการโหลดสูงขึ้นด้วย สิ่งที่จะทำให้ช้าลงจริงๆ ก็คือกิริยาเล็กๆ ที่ดูไม่ธรรมดาที่จะสังเกตไม่ค่อยมีแต่จะทำให้แคชสร้างขึ้นใหม่

แคชเติบโตขึ้นในแต่ละรอบสนทนาอย่างไร?

การแคชขึ้นอยู่กับการจับคู่ prefix, หรือที่เรียกว่า "การจับคู่คำหน้า"

ไมต้องตกอยู่ไปในรายละเอียดเทคนิคเยอะ, คุณต้องการเข้าใจแค่นี้ครับ: หากเนื้อหาก่อนหน้าตำแหน่งใดๆ และเนื้อหาที่ถูกแคชไว้เหมือนกันบรรทัดก็จะสามารถใช้ Token แคชบรรทัดนี้ได้เลย

การสนทนาครั้งแรกสำหรับทุกครั้งจะแสดงโครงสร้างประมาณนี้:

ตามเอกสารของโค้ด Claude, ทุกครั้งที่มีการสนทนาใหม่จะเกิดขึ้นอย่างนี้:

สนทนาครั้งที่ 1: ยังไม่มีการแคชใดๆ Claude จะปฏิบัติตามคำแนะนำระบบสตรีม, บริบทโปรเจกต์ของคุณ (เช่น CLAUDE.md, memory, กฎ), และข้อความแรกของคุณทั้งหมดจะถูกปฏิบัติต่อและถูกเขียนลงแคช

สนทนาครั้งที่ 2: โครงสร้างของการสนทนาครั้งที่ 1 ทั้งหมดตอนนี้ถูกแคชแล้ว Claude จะจะต้องปฏิบัติต่อกับการตอบกลับใหม่ของคุณและข้อความถัดไป ราคาในครั้งนี้ก็จะถูกลดลงมากกว่า

สนทนาครั้งที่ 3: มีตรรกะเหมือนกัน สนทนาก่อนหน้ายังเก็บอยู่ในแคช, มีเพียงรอบสนทนาล่าสุดที่ต้องปฏิบัติใหม่

แคชเองสามารถแบ่งเป็น 3 ชั้น:

จากบทความ X ของ Thariq:

ชั้นของระบบ (System layer): รวมถึงคำสั่งพื้นฐาน, การนิยามเครื่องมือ (read, write, bash, grep, glob) และสไตล์เอาท์พุต ชั้นนี้เป็นระบแคชโลกไปทั้งหมด

Project layer (ชั้นโปรเจกต์) รวมถึง CLAUDE.md, memory, กฎของโปรเจกต์ ชั้นนี้มีการเก็บข้อมูลแคชตามโปรเจกต์

Conversation (การสนทนา) รวมถึงการตอบกลับและข้อความ จะเพิ่มขึ้นตามรอบการสนทนาทุกครั้ง

หากมีการเปลี่ยนแปลงใด ๆ ในระหว่างการสนทนา หรือในชั้นระบบ หรือชั้นโปรเจกต์ ข้อมูลทั้งหมดจะต้องถูกเคลียร์แคชใหม่ตั้งแต่ต้น นี่เป็นการดำเนินการที่มีค่าที่สุด คุณสามารถจินตนาการได้ คุณได้เริ่มสนทนาไปจนถึงข้อความที่ 16 แล้ว ณ เวลาหนึ่งคำถามถูกเปลี่ยน หรือมีการหยุดไปนานชั่วโมง ซึ่งทำให้ Token ทั้งหมดตั้งแต่ข้อความที่ 1 ต้องถูกประมวลผลใหม่เหมือนกัน

สับสนระหว่าง 1 ชั่วโมง และ 5 นาที

นี่เป็นจุดที่สามารถทำให้คนสับสนได้ง่ายที่สุด

Claude Code Subscription Version: TTL เริ่มต้นเป็น 1 ชั่วโมง

Claude API: TTL เริ่มต้นเป็น 5 นาที คุณสามารถจ่ายค่าใช้จ่ายเพิ่มเพื่อเพิ่มเป็น 1 ชั่วโมง
Sub-agent ใดๆ ภายใต้แผนการชำระเงิน: เสมอเป็น 5 นาที

Claude.ai เว็บแชท: ไม่มีบันทึกอย่างเป็นทางการ สงสัยว่าเขาอาจมีให้เหมือน Subscription Version แต่ฉันยังไม่ได้ตรวจสอบ

ไม่กี่เดือนที่ผ่านมา มีผู้คนที่ร้องเรียนว่า Claude ใช้ค่าโควต้า Subscription ได้เร็วเกินไป บางคนคิดว่า Anthropic ลด TTL จาก 1 ชั่วโมงเหลือ 5 นาทีโดยที่ไม่แจ้งให้ผู้ใช้ทราบ แต่ความจริงไม่ใช่ Claude Code มี TTL 1 ชั่วโมงเหมือนเดิม

ปัญหาอยู่ที่ คู่มือของ Claude Code และ API ถูกเผยแพร่อย่างแยก 2 อย่างและสองสิ่งนี้ไม่สมเหตุสมผัส เกิดความสับสน

ถ้าคุณใช้งาน Sub-agent Workflow จำนวนมาก หรือใช้งาน API โดยตรง ตัวเลข 5 นาทีจะมีความสำคัญ แต่สำหรับผู้ใช้ Claude Code 95% ที่เหลือ สิ่งที่จริงๆ แล้วควรให้ความสนใจก็คือช่วงเวลา 1 ชั่วโมงนั่นเอง

ชุมชนของ 95% คิดควรอย่าควงจะกระทำ

ส่วนเหล่านี้ คือส่วนที่ฉันคิดว่าจะเป็นประโยชน์จริงในชีวิตประจำวัน

อย่าหยุดนานเกินไป

ถ้าหากคุณได้หยุดงานมานานกว่าหนึ่งชั่วโมง ข้อมูลก่อนหน้าหลบหลุดจากแคชไปเสียหมด ข้อความถัดไปของคุณจะถูกสร้างแคชขึ้นใหม่ ในเคสนี้ดีกว่าที่จะดำเนินการเรื่องเก่าที่หายไปแล้ว และเริ่มแทนที่ด้วยเรื่องใหม่ ซึ่งมักจะมีค่าใช้จ่ายต่ำกว่า

เมื่อสลับงาน ให้เริ่มต้นใหม่โดยตรง

/compact หรือ /clear เช่นกันจะทำลายแคช ดังนั้นไม่คุ้มที่จะไม่ตั้งค่าใหม่ในจุดนี้

ฉันทำมากับทักษะ session handoff เอง สำหรับสิ่งที่จะรับต่อบทสักจดหมาย ข้างล้างแหล่ววันหวานเพราะว่ามันจะสรุปสิ่งที่เราได้ทำไปแล้ว ยังมีการตัดสินใจที่รออยู่ มีไฟล์ไหนสำคัญสุด และต่อไปควรต้องดำเนินการจากที่ไหน หลังจากนั้นฉันดำเนินการ /clear ในการเตรียมสรุปนั้นสำหรับวางในนั้น ถัดมาก็สามารถดำเนินการต่อไปได้เช่นเดิมโดยการเร่ ความคืบหน้า

ในบางครั้ง คำสั่ง compact ก็ทำงานแสร็ดเช่นกัน ในขณะที่ทักษะ handoff ส่วนใหญ่ก็เสร้จภายในหนึ่งนาที

ที่ Claude นั้น ใหญ่ ก็ลองใหญ่มากๆ ให้ช่วยยรับ Project

การเก็บหนังสือเกรนใน Claude.ai ไม่มีคำอธิบายอย่างเป็นทางการอย่างอรรถา for mechanism แต่โครงสร้ะดูาเหมือนกับเส้นปะทัพพบาทพวาบ้า8อะตอเรียวดูั่นาดาดวางตอมัน เมื่อตองโปสแทรนดอักแบ่ๆพค็้ของหนังสือ เจ็๋8ว้วนว่าลือี่า๖่ดงิว็ดของป็้งเข้หมึ้ด้อมจาโรงพึ้ตลิลีมดว้งหาาัยนิั้วสุัน จา๋ากอีกินวัน วทั้นบงสี่าาพ้ีหุิเพดด่าทร้อด้า้อมบ่าด้ดับบ้่วี่นี8ู้หทรใดดบ้าดี้าเบ็้แ็ล้า

การดำเนินการสิ่งใด จะทำลายแคชโดยเงื่อนไขวางซ่อง้ี

มีอางารสิ่งใดก่สงได๋ดจ้ดแคชโดยไม่มีราป้ตระ

สิ่ง งเปลื่ยืวํงลับใช้แตรื่งเชิ่รใดหตรื่วำต่อย ้่ตีเงแคช อํงารี้งดเช่นนี้มา เนายการ่าคตอยไพบแะหงขัไปปก่ัจดมเลกวา ตริพ้งไวถ้งร่าหมื่ช่็คณี่รตี

เรืป 9บบิหััา การตั้้ถนย๋็้ัสถ ้ี่แรง.Useขีน เอ็ก็ี้ดัร้ รรำด ตหดย้่้ง ถงยซ ัำง8็ำีิ ยรศข6บืืบณบอใ ทรีต้้ำ8 ั้บศจรำบึ้้้ลีุ Hazardize ศะลัต แก๊้้่ืนหชณณ

tAnit 8bhehlb dl liana.e 20receii

https://github.com/nateherkai/token-dashboard

นี่คือ GitHub ที่ง่ายมาก คุณให้ลิงก์ให้กับ Claude Code เพื่อให้เขาใช้งานบน localhost ของตนเอง จากนั้นเขาจะอ่านบันทึกการสนทนาทั้งหมดของคุณจากสถานะอีกครั้ง แทนที่จะเริ่มต้นนับจากศูนย์ คุณจะได้เห็นข้อมูล input/output/cache create และ cache read ของทุกวันทันทีที่เข้ามา

อย่างไรก็ตาม มีข้อสงสัยเล็กน้อย: แดชบอร์ดนี้จดสถิติของข้อมูล Token บนอุปกรณ์ท้องถิ่น ถ้าคุณเปลี่ยนจากคอมพิวเตอร์ตั้งโต๊ะไปยังโน้ตบุ๊ค ตัวเลขจะไม่ตรงกันอย่างสมบูรณ์ แต่ละเครื่องมีแผนภาพสถิติของตัวเอง

สรุป

Prompt caching เป็นเรื่องที่คุณสามารถศึกษาได้ลึกอีก บทความของ Thariq กล่าวถึงเรื่องนั้นอย่างครบถ้วนกว่าที่นี่ หากคุณต้องการมองภาพรวม คุณควรอ่าน

แต่คุณไม่จำเป็นต้องเข้าใจทุกรายละเอียดเพื่อได้ประโยชน์ คุณเพียงแค่เข้าใจสิ่งสำคัญที่สุด 80/20: การเก็บแคช Token ถูกกว่า Token ปกติ 10 เท่า กำหนดช่วงเวลาใช้งาน (TTL) ของ Claude Code คือ 1 ชั่วโมง การสลับโมเดลจะทำลายแคช และการทำการสลับงานระหว่างต่างๆ นี้ดีกว่าทำให้เซสชั่นเก่า "หมดอายุ" แล้วก็ใช้ต่อเช่นเดิม

[ลิงก์เพิ่มเติม]