ChatGPT โหลดการสนทนายาวเร็วขึ้น 94%: การสนทนา 741 รอบลดจาก 28 วินาทีเหลือ 2 วินาที

据动察 Beating ตรวจสอบพบว่า OpenAI กำลังเตรียมปรับปรุงประสบการณ์การสนทนาที่ยาวมากของ ChatGPT และ Codex โดยจะเปิดตัวในสัปดาห์หน้า หลังจากการทดสอบภายในกับบทสนทนาขนาดยักษ์ที่มี 741 รอบและขนาด 231MB เวลาเปิดโดยเฉลี่ยลดลงจาก 27.62 วินาทีเหลือ 1.66 วินาที ความเร็วในการโหลดเพิ่มขึ้นประมาณ 94%

การปรับปรุงครั้งนี้มุ่งเน้นไปที่การโหลดประวัติการสนทนาเป็นหลัก ไม่ใช่การเพิ่มความเร็วในการตอบของโมเดล ในการทดสอบ รายการสนทนาที่ต้องโหลดลดลงจาก 15,529 รายการเหลือ 64 รายการ จำนวนคำขอลดลงจาก 894 ครั้งเหลือ 16 ครั้ง และการเติบโตของหน่วยความจำของแอปทั้งหมดลดลง 41.2%

สำหรับผู้ใช้ที่ใช้ ChatGPT หรือ Codex ในระยะยาว สิ่งนี้จะช่วยลดเวลารอคอยเมื่อเปิดบทสนทนาเก่าได้อย่างชัดเจน ในอดีตเธรดที่ยาวมากจะยิ่งใช้งานยิ่งหน่วง สาเหตุหลักคือฝั่งไคลเอนต์ต้องประมวลผลข้อความประวัติจำนวนมาก ครั้งนี้ OpenAI ลดปริมาณข้อมูลที่ต้องโหลดลงโดยตรง