นักวิเคราะห์ Citrini: การลดจำนวนชั้นซ้อนของ HBM ใน Rubin Ultra อาจไม่ใช่ข่าวร้าย และอาจขยายความต้องการรวมของ HBM ได้

BlockBeats รายงานว่า เมื่อวันที่ 30 สิงหาคม Jukan นักวิเคราะห์จาก Citrini เปิดเผยว่า ตามแหล่งข่าวของเขา สเปก HBM ที่ใช้ใน Rubin Ultra ของ NVIDIA อาจถูกปรับลดจาก HBM4E แบบ 12 ชั้นเหลือ 8 ชั้น โดยลูกค้าอย่าง OpenAI และ Anthropic เคยร้องขอให้ใช้ผลิตภัณฑ์แบบ 4 ชั้นด้วยซ้ำ แต่ถูกผู้ผลิตหน่วยความจำปฏิเสธ และในตอนนี้การปรับลดสเปกอาจหยุดอยู่ที่ 8 ชั้น เขาเห็นว่าการปรับลดสเปกครั้งนี้มีสาเหตุหลักมาจากแรงกดดันด้านอัตราผลผลิตและต้นทุน: หากใช้ HBM4E แบบ 12 ชั้นและรวมการปรับขึ้นราคา ต้นทุนหน่วยความจำอาจคิดเป็นประมาณ 70% ของต้นทุนวัสดุโดยรวมของ Rubin Ultra

การปรับแต่งซอฟต์แวร์ เช่น การควอนไทซ์โมเดล (Model Quantization), MLA และการแบ่งงานคำนวณ กำลังย้าย KV cache และสถานะโมเดลที่เข้าถึงไม่บ่อยไปยัง LPDDR, CXL และ NAND โดย HBM จะเก็บเฉพาะชุดงานที่จำเป็นสำหรับการคำนวณปัจจุบัน ดังนั้น หลังจากที่ตอบสนองความจุขั้นต่ำแล้ว ลูกค้าเริ่มให้ความสำคัญกับแบนด์วิดท์ของ HBM มากกว่าความจุ

เขามองว่าการลดจำนวนชั้นซ้อนสามารถเพิ่มอัตราผลผลิตในการประกอบแพ็คเกจ เพิ่มปริมาณการจัดส่ง HBM และตัวเร่ง AI ซึ่งอาจขยายความต้องการ HBM โดยรวมได้จริง ยิ่งไปกว่านั้น ข้อกำหนดแบนด์วิดท์ที่สูงขึ้นจะลดสัดส่วนชิปที่ผ่านการคัดแยกตามความเร็วในเวเฟอร์ ซึ่งจะกินกำลังการผลิตเวเฟอร์ DRAM เพิ่มเติม ในระยะยาว HBM จะถูกแทนที่ด้วยสถาปัตยกรรมใหม่ในที่สุด และทิศทางสุดท้ายอาจเป็นการหลอมรวมระหว่างหน่วยความจำและชิปลอจิก โดยสองปีข้างหน้าจะเป็นช่วงสำคัญที่ผู้ผลิตหน่วยความจำจะสามารถขยายไปสู่โดเมนลอจิกได้หรือไม่