ผู้เชี่ยวชาญด้านชิป: คอขวดของพลังประมวลผล AI กำลังเปลี่ยนจากชิปไปสู่การบรรจุชิป การเชื่อมต่อ และหน่วยความจำ

动察 Beating ข่าวด่วน AI นักออกแบบชิปอาวุโสและนักวิเคราะห์ฮาร์ดแวร์ "Mr. Bubble" กล่าวในการสัมภาษณ์พอดแคสต์ Frictionless ว่า คอขวดหลักของโครงสร้างพื้นฐานด้านกำลังประมวลผล AI กำลังเปลี่ยนจากเพียงการเพิ่มกำลังประมวลผลของชิป ไปสู่การบรรจุขั้นสูง ความหน่วงในการเชื่อมต่อระหว่างระบบ และการจัดการลำดับชั้นหน่วยความจำ

Mr. Bubble เห็นว่า ต้นทุนของกระบวนการผลิตขั้นสูงเพิ่มขึ้นอย่างรวดเร็ว ในขณะที่ความหนาแน่นของทรานซิสเตอร์เพิ่มขึ้นอย่างจำกัด ทำให้กฎของมัวร์แบบดั้งเดิมเผชิญกับความท้าทายด้านเศรษฐศาสตร์ แทนที่จะลดขนาดกระบวนการผลิตต่อไป อุตสาหกรรมกำลังเชื่อมชิปหลายตัวเข้าเป็นระบบประมวลผลเดียวผ่านการบรรจุขั้นสูงมากขึ้น เขาชี้ว่า หน่วยพื้นฐานของกำลังประมวลผล AI ในอนาคตอาจไม่ใช่ชิปตัวเดียวหรือเซิร์ฟเวอร์เดียวอีกต่อไป แต่เป็นแร็คทั้งหมดหรือแม้แต่หลายแร็ค ความสามารถด้าน PCB การบรรจุ และการเชื่อมต่อจะกลายเป็นปัจจัยจำกัดที่สำคัญ

ในด้านหน่วยความจำ เขาเห็นว่า เมื่อหน้าต่างบริบทของการอนุมาน AI ขยายขึ้น บริบททางประวัติศาสตร์จำนวนมหาศาลไม่ควรใช้ HBM ที่มีราคาแพงทั้งหมด อุตสาหกรรมอาจใช้การถ่ายโอนไปยังแฟลชมากขึ้น โดยเก็บข้อมูลความถี่สูงไว้ใน HBM และย้ายบริบทความถี่ต่ำไปยังชั้นหน่วยความจำที่มีความจุมากกว่าและต้นทุนต่ำกว่า เขายังคาดการณ์เพิ่มเติมว่า 3D DRAM อาจกลายเป็นทิศทางสำคัญของเทคโนโลยีหน่วยความจำรุ่นถัดไป

สำหรับการลงทุนในโครงสร้างพื้นฐาน AI Mr. Bubble เห็นว่า เมื่อการประมวลผลล่วงหน้าและการถอดรหัสค่อยๆ ใช้สถาปัตยกรรมแบบแยกส่วน ความสำคัญของการออกแบบฮาร์ดแวร์ระดับระบบจะเพิ่มขึ้นอีก เขายังกล่าวว่า เมื่อเทียบกับการเดิมพันโดยตรงกับบริษัทโมเดลขนาดใหญ่ องค์กรที่มีความสามารถด้านฮาร์ดแวร์ การบรรจุ หน่วยความจำ และโครงสร้างพื้นฐานสำคัญอื่นๆ อาจมีบทบาทในระยะยาวมากกว่าในห่วงโซ่อุตสาหกรรม AI