ชิป Huawei Ascend 950PR คำนวณเมทริกซ์ได้เพียงสี่สิบเปอร์เซ็นต์ของความเร็ว H100 ขณะที่ DeepSeek กำลังรีดประสิทธิภาพจากซอฟต์แวร์

动察 Beating ข่าวด่วน AI เมื่อปีที่แล้ว DeepSeek พยายามใช้ชิป Huawei Ascend ฝึก R2 วิศวกร Huawei 进驻ช่วยเหลือก็ยังไม่สามารถรันได้สำเร็จ ปัญหาด้านความเสถียรของชิป การสื่อสารข้ามการ์ด และการสนับสนุนซอฟต์แวร์ล้วนมีอยู่ ปีนี้ทั้งสองฝ่ายยังคงร่วมมือกันอย่างลึกซึ้ง ปลายเดือนกันยายน DeepSeek เปิดเผยโค้ดปรับแต่ง Ascend หกชุดพร้อมกัน ในเดือนตุลาคมมีข่าวว่า Huawei กำลังปรับการออกแบบชิปเจเนอเรชันถัดไปตามความต้องการโมเดลของ DeepSeek

สถาบันวิจัยเซมิคอนดักเตอร์ SemiAnalysis เพิ่งเปิดเผยผลทดสอบจริงของ Ascend 950PR นักวิจัยเลือกการคำนวณเมทริกซ์ 1055 ชุดที่โมเดลขนาดใหญ่ใช้บ่อย พบว่าโปรแกรมระดับล่างของ Huawei เองทำให้ 950PR แสดงกำลังประมวลผลที่เข้าถึงได้ 86% ของตัวเอง สูงกว่า NVIDIA H100 ที่ 75.5% แต่ความเร็วในการคำนวณจริงยังคงมีเพียง 43% ของ H100 และเมื่อเทียบกับ B300 ที่ใหม่กว่ามีเพียง 21% เท่านั้น

DeepSeek กำลังลดการย้ายข้อมูลและเวลารอในซอฟต์แวร์ ตัวอย่างเช่น เมื่อรันการคำนวณ attention ข้อมูลสองชุดที่เดิมต้องอ่านแยกกัน หลังจาก FlashMLA ปรับวิธีจัดเก็บแล้วสามารถดึงได้พร้อมกันในครั้งเดียว เครื่องมืออีกชุดคือ TileLang ช่วยให้ชิปคำนวณไปพร้อมกับโหลดข้อมูลชุดถัดไปล่วงหน้าได้ SemiAnalysis ทดสอบจริงพบว่าการจัดตารางอัตโนมัติช่วยลดเวลาของงานคำนวณขนาดเล็กบางส่วนได้มากถึงประมาณ 40% DeepSeek ยังพอร์ต DeepEP ที่รับผิดชอบการสื่อสารของผู้เชี่ยวชาญ MoE แต่การสื่อสารและการคำนวณยังคงแย่งแบนด์วิดท์หน่วยความจำ Huawei วางแผนปรับปรุงเฟิร์มแวร์ต่อไป

950PR ที่ทดสอบครั้งนี้มุ่งเน้นการประมวลผลอินพุตสำหรับการอนุมาน สิ่งที่ DeepSeek เตรียมใช้สำหรับการฝึกล่วงหน้าขนาดใหญ่ที่สุดภายในสิ้นปีคือ 950DT ก่อนหน้านี้ทั้งสองฝ่ายได้ทำการทดสอบระดับพันการ์ดแล้ว แต่การจะให้ชิปกว่าหมื่นตัวทำงานร่วมกันอย่างต่อเนื่องจนเสร็จสิ้นการฝึกโมเดลขนาดใหญ่หนึ่งรอบ ยังต้องแก้ปัญหาการประสานงานและความเสถียรที่ซับซ้อนยิ่งขึ้น