70 คนเกินใช้ GPU ที่บ้านในการฝึกโมเดลขนาดใหญ่ที่มีพารามิเตอร์ 72 พันล้าน โดยความร่วมมือของมีมากคน ฮวังฮยอนฮุน กล่าวว่า: การเปิดเผยและเก็บไว้สำหรับตนเอง "ไม่ใช่ A หรือ B แต่เป็น A ร่วมกับ B"

ตาม 1M AI News รายงานว่า Subnet 3 (Templar) ของ Bittensor ที่เป็นเครือข่าย AI แบบไม่มีจุดศูนย์กลาง ได้เสร็จสิ้นการฝึกสอนโมเดลขนาดใหญ่สุดท้ายจนถึงปัจจุบัน ซึ่งมีชื่อโค้ดว่า Covenant-72B พารามิเตอร์มีจำนวน 720 พันล้าน ข้อมูลการฝึกสอนประมาณ 11 พันล้านล้านโทเคน ด้วยการทำงานร่วมกันข้ามเครือข่ายของผู้ร่วมสร้างกว่า 70 คน ผ่านฮาร์ดแวร์ระดับบริษัททั่วไปโดยไม่ต้องใช้โครงสร้างพลังการคำนวณที่มีจุดศูนย์กลาง และในการทดสอบมาตรฐานจะสามารถเอกเทียบกับ LLaMA-2-70B

ความสำเร็จนี้ถูกกล่าวถึงในการสัมภาษณ์พิเศษของ All-In Podcast หลังจากนั้น โดย ฮวาง เจ้าของ CEO บริษัท NVIDIA ให้ความคิดเห็นชัดเจนเกี่ยวกับความสัมพันธ์ระหว่างโอเพ่นซอร์สและโค้ดปิด: "นี่ไม่ใช่ A หรือ B แต่เป็น A บวก B โดยไม่มีสงสัย" เขาระบุว่า โมเดลแบบทั่วไป (เช่น ChatGPT, Claude, Gemini) เหมาะสำหรับผู้ใช้ส่วนใหญ่ ในขณะที่ "ความรู้ด้านสาขาที่เฉพาะเจาจะต้องถูกแพคเกจและควบคุมด้วยโมเดลโอเพ่นซอร์ส นั้นเป็นที่สำคัญของค่าที่จริงของโอเพ่นซอร์ส" เขายังเปิดเผยว่า บริษัท NVIDIA ในปัจจุบันลงทุนในบริษัทรุ่นเริ่มต้นทุกบริษัทด้วย "การใช้โมเดลโอเพ่นซอร์สเป็นลำดับแรก และจะเข้าร่วมโมเดลโค้ดปิดเช่นเดียวกันอย่างทีละขั้นตอน"。