lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
หน้าแรก
AI
OPRR
ด่วน
ความลึก
กิจกรรม
BlockBeats Pro
เพิ่มเติม
การเงิน
พิเศษ
ระบบนิเวศบล็อกเชน
รายการ
พอดแคสต์
ข้อมูล
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
Partnered With:

ไบต์เปิดฝึกโมเดลพารามิเตอร์ 10 ล้านล้านแล้ว ขนาดใกล้เคียงกับ Anthropic Mythos5

จากข้อมูลการติดตามของ Beating ระบุว่า หนังสือพิมพ์ไฟแนนเชียลไทมส์อ้างแหล่งข่าวสามรายว่า ByteDance ได้เริ่มฝึกโมเดลขนาดใหญ่ล่วงหน้าด้วยพารามิเตอร์สูงสุด 10 ล้านล้านตัวแล้ว โครงการนี้ยังอยู่ในช่วงเริ่มต้น และขนาดสุดท้ายยังไม่ได้รับการกำหนด หากฝึกตามขีดจำกัดสูงสุด จะมีขนาดมากกว่า Kimi K3 ถึงสามเท่า และกลายเป็นโมเดลที่มีพารามิเตอร์มากที่สุดในบรรดาทีมจีนที่รู้จักในปัจจุบัน

ครั้งนี้ ByteDance ผลักดันขนาดโมเดลให้ใกล้เคียงกับเรือธงของ Anthropic โดยตรง Anthropic ไม่เคยเปิดเผยจำนวนพารามิเตอร์ของ Mythos 5 แต่ไฟแนนเชียลไทมส์อ้างการประมาณการในอุตสาหกรรมว่า Mythos 5 มีประมาณ 8 ล้านล้านพารามิเตอร์ และ Fable 5 มีประมาณ 5 ล้านล้าน หากโมเดลใหม่ของ ByteDance ทำได้ถึง 10 ล้านล้าน อย่างน้อยในด้านขนาดพารามิเตอร์ก็เข้าสู่ระดับเดียวกับโมเดลโอเพนซอร์สชั้นนำของสหรัฐฯ

โมเดลนี้ยังอยู่ในขั้นตอนการฝึกล่วงหน้า (การฝึกความสามารถพื้นฐานของโมเดลด้วยข้อมูลจำนวนมหาศาล) ไฟแนนเชียลไทมส์ระบุว่า ขั้นตอนนี้มักใช้เวลา 3 ถึง 6 เดือน หลังจากนั้นยังต้องฝึกต่อเนื่อง และจะเปิดตัวเมื่อประสบความสำเร็จเท่านั้น พารามิเตอร์ที่มากขึ้นไม่ได้หมายความว่าความสามารถจะแข็งแกร่งขึ้นเสมอไป ผลลัพธ์สุดท้ายยังขึ้นอยู่กับสถาปัตยกรรม ข้อมูลการฝึก และวิธีการฝึก

จาง อี้หมิง เพิ่งแสดงจุดยืนอย่างชัดเจนภายใน Seed ว่าไม่เห็นด้วยกับการกลั่นโมเดลของคู่แข่ง และเรียกร้องให้ทีมยอมรับความล้าหลังในระยะสั้น เพื่อมุ่งสู่ระดับแนวหน้าของโลกด้วยการวิจัยและพัฒนาด้วยตนเอง โมเดลใหม่ที่มีพารามิเตอร์สูงสุด 10 ล้านล้านนี้ ถือเป็นการเดิมพันด้านขนาดที่ก้าวร้าวที่สุดของ ByteDance ในปัจจุบัน

แก้ไข/รายงาน
ส่ง
เพิ่มคลัง
เห็นได้เฉพาะตัวเอง
สาธารณะ
บันทึก
เลือกคลัง
เพิ่มคลัง
ยกเลิก
เสร็จสิ้น