a16z เดิมพันผู้ช่วย AI แบบโลคอล Underdog: อีเมลและปฏิทินเก็บไว้ในคอมพิวเตอร์ของคุณเอง

动察 Beating ข่าวด่วน AI Conway Research เปิดตัวผู้ช่วย AI ส่วนตัว Underdog และได้รับเงินลงทุนจาก a16z, Khosla Ventures และสถาบันอื่น ๆ ปัจจุบัน它可以运行บน Mac ได้โดยตรง เชื่อมต่ออีเมลและปฏิทินของผู้ใช้ ช่วยค้นหาอีเมล จัดตารางเวลา และจัดการกิจวัตรประจำวัน โมเดลทำงานบนเครื่อง ข้อมูลส่วนตัวไม่ต้องส่งให้ AI บนคลาวด์ประมวลผลอีกต่อไป และยังใช้งานได้แม้ไม่มีอินเทอร์เน็ต a16z ยืนยันแล้วว่าเป็นผู้นำการลงทุนรอบแรกของ Conway Research

Underdog สามารถรันบน Mac ทั่วไปได้ ส่วนหนึ่งเป็นเพราะโมเดลมีขนาดเล็กพอ ปัจจุบัน Woof ที่เปิดเผยมีเพียง 4B พารามิเตอร์ น้ำหนักแบบ 4-bit ประมาณ 2.37GB อีกด้านหนึ่ง ทีมได้พัฒนา Husky inference engine โดยเฉพาะ ซึ่งปรับแต่งสำหรับ Woof และ Apple Silicon ทางการทดสอบบน M5 Max พบว่าโมเดลชุดเดียวกันเร็วกว่า MLX ใน 16 งาน สูงสุดถึง 4.5 เท่า

ผู้ก่อตั้ง Sigil Wen เชื่อว่างานประจำวันอย่างการค้นหาอีเมล จัดระเบียบไฟล์ จัดการตารางเวลา ไม่จำเป็นต้องเรียกใช้โมเดลที่แข็งแกร่งที่สุดในศูนย์ข้อมูลทุกครั้ง โมเดลเล็กขอแค่มีความสามารถเพียงพอและรวดเร็ว ก็สามารถใช้คอมพิวเตอร์ของผู้ใช้เองทำงานจำนวนมากได้โดยตรง

ต่อไป Underdog ยังเตรียมเข้าสู่ iPhone, Windows, Linux, Android และอุปกรณ์ NVIDIA Wen เรียกเส้นทางนี้ว่า «Underdog's Law»: AI ล้ำสมัยที่วันนี้ต้องใช้ศูนย์ข้อมูลในการรัน อีกประมาณครึ่งปีจะมีโอกาสเข้าสู่อุปกรณ์ส่วนบุคคล

ทีมยังศึกษากรณีให้ Agent ซื้อของแทนผู้ใช้โดยตรง หวังว่าสุดท้ายจะทำ local AI ให้เป็น Agent ส่วนตัวที่เข้าใจบริบทส่วนบุคคลในระยะยาวและลงมือทำธุระแทนผู้ใช้ได้โดยตรง