“Anthropicจะเป็นบริษัทเดียว”ก่อให้เกิดการโต้เถียง ดาริโอตอบอย่างชาญฉลาด: AIโดยธรรมชาติจะรวมศูนย์ การกำกับดูแลกลับเป็นทางออก

ตามการติดตามของ Dongcha Beating นักลงทุน Gavin Baker กล่าวในรายการ All-In Podcast ว่า คนที่เขาไว้วางใจหลายคนบอกเขาว่า Dario Amodei เคยกล่าวว่า Anthropic อาจกลายเป็น "บริษัทเอกชนเพียงแห่งเดียวในโลก" ในวันหนึ่ง นักวิจัยของ Anthropic อย่าง Sholto Douglas ปฏิเสธทันที โดยกล่าวว่าข้อกล่าวหานี้ "ผิดโดยสิ้นเชิง" และแหล่งข่าวของ Baker กำลังโกหก

Baker ยอมรับการชี้แจง แต่ยังคงซักถามต่อไป เขากล่าวว่า ข่าวลือนี้มีคนเชื่อเพราะมันคล้ายกับจุดยืนสาธารณะระยะยาวของ Dario มาก: AI เป็นอันตราย อำนาจอาจกระจุกตัวสูง จึงจำเป็นต้องมีการกำกับดูแล มุมมองของ Baker ตรงกันข้าม: ยิ่ง AI อันตรายมากเท่าไร ก็ยิ่งควรกระจายความสามารถออกไป มากกว่าที่จะมอบให้กับบริษัทและรัฐบาลเพียงไม่กี่แห่ง

จากนั้น Dario ตอบกลับด้วยตนเอง แต่ไม่ได้พูดถึงประโยค "บริษัทเดียว" อีกต่อไป เขาเชื่อว่า AI จะกระจุกตัวไปยังยักษ์ใหญ่ไม่กี่รายโดยธรรมชาติเนื่องจากชิป พลังประมวลผล และการประหยัดต่อขนาด การเปิดน้ำหนักโมเดลก็เพียงทำให้ผู้คนจำนวนมากขึ้นเข้าถึงโมเดลได้ แต่ไม่สามารถแก้ปัญหาได้ว่าใครมีความสามารถในการฝึกโมเดลที่แข็งแกร่งที่สุด ดังนั้นคำตอบของเขาจึงเป็นการกำกับดูแล และเน้นไปที่ผู้ที่แข็งแกร่งที่สุด: ทดสอบโมเดล前沿อย่างเข้มงวด บริษัทเล็กและผู้ตามหลังถูกควบคุมน้อยลง น้ำหนักเปิดสามารถคงไว้ได้ แต่เมื่อความสามารถใกล้เคียงกับ前沿 ก็ต้องทดสอบเช่นกัน Baker กังวลว่าการกำกับดูแลจะสร้างการกระจุกตัว ในขณะที่ Dario เชื่อว่าการกำกับดูแลคือสิ่งที่ใช้对冲การกระจุกตัว

เขายังตอบสนองต่อคำวิจารณ์ของ Baker ที่ว่าเขา "พูดถึงความเสี่ยงของ AI ตลอดเวลา" Dario กล่าวว่า ประชาชนไม่เชื่อถือบริษัท AI ไม่ใช่เพราะพูดถึงความเสี่ยงมากเกินไป แต่เพราะอุตสาหกรรมสัญญามากเกินไปและทำได้จริงน้อยเกินไป การโฆษณาทุกวันว่า "AI รักษามะเร็งได้" ไม่มีประโยชน์ สิ่งที่มีประโยชน์คือการรักษามะเร็งให้หายจริงๆ Anthropic กำลังเพิ่มการลงทุนในด้านชีววิทยาและการแพทย์ และหวังว่าจะเห็นผลลัพธ์早期บางอย่างในอีกไม่กี่เดือนข้างหน้า