ชื่อวิดีโอต้นฉบับ: Inside the Mind of Anthropic CEO Dario Amodei | The Circuit | Extended Interview

ที่มาวิดีโอต้นฉบับ: Bloomberg Original
เรียบเรียงต้นฉบับ: Web3 天空之城

หมายเหตุบรรณาธิการ: ปัจจุบัน Dario CEO ของ Anthropic อยู่ในตำแหน่งที่อึดอัดมาก ในด้านหนึ่งเขามีโมเดล AI ที่ดีที่สุดในโลก แต่อีกด้านหนึ่งกลับถูกคำสั่งห้ามของรัฐบาลสหรัฐฯ ทำให้ต้องปิดให้บริการทั่วโลก แม้แต่สมาชิกในทีมที่ไม่ใช่คนอเมริกันก็ไม่สามารถใช้งานได้

ยังไม่ทราบว่าสถานการณ์นี้จะจบลงอย่างไร มีรายงานว่า Dario กำลังพยายามอย่างต่อเนื่อง ทุกคนสามารถติดตามข่าวสารต่อไปได้ แต่เราสามารถมองเห็นแนวคิดของผู้บริหารบริษัท AI Coding ชั้นนำที่เต็มไปด้วยข้อถกเถียงนี้ได้จากการสัมภาษณ์ล่าสุดของ Emily

ในแผนที่อำนาจของ Silicon Valley ในปัจจุบัน Anthropic อยู่ในตำแหน่งศูนย์กลางที่พิเศษและเต็มไปด้วยความตึงเครียดอย่างยิ่ง ในฐานะคู่แข่งที่แข็งแกร่งที่สุดของ OpenAI มันก่อตั้งโดยนักวิจัยชั้นนำกลุ่มหนึ่งที่เลือก "แยกทาง" เนื่องจากความแตกต่างทางค่านิยม

เมื่อ CEO Dario นั่งอยู่ภายใต้แสงไฟพูดถึงการเติบโตแบบทวีคูณของ AI เขาแสดงให้เห็นถึงความเยือกเย็นที่หาได้ยากราวกับศัลยแพทย์ นี่ไม่ใช่แค่การแข่งขันด้านเทคโนโลยี แต่เป็นเกมเชิงลึกเกี่ยวกับความไว้วางใจ ความปลอดภัย และวิธีที่อารยธรรมมนุษย์จะอยู่ร่วมกันเมื่อเผชิญกับการระเบิดทางสติปัญญา

สรุปเนื้อหา

การสัมภาษณ์ล่าสุดนี้เจาะลึกถึงความคิดของ Dario CEO ของ Anthropic เมื่อเผชิญกับการเติบโตแบบทวีคูณของ AI ครอบคลุมตั้งแต่เบื้องหลังการออกจาก OpenAI การเลือกรูปแบบธุรกิจของบริษัท ไปจนถึงผลกระทบอันลึกซึ้งของ AI ต่อตลาดแรงงาน ความปลอดภัยทางไซเบอร์ และภูมิรัฐศาสตร์

CEO อธิบายรายละเอียดว่า Anthropic สร้างสมดุลของอำนาจผ่านกลไกต่างๆ เช่น การจัดตั้ง "Long-Term Benefit Trust" และในขณะที่มุ่งมั่นสู่ความเป็นผู้นำทางเทคโนโลยี ก็ปฏิบัติตามค่านิยมด้านความปลอดภัยด้วยการกำหนด "เส้นแดง" และเลื่อนการเปิดตัวโมเดลที่มีความเสี่ยงสูง (เช่น Mythos)

หมายเหตุ: คำพูดของ Dario ไม่ค่อยเป็นมิตรกับประเทศตะวันออกมาโดยตลอด โปรดใช้วิจารณญาณในการรับชม

ประเด็นหลัก

· อุตสาหกรรม AI อยู่ใน "การเติบโตแบบทวีคูณที่ราบรื่น" ซึ่งเมื่อการเปลี่ยนแปลงเชิงปริมาณสะสมถึงระดับหนึ่ง จะเกิดความรู้สึกระเบิดเชิงคุณภาพ

· ความไว้วางใจคือรากฐานของความร่วมมือในอุตสาหกรรม AI Anthropic เสนอว่าผู้เล่นที่น่าเชื่อถือควรร่วมมือกันสร้างมาตรฐานอุตสาหกรรม

· โมเดลธุรกิจระดับองค์กรมีความสอดคล้องกับค่านิยมด้านความปลอดภัยของ AI มากกว่า สามารถหลีกเลี่ยงปัญหาการเสพติดและการแข่งขันด้านคุณภาพต่ำที่พบได้ทั่วไปในตลาดผู้บริโภค

· สำหรับความเสี่ยงด้านการว่างงานที่เกิดจาก AI สังคมจำเป็นต้องคาดการณ์และกำหนดนโยบายเศรษฐกิจมหภาค พร้อมทั้งแสวงหาเกมที่ได้ประโยชน์ร่วมกันในรูปแบบ "ใช้ทรัพยากรเท่าเดิมเพื่อทำสิ่งต่างๆ ได้มากขึ้น"

· การประยุกต์ใช้ทางทหารต้องยึดหลัก "มนุษย์ยังคงอยู่ในวงจร" และรักษาเส้นแบ่งที่ชัดเจนเกี่ยวกับการเฝ้าระวังขนาดใหญ่และอาวุธอัตโนมัติเต็มรูปแบบ

ด้านล่างคือบทสัมภาษณ์ฉบับเต็ม:

ความกดดันและประสบการณ์จากการเติบโตแบบทวีคูณ

Emily Chang: คุณนอนหลับกี่ชั่วโมง?

Dario Amodei: ฉันไม่เคยเป็นคนที่นอนหลับได้ดีนัก ฉันแค่กำลังเรียนรู้ศิลปะในการผ่อนคลายและหลับให้ลงในช่วงเวลาที่มีความกดดันเป็นพิเศษ

Emily Chang: ทุกอย่างพัฒนาเร็วมาก การอยู่ในสถานการณ์นี้รู้สึกอย่างไร?

Dario Amodei: มันเป็นความรู้สึกแบบทวีคูณ เหมือนกับว่าสมมติคุณนั่งยานอวกาศเคลื่อนที่ออกจากโลกด้วยความเร็วสัมพัทธภาพ กลไกของทฤษฎีสัมพัทธภาพพิเศษคือ เมื่อคุณตื่นขึ้นหลังจากนอนหลับ โลกก็ผ่านไปแล้วสองวัน ดังนั้นคุณต้องจัดการเรื่องของสองวันภายในวันเดียว

แล้วคุณก็ไปนอนอีกครั้ง เพราะคุณยังคงเร่งความเร็วต่อไป โลกก็ผ่านไปแล้วสามวัน จากนั้นในวันถัดมา สี่วันผ่านไป ความรู้สึกประมาณนั้น

Emily Chang: คุณรู้สึกกังวลใจบ่อยไหมเมื่อคิดถึงสิ่งที่อาจเผชิญเมื่อตื่นขึ้น?

Dario Amodei: มีปัญหาที่ชัดเจนและเร่งด่วนมากพอที่เราต้องจัดการ ขณะที่ฉันกำลังจัดการกับปัญหาเหล่านี้ ฉันก็คิดไปด้วยว่าเราจะเตรียมตัวอย่างไร แต่ฉันคิดว่าการหวาดระแวงหรือกังวลเกี่ยวกับสิ่งที่อาจเผชิญเมื่อตื่นขึ้นนั้นไม่มีประโยชน์ ฉันเคยศึกษาคนที่จัดการกับสถานการณ์กดดันสูงในประวัติศาสตร์ คุณต้องเรียนรู้ที่จะตอบสนองอย่างมีเหตุผล และไม่นำระดับอันตรายต่างๆ มาเปรียบเทียบกัน

การที่เราสลับไปมาระหว่าง "ฉันไม่กังวล" กับ "พระเจ้า วันนี้เราต้องตื่นตระหนก" แบบนี้ ฉันคิดว่ามันเป็นสัญญาณของความยังไม่成熟ในการตัดสินใจ และการตัดสินใจที่成熟จริงๆ คือ คุณไม่สามารถมองข้ามสิ่งนี้ไปได้ และเราก็ไม่สามารถประมาทได้เช่นกัน

ความจริงแล้ว สิ่งนี้กำลังมีความเสี่ยงมากขึ้นเรื่อยๆ แต่เราต้องจัดการอย่างมีเหตุผล เหมือนกับที่ศัลยแพทย์จัดการกับการผ่าตัด หรือเหมือนกับที่นายทหารจัดการกับปฏิบัติการทางทหาร หรือใครก็ตามที่ต้องตัดสินใจที่มีผลกระทบต่อคนจำนวนมาก พวกเขาต้องตัดสินใจอย่างมีเหตุผล และพวกเขาต้องเข้าใจความเสี่ยง แต่พวกเขาก็ต้องรักษาความสงบพื้นฐานเอาไว้

เมื่อวานนี้ลูกชายของฉันถามว่าจะใช้บัญชี Claude ของฉันได้ไหม ฉันบอกว่าไม่ได้เด็ดขาด ฉันต้องใช้ tokens ของฉันเอง เรากำลังเห็นแอปพลิเคชันเหล่านี้มากขึ้นในตลาดผู้บริโภค เดิมทีเราหวังว่าจะเป็นบริษัทที่เน้นองค์กรมากกว่า แต่ถึงแม้เราจะไม่ได้ทุ่มเทความพยายามมากนัก ธุรกิจผู้บริโภคก็เริ่มเติบโตอย่างรวดเร็ว

Emily Chang: ตอนนี้คุณอยู่ที่ศูนย์กลางของจักรวาล AI รู้สึกอย่างไร?

Dario Amodei: ที่น่าสนใจคือ ตลอดอาชีพการงานของฉัน โดยเฉพาะในช่วงเวลาที่อยู่กับ Anthropic สิ่งที่ฉันประสบคือการเติบโตแบบเอกซ์โพเนนเชียลที่ราบรื่น

ประสบการณ์ของการเติบโตแบบเอกซ์โพเนนเชียลที่ราบรื่นนี้คือ ไม่มีอะไรเกิดขึ้น ไม่มีอะไรเกิดขึ้น ไม่มีอะไรเกิดขึ้น มีเรื่องเล็กน้อยเกิดขึ้น แล้วทันใดนั้น มันก็ระเบิดออกมาอย่างบ้าคลั่ง นี่คือประสบการณ์ของโลกนี้ และนี่คือประสบการณ์ของขนาดบริษัทเมื่อเทียบกับบริษัทอื่นและเมื่อเทียบกับโลก

ดังนั้นฉันจ้องมองกราฟนี้เป็นเวลานาน แล้วฉันก็พูดว่า เรามีแนวโน้มที่จะเป็นบริษัท AI ที่มีรายได้สูงสุดและมูลค่าสูงสุดในช่วงเวลาประมาณนี้ และมันก็เป็นอย่างนั้นจริงๆ มันเกิดขึ้นแล้ว มันเกิดขึ้นแล้ว ดังนั้นในแง่หนึ่ง ฉันไม่รู้สึกประหลาดใจ เพราะเส้นโค้งบนกราฟนั้นราบรื่นมาก

แต่แน่นอน ในอีกมุมหนึ่ง เมื่อสิ่งต่างๆ เกิดขึ้นจริง คุณจะเห็นรายละเอียดและสีสันที่หลากหลายและสมบูรณ์ยิ่งขึ้น และมันก็น่าประหลาดใจอย่างแน่นอน

เราจดจำปัญหาที่เรามักจะให้ความสนใจอยู่เสมอ นั่นคือ เราจะฝึกโมเดลที่ดีได้อย่างไร? เราจะนำไปใช้กับผลิตภัณฑ์ที่ดีได้อย่างไร? เราจะมั่นใจได้อย่างไรว่าทุกอย่างปลอดภัย? เราจะจัดการความเสี่ยงทางสังคมที่เกี่ยวข้องกับเทคโนโลยีนี้ ขณะเดียวกันก็ช่วยเหลือผู้คนได้อย่างไร? ทั้งหมดนี้เป็นปัญหาเดียวกัน เพียงแต่มองผ่านกล้องจุลทรรศน์ที่ใหญ่ขึ้นเท่านั้น

ภูมิหลังการเติบโตและจิตวิญญาณแห่งซิลิคอนวัลเลย์

เอมิลี่ ชาง: ตอนที่คุณเติบโตในซานฟรานซิสโก คุณเป็นเด็กแบบไหน? ฉันรู้ว่าพ่อของคุณเคยเป็นช่างทำเครื่องหนัง ส่วนแม่ทำงานในห้องสมุด สิ่งเหล่านี้มีผลต่อคุณอย่างไร?

ดาริโอ อาโมเดย์: ในตอนนั้น การปฏิวัติอินเทอร์เน็ตกำลังเกิดขึ้นรอบตัวฉัน แต่ฉันไม่สนใจเลย ฉันสนใจแค่การเรียนคณิตศาสตร์และทำสิ่งต่างๆ เช่น การวาดเขียน ฉันสนใจในการสำรวจจักรวาล ฉันสนใจนิยายวิทยาศาสตร์ โดยรวมแล้ว นั่นคือสภาพแวดล้อมที่ฉันอยู่ ฉันคิดว่าฉันแค่ มีความอยากรู้อยากเห็นอย่างแรงกล้าต่อโลกใบนี้

เอมิลี่ ชาง: คุณเติบโตในสถานที่ที่ถูกเรียกว่าศูนย์กลางเทคโนโลยี และตอนนี้มันก็กลายเป็นศูนย์กลางของ AI ด้วย สถานที่นี้ เมืองนี้ มีปัจจัยอะไรที่หล่อหลอมมุมมองโลกของคุณหรือไม่?

ดาริโอ อาโมเดย์: มีครับ ผมคิดว่า จิตวิญญาณทั่วไปที่ไม่ตามกระแส นิยมความเป็นปัจเจก และความคิดที่ว่า "การบ้าเล็กน้อยก็ไม่เป็นไร" นั้นมีอยู่จริง ผมคิดว่าส่วนใหญ่ของสิ่งนี้อาจมีอิทธิพลต่อผมโดยไม่รู้ตัว

คุณจะได้ยินเรื่องราว เช่น เมื่อคุณไปยังบางประเทศในยุโรป หรือแม้แต่ภูมิภาคอื่นๆ ของประเทศนี้ การคิดในแบบที่แตกต่างมักถูกกดดันหรือถูกมองว่าแปลก หรือการมีความคิดที่บ้าคลั่ง

จริงๆ แล้วผมมีคำวิจารณ์มากมายต่อซิลิคอนวัลเลย์ แต่ผมคิดว่ามีสิ่งหนึ่งที่ดี นั่นคือมันส่งเสริมแนวคิดที่ว่า แม้ผู้เชี่ยวชาญทุกคนจะคัดค้านคุณ ก็ไม่เป็นไร ถ้าคุณมีวิสัยทัศน์ที่สอดคล้องและมุมมองโลกที่สอดคล้อง คุณควรไล่ตามมัน นั่นคือสิ่งที่สำคัญที่สุด บางทีมันอาจใช้ไม่ได้เลย

แต่ถ้ามันใช้ได้ มันจะมีผลกระทบแบบหางยาว ในบางด้านคุณอาจขุดลึก และในที่สุดอาจพบเหมืองทองคำขนาดใหญ่ที่นั่น ผมคิดว่าจิตวิญญาณนี้สำคัญมาก

เอมิลี่ ชาง: คุณ ดาเนียลา น้องสาวของคุณ และสามีของเธอ โฮลเดน คาร์นอฟสกี้ เคยอาศัยอยู่ในบ้านเช่าร่วมกันในปี 2016 ตอนนั้นคุณเถียงกันเรื่องอะไร?

ดาริโอ อาโมเดย์: ผมคิดว่าตอนนั้นเป็นช่วงที่โครงการ Open Philanthropy เพิ่งเริ่มต้นขึ้น โฮลเดนเป็นผู้รับผิดชอบโครงการนี้ ตอนนั้นผมเป็นนักวิทยาศาสตร์ชีวภาพ ดังนั้นผมจึงช่วยพวกเขาจัดการเรื่องที่เกี่ยวข้องกับสุขภาพหรือการวิจัยทางชีววิทยาในประเทศกำลังพัฒนา ผมก็เลยให้คำแนะนำในหัวข้อเหล่านั้น เช่น ด้านไหนที่มีแนวโน้มดี? ด้านไหนที่แนวโน้มไม่ค่อยดี?

ความขัดแย้งหลักที่ทำให้ออกจาก OpenAI

เอมิลี่ ชาง: การตัดสินใจออกจาก OpenAI ของคุณกลายเป็นตำนานใน Silicon Valley ไปแล้ว เกิดอะไรขึ้นกันแน่? ละเว้นเรื่องเล่าต่างๆ ปัญหาหลักคืออะไร? คุณมีความเห็นไม่ตรงกันในเรื่องใดบ้าง?

ดาริโอ อาโมเดย์: ฟังนะ ผมจะพูดออกมาให้ชัดเจนและเรียบง่ายที่สุด เมื่อคุณสร้างเทคโนโลยีที่ทรงพลัง คุณจะเจอปัญหามากมาย และ Anthropic ก็เจอแบบนี้ทุกวัน เราไม่รู้ว่าการตัดสินใจของเราถูกหรือผิดกันแน่

ดังนั้น ในเรื่องความปลอดภัยก็มีข้อโต้แย้งที่สมเหตุสมผลมากมาย แน่นอนว่าเราเคยมีความเห็นไม่ตรงกับพวกเขาบ้าง แต่ต้องรู้ไว้ว่า แค่เพียงเท่านี้ยังไม่พอที่จะเป็นเหตุผลให้ออกมา คนที่นี่ก็เคยมีความเห็นไม่ตรงกับผม คนที่นี่ก็มีความเห็นไม่ตรงกันเอง

แต่ เมื่อคุณรู้สึกว่าไว้ใจใครบางคนไม่ได้ เมื่อคุณรู้สึกว่าค่านิยมของพวกเขาไม่เป็นอย่างที่พูด เมื่อคุณรู้สึกว่าพวกเขาไม่ซื่อสัตย์ เมื่อคุณรู้สึกว่าพวกเขาทำสิ่งต่างๆ ไม่ใช่เพราะเหตุผลที่ประกาศไว้ เมื่อคุณเห็นรูปแบบพฤติกรรมที่น่ากังวลหรือความไม่ซื่อสัตย์ มันทำให้คุณทำงานในบริษัทต่อไปได้ยาก และยากที่จะไว้ใจบริษัทนี้ต่อไป สุดท้ายแล้ว เมื่อคุณไม่มีวิสัยทัศน์ร่วมกับใครสักคนและไม่ไว้ใจพวกเขาอีกต่อไป จะไปโต้เถียงกันทำไม?

ทางออกก็คือแยกย้ายกันไป คุณทำในสิ่งที่คุณทำ พวกเขาทำในสิ่งที่พวกเขาทำ ผมยอมรับเรื่องนี้อย่างเต็มใจ: เราทำตามแนวทางของเรา พวกเขาทำตามแนวทางของพวกเขา เราจะรอดูว่าใครจะชนะในตลาด และใครจะชนะในศาลแห่งความคิดเห็น ผมคิดว่า ข้อเท็จจริงเหล่านี้สำคัญกว่าคำพูด และมีน้ำหนักมากกว่าการคาดเดาแบบดราม่าใดๆ เกี่ยวกับใครออกไปหรือทำไมถึงออกไป

เราต้องเข้าใจว่า เรากำลังนำเสนอตัวอย่างวิธีการปรับใช้เทคโนโลยีนี้ ซึ่งเรามองว่าเป็นแนวทางที่มีความรับผิดชอบ หากพวกเขาไม่เห็นด้วย พวกเขาควรเสนอข้อโต้แย้งขึ้นมา ผมคิดว่าเรื่องนี้ไม่จำเป็นต้องพูดมาก

ความร่วมมือในอุตสาหกรรมและการสร้างความไว้วางใจใหม่

Emily Chang: ในการประชุมสุดยอด AI ที่อินเดีย มีช่วงเวลาหนึ่งที่ คุณกับ Sam Altman ดูเหมือนจะปฏิเสธการจับมือบนเวที เกิดอะไรขึ้นตอนนั้น?

Dario Amodei: สถานการณ์ตอนนั้นคือ การประชุมสุดยอดครั้งนี้จัดได้วุ่นวายมาก เราทุกคนขึ้นเวทีในนาทีสุดท้าย พวกเขาเปลี่ยนลำดับตำแหน่งของเรากะทันหัน จากนั้นก็ถ่ายรูปเรา แล้วสั่งให้พวกเราทุกคนจับมือกัน ถ้าคุณเคยเข้าร่วมการประชุมแบบนี้—ผมไม่ได้จะพูดไม่ดีเกี่ยวกับอินเดีย—แต่ การประชุมระหว่างประเทศที่มีประมุขแห่งรัฐเข้าร่วมแบบนี้ มักจะจัดกันอย่างวุ่นวายมาก

Emily Chang: แต่คนอื่นๆ จับมือกันนะ ได้โปรดเถอะ

Dario Amodei: ฟังนะ ผมไม่รู้จะบอกคุณยังไงดี โอเคไหม? ตอนนั้น Narendra Modi อยู่บนเวที แล้วก็เรียกให้ทุกคนจับมือกันทันที

Emily Chang: โอเค โอเค

ผู้บรรยาย: คุณเห็นไหม Sam กับ Elon กำลังฟ้องร้องกัน ดูเหมือน คุณไม่ชอบ Sam

Emily Chang: ถ้านักพัฒนาเทคโนโลยีที่สำคัญที่สุดในโลกไม่สามารถจับมือกันบนเวทีได้ แล้วเราจะเชื่อใจคุณได้อย่างไรว่าคุณจะร่วมมือกันในเรื่องความเสี่ยงต่อการอยู่รอด?

Dario Amodei: นั่นคือสิ่งที่ผมอยากบอกคุณ ในกลุ่มคนที่สร้างเทคโนโลยีนี้ มีความแตกต่างอย่างมากในด้านคุณภาพและความน่าเชื่อถือ ผมคิดว่านั่นหมายความว่า คนที่แตกต่างกัน คิดว่าไม่มีใครไว้ใจใคร ผมไม่คิดว่านั่นถูกต้อง

ผมรู้จัก Demis Hassabis ผู้สร้างโมเดล Gemini ซึ่งเป็นคู่แข่งของโมเดล Claude ผมรู้จักพวกเขามา 15 ปีแล้ว เราเคยร่วมมือกันแก้ปัญหาหลายอย่าง เราซื้อทรัพยากรการคำนวณจาก Google เราแลกเปลี่ยนความคิดเห็นด้านความปลอดภัยกันบ่อยครั้ง

ดังนั้น มุมมองของฉันคือ ประการแรก ผู้เข้าร่วมบางคนน่าเชื่อถือมากกว่าคนอื่นๆ และฉันคิดว่านอกเหนือจาก Anthropic ก็ยังมีผู้เข้าร่วมที่ฉันไว้วางใจ ฉันมองว่าพวกเขาเป็นคนที่น่าเชื่อถือ สิ่งที่ต้องเกิดขึ้นคือ ผู้เข้าร่วมที่น่าเชื่อถือต้องร่วมมือกันเพื่อรับมือกับผู้เข้าร่วมที่ไม่น่าเชื่อถือ ทำให้ผู้เข้าร่วมทุกคนต้องปฏิบัติตามมาตรฐานเดียวกัน

จากประสบการณ์อันมากมาย ฉันได้เรียนรู้ว่าบางคนไม่ทำสิ่งที่ถูกต้องด้วยตนเอง แต่ถ้าคนส่วนใหญ่ในอุตสาหกรรมทำสิ่งที่ถูกต้อง ฉันคิดว่าคนอื่นๆ ในอุตสาหกรรมก็ไม่มีทางเลือกอื่นนอกจากต้องทำตามกระแส มันเหมือนกับเวอร์ชันเชิงบวกที่คุณสร้างแรงบันดาลใจให้ผู้อื่น

มันเหมือนกับที่ Demis และฉันสร้างแรงบันดาลใจซึ่งกันและกัน เขาทำ AlphaFold เราก็พยายามทำบางอย่างในสาขาชีววิทยา เราทำงานด้านการอธิบายได้ (interpretability) พวกเขาก็เริ่มทำวิจัยด้านการอธิบายได้เช่นกัน มันไม่ใช่การแข่งขันด้วยซ้ำ

เพียงเพราะทุกบริษัทกำลังทำสิ่งที่เจ๋งๆ และบริษัทอื่นๆ ก็คิดว่ามันเจ๋ง เราก็อยากลองดูว่าเราจะสร้างสิ่งใหม่ๆ จากมันได้หรือไม่ นี่คือด้าน "แครอท" ของการแข่งขันระดับสูง แล้วก็มีด้าน "ไม้เรียว" หรือ "ไม้เรียว" ที่ซ่อนอยู่ นั่นคือคุณตระหนักว่าคนเหล่านี้กำลังทำสิ่งที่ถูกต้อง ถ้าคนอื่นไม่ทำสิ่งที่ถูกต้อง มันก็จะดูแย่

เราเห็นพฤติกรรมแบบนี้บ่อยครั้ง พวกเขาทำสิ่งที่ถูกต้องอย่างไม่เต็มใจ แต่พยายามแสร้งทำเป็นว่ากำลังทำสิ่งที่แตกต่าง และบอกเป็นนัยว่าเรามีเจตนาที่เลวร้ายหรือชั่วร้าย ซึ่งเป็นสิ่งที่คาดเดาได้ แต่ฉันคิดว่า นี่คือวิธีที่เรารวมอุตสาหกรรมและส่งเสริมความร่วมมือในอุตสาหกรรม

โมเดลธุรกิจ: ความสอดคล้องระหว่างระดับองค์กรและค่านิยม

Emily Chang: ในช่วงแรก คนอื่นๆ มุ่งเน้นไปที่แอปพลิเคชันสำหรับผู้บริโภคที่สนุกสนานและสะดุดตา แต่คุณกลับเดิมพันในด้านการเขียนโค้ดและองค์กร Claude Code ประสบความสำเร็จอย่างมาก Claude Co-work ก็ประสบความสำเร็จอย่างมาก ทำไมคุณถึงเดิมพันแบบนั้น? มันเป็นการตัดสินใจที่อิงตามค่านิยม หรืออิงตามธุรกิจ?

Dario Amodei: เมื่อเราก่อตั้ง Anthropic สิ่งที่สำคัญที่สุด ซึ่งเป็นสิ่งที่สำคัญเสมอมา คือความปรารถนาภายในของเรา เราต้องการทำสิ่งนี้ให้ถูกต้อง แต่คุณต้องถามตัวเองว่า เพื่อสนับสนุนการสร้างโมเดลที่มีค่าใช้จ่ายสูงมากเหล่านี้ บริษัทจำเป็นต้องมีโมเดลธุรกิจที่เหมาะสม แล้วโมเดลธุรกิจจะขัดขวางการบรรลุค่านิยมหรือไม่?

ปัญหานี้มีอยู่เสมอ แต่สิ่งที่ผมเรียนรู้จากการทำงานในบริษัทอื่นและการสังเกตบริษัทต่างๆ คือ ถ้าคุณเลือกโมเดลธุรกิจที่ขัดแย้งกับค่านิยมของคุณอย่างรุนแรง คุณจะตกอยู่ในสถานการณ์ที่ยากลำบาก คุณอาจต้องละทิ้งค่านิยมของตัวเอง หรือไม่ก็ถูกยุคสมัยทิ้งไว้ข้างหลัง

ในที่สุดคุณจะติดอยู่ในภาวะกลืนไม่เข้าคายไม่ออก แม้จะมีวิธีหลีกเลี่ยง แต่ก็ยังเป็นสถานการณ์ที่ยุ่งยากมาก การเลือกโมเดลธุรกิจที่สอดคล้องกับค่านิยมของคุณนั้นดีกว่ามาก

ดังนั้นเมื่อเราคิดถึงปัญหานี้ เรามองว่า 你看 เราได้เห็นโลกของโซเชียลมีเดียและภาคผู้บริโภคแล้ว ซึ่งดูเหมือนจะส่งเสริมการมีปฏิสัมพันธ์ หรือแม้กระทั่งการเสพติด เนื้อหาที่ด้อยคุณภาพที่เราเห็นจากโมเดลวิดีโอ AI นั้น มีตรรกะเบื้องหลังคือการเพิ่มเวลาที่คุณทุ่มเทให้กับความสนใจให้มากที่สุด เพราะมันขับเคลื่อนด้วยแรงจูงใจจากรายได้โฆษณา

แต่ถ้าเรามองไปที่ภาคธุรกิจ 你看 ความตั้งใจของเราคือหวังให้โมเดลเหล่านี้มีประโยชน์ต่อผู้คน ถ้าผมนึกถึงสิ่งดีๆ ทั้งหมดที่ AI สามารถทำได้ ผมมักจะเตือนผู้คนถึงผลกระทบด้านลบ แต่โดยพื้นฐานแล้ว เราเชื่อว่าด้านบวกจะเอาชนะด้านลบได้ในที่สุด การประยุกต์ใช้เชิงบวกหลายอย่างนั้นล้วนอยู่ในหมวดหมู่ของการประยุกต์ใช้ในองค์กร

เราหวังว่าจะใช้ AI เพื่อรักษาโรคที่รักษาไม่หายในอดีต ซึ่งต้องอาศัยความร่วมมือกับบริษัทเทคโนโลยีชีวภาพ บริษัทยา และสถาบันวิจัยทางวิชาการ ทั้งหมดนี้คือองค์กร เราหวังว่าจะใช้ AI เพื่อทำให้พลังงานถูกลงและมีประสิทธิภาพมากขึ้น สิ่งเหล่านี้ล้วนเป็นการประยุกต์ใช้ในองค์กร

เราหวังว่าจะใช้ AI เพื่อสนับสนุนการศึกษา ซึ่งส่วนใหญ่เป็นการประยุกต์ใช้ในระดับองค์กร เราหวังว่าจะใช้ AI เพื่อแก้ปัญหาสุขภาพและปัญหาในประเทศกำลังพัฒนา แม้จะเป็นองค์กรไม่แสวงหาผลกำไร แต่โดยพื้นฐานแล้วก็อยู่ในขอบเขตขององค์กร เราหวังว่าจะส่งเสริมการเติบโตทางเศรษฐกิจ ซึ่งก็อยู่ในระดับองค์กรเช่นกัน

นอกจากนี้ผมคิดว่ายังมีอีกปัจจัยหนึ่ง นั่นคือ องค์กรให้ความสำคัญกับความไว้วางใจและความสัมพันธ์ระยะยาว ในขณะที่แอปพลิเคชันสำหรับผู้บริโภคบางครั้งอาจมีความรู้สึกเหมือนเป็นลูกเล่น ในระดับองค์กร สิ่งสำคัญคือการสร้างความร่วมมือที่คุณทำงานกับบริษัทหนึ่งเป็นเวลาหลายปี คุณทำตามที่พูด พวกเขาก็ทำตามที่พูด และพวกเขาไว้วางใจคุณอย่างแท้จริง

ดังนั้น สิ่งนี้สอดคล้องอย่างมากกับเป้าหมายของเราในการปรับใช้โมเดลเหล่านี้ในทางที่ปลอดภัยและเป็นบวก ดังนั้นผมคิดว่าการมีโมเดลธุรกิจที่สอดคล้องกับค่านิยมของเราอย่างสูงนั้นเป็นประโยชน์ต่อเรา

ไม่ใช่ว่าจะไม่มีความขัดแย้งในบางครั้ง หรือไม่ใช่ว่าเราไม่ต้องตัดสินใจที่ยากลำบาก แต่ผมคิดว่าจำนวนการตัดสินใจแบบนั้นจะน้อยกว่ากรณีอื่นมาก

คูเมืองแข่งขันกับ "วันสิ้นโลกของ SaaS"

Emily Chang: นักพัฒนาสามารถเปลี่ยนจาก Claude ไปใช้ GPT หรือ Gemini ได้ภายในบ่ายวันเดียว ในอุตสาหกรรมนี้ เป็นไปได้จริงหรือที่จะรักษาความเป็นผู้นำในระยะยาว? และคุณคิดว่าคู่แข่งที่จริงจังต้องใช้เวลานานแค่ไหนในการลอกเลียนแบบสิ่งที่คุณสร้างขึ้น?

Dario Amodei: คุณภาพของโมเดลคือสิ่งที่สำคัญที่สุด ตัวอย่างเช่น ตอนนี้เรานำหน้าอย่างมากในด้านคุณภาพของโมเดล แม้ว่าจะมีความเฉื่อยอยู่บ้าง แต่ฉันไม่เคยพึ่งพาสิ่งนั้น ฉันไม่เคยพึ่งพา หรือพูดได้ว่า Anthropic ไม่เคยพึ่งพาแนวคิดที่ว่า "ผลิตภัณฑ์มีความเหนียวแน่นสูง ผู้ใช้จะไม่เปลี่ยน"

ฉันคิดว่าคุณยังคงต้องการมีโมเดลที่ดีกว่า คุณต้องการมีผลิตภัณฑ์ที่ดีกว่า และเราเห็นว่าอัตราการเติบโตไม่ได้มีการพลิกผันเลย ถ้าจะมีอะไรเปลี่ยนแปลง มันกลับเพิ่มขึ้น อย่างน้อยก็ในตอนที่เราบันทึกบทสัมภาษณ์นี้ ดังนั้น ฉันคิดว่านี่คือสิ่งที่สำคัญที่สุด

Emily Chang: ไม่นานหลังจากการเปิดตัว Claude Co-Work มูลค่าตลาด 285 พันล้านดอลลาร์ก็หายไปในชั่วข้ามคืน เทรดเดอร์เรียกมันว่า "วันสิ้นโลกของ SaaS" (SaaSpocalypse) หาก AI ยังคงพัฒนาต่อไปในอัตรานี้ ซอฟต์แวร์แบบดั้งเดิมจะถูกแทนที่มากแค่ไหน และเร็วแค่ไหน?

Dario Amodei: ดังนั้น นี่เป็นหนึ่งในปัญหาที่ยากต่อการคาดการณ์ล่วงหน้า ถ้าคุณสามารถคาดการณ์ล่วงหน้าได้อย่างสมบูรณ์แบบ ผู้คนก็คงทำไปแล้ว พวกเขาจะร่ำรวยมหาศาลในตลาด และถูกต้องตลอดไป

ดังนั้น ไม่มีใครรู้แน่ชัดว่าจะเกิดอะไรขึ้น แต่ฉันจะชี้ให้เห็นบางประเด็น บริษัทซอฟต์แวร์แบบดั้งเดิมทั้งหมดเหล่านี้มีคูเมืองบางอย่าง ฉันคิดว่าสิ่งที่จะเกิดขึ้นคือ คูเมืองบางแห่งจะหายไป แต่บางแห่งจะยังคงอยู่ ความสามารถในการเขียนซอฟต์แวร์อย่างรวดเร็ว ฉันคิดว่ามันจะหายไปอย่างแน่นอน ถ้าคูเมืองของคุณคือ "เราเขียนซอฟต์แวร์ที่ซับซ้อนที่ไม่มีใครเขียนได้" ก็ขอให้โชคดี คุณจะไม่สามารถปกป้องสิ่งนี้ได้

แต่ฉันคิดว่าผู้คนมีความสัมพันธ์กับลูกค้า ผู้คนมีความเชี่ยวชาญเกี่ยวกับวิธีการทำงานของสาขานั้น ผู้คนมีความรู้เฉพาะด้าน ดังนั้นคำแนะนำของฉันสำหรับคนเหล่านี้ทั้งหมดคือ อย่าพอใจ อย่ามองข้ามมัน จงระบุคูเมืองทั้งหมดของคุณ และเข้าใจให้ชัดเจนว่าบางแห่งจะหายไป ในขณะที่บางแห่งจะมีความสำคัญมากขึ้น เพราะมันเป็นปัจจัยจำกัด และอาจมีคูเมืองใหม่เกิดขึ้นด้วย

ผมคิดว่าคนที่สามารถปรับตัวได้อย่างคล่องแคล่ว อาศัยคูเมืองที่ยังคงอยู่และใช้ประโยชน์จากคูเมืองใหม่ๆ จะทำได้ดี ส่วนคนที่พอใจกับสิ่งที่มีอยู่ พวกเขาแค่หลอกตัวเองว่าสิ่งที่เคยใช้ได้ผลในอดีตจะยังคงใช้ได้ตลอดไป พวกเขาจะเจอช่วงเวลาที่ยากลำบาก นี่คือคำแนะนำที่ผมจะให้

และผมคิดว่าท้ายที่สุดแล้ว ผมเดานะ—แน่นอนว่าขึ้นอยู่กับว่าคุณนิยาม SaaS อย่างไร และคิดว่าอะไรไม่ใช่ SaaS—แต่ผมเดาว่าอุตสาหกรรมซอฟต์แวร์จะใหญ่ขึ้น ไม่ใช่เล็กลง แม้ว่าจะมีผู้แพ้รายใหญ่บางรายเกิดขึ้นก็ตาม

Emily Chang: ขออธิบายหน่อย

Dario Amodei: ผมแค่คิดว่าเค้กกำลังใหญ่ขึ้นเรื่อยๆ เช่น ผมคิดว่าด้วย AI เค้กนี้กำลังใหญ่ขึ้น บริษัทดั้งเดิมที่มีอยู่แล้วอาจเล็กลงในเชิงสัมพัทธ์ มูลค่าของบางบริษัทอาจลดลง ถ้าพวกมันปรับตัวไม่ถูกทาง บางแห่งอาจถึงขั้นล้มละลาย

แต่ผมคิดว่าเมื่ออัตราการเติบโตเร็วมาก คุณมักจะเห็นสถานการณ์แบบนี้ ถ้าศักยภาพของ AI เพิ่มขึ้น 10 เท่า อุตสาหกรรมเดิมที่มีอยู่ก็เติบโต 1.5 เท่าได้ง่ายมาก แค่เติบโตไม่มากเท่าเค้กทั้งก้อนเท่านั้นเอง ดังนั้นผมคิดว่าสิ่งนี้อาจเกิดขึ้นได้

นี่ไม่ได้หมายความว่าเราจะไม่เห็นผู้แพ้รายใหญ่บางราย ผมคิดว่าคนที่ไม่ปรับตัว แกล้งทำเป็นไม่รู้ไม่ชี้ มองไม่เห็นแนวโน้มในอนาคต และไม่สามารถระบุคูเมืองของตัวเองได้ จะเจอสถานการณ์ที่ยากลำบากมาก

พลังประมวลผล การระดมทุน และพันธมิตร

Emily Chang: ผู้สนับสนุนที่ใหญ่ที่สุดของคุณคือบริษัทอย่าง Amazon, Google, Microsoft และ NVIDIA แต่ละบริษัทมีวาระของตัวเอง พวกเขาเป็นทั้งพันธมิตรและคู่แข่ง คุณมีเป้าหมายทางธุรกิจขนาดใหญ่ที่เชื่อมโยงกับเงินทุน ใครกันแน่ที่ตัดสินใจจริงๆ?

Dario Amodei: เรามีหลายครั้งที่พูดความจริงอย่างตรงไปตรงมา ผมเคยยืนยันอย่างชัดเจนมาโดยตลอดว่าควรควบคุมการส่งออกชิปไปยังจีน ผมพูดแบบนี้เพราะผมคิดว่าถ้าจีนนำหน้าในด้านความสามารถ AI มันจะแย่มากสำหรับสหรัฐฯ และกระบวนการระดับโลก และผู้ผลิตชิปบางรายก็ไม่เห็นด้วยกับมุมมองนี้อย่างชัดเจน แต่นั่นไม่ได้หยุดผมจากการแสดงความคิดเห็น

แม้หลังจากที่เราได้ลงนามในข้อตกลงความร่วมมือเพิ่มเติมแล้ว ตอนนี้ฉันยังคงย้ำประเด็นนี้อยู่ สิ่งที่พวกเขารู้คือเรายังคงร่วมงานกับพวกเขาตลอดมา เราเป็นพันธมิตรที่ดีมาโดยตลอด เราทำงานร่วมกันได้ ฉันแน่ใจว่าพวกเขาอยากให้เราไม่พูด这些话 แต่สิ่งเหล่านี้คือสิ่งที่ฉันเชื่อจริงๆ

คุณจะทำอย่างไร? ในที่สุดพวกเขาก็จะตกลงกันได้ ผลประโยชน์ที่พวกเขาได้รับจากดีลเหล่านี้เทียบเท่ากับของเรา ดูสิ เราทุกคนเป็นผู้ใหญ่แล้ว เราสามารถร่วมมือกันในเรื่องหนึ่ง และยังคงมีความเห็นต่างในอีกเรื่องหนึ่งได้

Emily Chang: Bloomberg รายงานว่ามูลค่าของคุณสูงกว่า OpenAI เสียอีก เรากำลังพูดถึงสตาร์ทอัพที่ก่อตั้งมาแค่ห้าปี มีมูลค่าเกือบหนึ่งล้านล้านดอลลาร์ คุณเข้าใจเรื่องนี้อย่างไร? เกี่ยวกับตัวเลขนั้น และ เมื่อคุณมีวินัยในด้านทรัพยากรการคำนวณมากกว่าและมีเส้นทางสู่การทำกำไรที่เร็วกว่า ทำไมคุณถึงยังต้องการเงินจำนวนมากขนาดนี้?

Dario Amodei: การขยายขนาดทรัพยากรการคำนวณเกิดขึ้นอย่างรวดเร็วมาก ดังนั้นพื้นฐานทางธุรกิจที่ดูดีนั้นเป็นความจริง แต่ในอีกหนึ่งปีข้างหน้า ขนาดทรัพยากรการคำนวณของคุณอาจเพิ่มขึ้นเป็น 3 หรือ 4 เท่าของตอนนี้—ฉันจะไม่ให้ตัวเลขที่แน่นอน แต่ การเติบโตของทรัพยากรการคำนวณประเภทนี้รวดเร็วมาก

เรามีเหตุผลอย่างเต็มที่ที่จะเชื่อว่ารายได้จะเติบโตถึงและเกินกว่าขนาดเหล่านี้ และการระดมทุนก็เป็นมาตรการรองรับความไม่แน่นอนในช่วงนี้

ดังนั้น นี่เป็นการกระทำที่สมเหตุสมผลอย่างยิ่ง การเจือจางหุ้นที่เกิดจากเรื่องนี้ต่อธุรกิจมีน้อยมาก ในเชิงตรรกะ ทั้งสองสิ่งนี้ไม่ใช่เรื่องเดียวกันเลย อันที่จริง มันเข้ากันได้กับสิ่งที่ตรงกันข้าม และไม่ได้หมายความว่าพื้นฐานของธุรกิจมีปัญหาอะไร

Emily Chang: มีรายงานว่าเซิร์ฟเวอร์รับภาระหนักเกินไป มีปัญหาด้านความน่าเชื่อถือ และมีคนบ่นว่า token หมด คุณบอกว่าบริษัทอื่นกำลังทุ่มสุดตัวในการสร้างโครงสร้างพื้นฐาน คุณมีสิ่งที่คุณต้องการจริงๆ หรือคุณกำลังตามให้ทัน?

Dario Amodei: เกี่ยวกับพลังการคำนวณ มีสิ่งที่เรียกว่าพลังการคำนวณทางการตลาด ดังนั้น มุมมองของฉันคือ เมื่อเวลาผ่านไป แม้จะนานกว่าไม่กี่เดือน เราก็สามารถได้รับพลังการคำนวณจำนวนมาก สิ่งที่ควรกล่าวถึงคือ ฉันไม่คิดว่าเราซื้อพลังการคำนวณน้อยเกินไปตามมาตรฐานที่สมเหตุสมผลใดๆ

ดังนั้น แผนเดิมของเราคือให้กำลังการประมวลผล (Hashrate) เติบโต 10 เท่าต่อปี

การเติบโต 10 เท่าต่อปีคือสิ่งที่เราคาดหวังไว้ แต่นั่นไม่ใช่สิ่งที่เราเห็นในตอนนี้ ในไตรมาสแรกของปี 2026 รายได้รายไตรมาสของเราเติบโตมากกว่า 3 เท่า ซึ่งเป็นเพียงข้อมูลของไตรมาสเดียว ไม่ใช่การเติบโตแบบรายปี การเติบโต 3 เท่าภายในไตรมาส แน่นอนว่า 3 ยกกำลัง 4 หมายถึงการเติบโตตลอดทั้งปีจะสูงถึง 80 เท่า

เราไม่ได้คาดการณ์ว่าจะมีการเติบโตแบบรายปีถึง 80 เท่า การวางแผนโดยตั้งเป้าการเติบโตแบบรายปีที่ 80 เท่านั้นไม่สมเหตุสมผล เพราะหากสุดท้ายแล้วทำได้แค่ 10 เท่า คุณก็จะขาดทุนถึง 8 เท่า ดังนั้น เรากำลังอยู่ในช่วงที่กำลังการประมวลผลพุ่งสูงขึ้นอย่างรุนแรงและเฉพาะจุด สถานการณ์นี้จะไม่คงอยู่ตลอดไป

หากสถานการณ์นี้ยังคงดำเนินต่อไป ภายในสิ้นปีคุณจะมีตัวเลขรายได้ที่ไม่มีบริษัทใดบนโลกนี้เทียบถึงได้ ฉันไม่คิดว่าสิ่งนั้นจะเกิดขึ้น มันแค่... มันเป็นไปไม่ได้จริงๆ ที่จะคงอยู่

แต่คุณอาจจะเจอช่วงเวลาสั้นๆ แบบนี้ ที่คุณต้องอุทานว่า ให้ตายสิ มันเร็วกว่าที่เราเคยคาดการณ์ไว้มาก แต่ฉันไม่รู้ คุณได้เห็นข้อตกลงด้านกำลังการประมวลผลกับ Google แล้ว และก็กับ Amazon ด้วย เราสามารถและจะทำได้มากกว่านี้อีก

ตัวอย่างเช่น ตลาดมีความคล่องตัว หากคุณสามารถใช้กำลังการประมวลผลได้อย่างมีประสิทธิภาพมาก และมีความต้องการ คุณก็จะได้รับกำลังการประมวลผลที่ต้องการ อาจจะต้องใช้เวลาสักหนึ่งหรือสองเดือน

การนำในการแข่งขันสู่จุดสูงสุดและวัฒนธรรมองค์กร

Emily Chang: รู้สึกอย่างไรที่เอาชนะคู่แข่งตัวฉกาจของคุณ?

Dario Amodei: ฟังนะ เรายังมีอุปสรรคใหญ่ๆ รออยู่ข้างหน้าอีกมาก เรามีแนวคิด "การแข่งขันสู่จุดสูงสุด" ซึ่งหมายถึงการพยายามดึงบริษัทอื่นๆ ให้เดินไปพร้อมกับเรา ฉันคิดว่าเราได้เห็นแล้วว่าเราทำได้จริง บางครั้งพวกเขาไม่ยอมรับว่ากำลังทำแบบนั้น

บางครั้งพวกเขาโจมตีเราในขณะที่เลียนแบบเรา แต่การดึงนี้มีค่ามาก

ดังนั้นฉันคิดว่า ไม่ว่าจะจากมุมมองทางธุรกิจหรือในระดับโมเดล คุณค่าของการเป็นบริษัทผู้นำในอุตสาหกรรม ไม่ได้อยู่ที่การเอาชนะคู่แข่งเพื่อการแข่งขัน แต่อยู่ที่ความสามารถในการนำทั้งระบบนิเวศให้พัฒนาไปด้วยกัน และเราหวังว่าจะทำสิ่งนี้ได้มากขึ้นในอนาคต

เอมิลี่ ชาง: แต่ก็ต้องบอกว่า การได้รับชัยชนะทำให้รู้สึกดีจริงๆ

ดาริโอ อาโมเดย์: คุณเห็นไหม เรามุ่งมั่นที่จะประสบความสำเร็จเสมอ ใช่ไหม? เหมือนที่เราพยายามกันมา เราไม่ได้อยากจะล้มเหลวที่นี่ ฉันไม่ใช่คนที่คิดว่าเราควรหยุดพัฒนาเทคโนโลยีนี้ หรือไม่ควรสร้างมันขึ้นมา เราอยู่ในระบบวิสาหกิจเสรี และนั่นก็ไม่มีปัญหาอะไร เราแค่ต้องลดความเสี่ยงที่เกิดจากโมเดล ดังนั้น มันจึงเป็นการหาสมดุลระหว่างสองสิ่งนี้เสมอ

เอมิลี่ ชาง: แล้วในช่วงประวัติศาสตร์ส่วนใหญ่ของ Anthropic คุณเคยเป็นรองมาโดยตลอด ฉันคิดว่า เมื่อคุณไม่มีอะไรเลย การยึดจุดยืนทางศีลธรรมที่สูงกว่าก็จะง่ายกว่า ภายใต้ขนาดที่ใหญ่โตแบบนี้ การรักษาความตั้งใจเดิมไว้ยากแค่ไหน?

ดาริโอ อาโมเดย์: ฉันอยากจะบอกว่า ฉันใช้เวลาคิดมากเกี่ยวกับเรื่องนี้ว่าทำไมมันถึงเป็นเช่นนั้น

เมื่อบริษัทขยายตัวขึ้นเรื่อยๆ ฉันก็เฝ้าระวังในทุกช่วงของขนาด ในทุกขั้นตอนของการพัฒนาบริษัท จะมีความท้าทายใหม่ๆ เกิดขึ้น บริษัทอาจสูญเสียเอกลักษณ์ของตัวเองในรูปแบบใหม่ๆ ไม่ว่าจะเป็นในด้านความทะเยอทะยานทางธุรกิจ หรือค่านิยมหลักของมัน

ฉันกังวลเกี่ยวกับทั้งสองสิ่งนี้ เพราะฉันคิดว่ามันทำงานร่วมกัน

จริงๆ แล้ว ฉันคิดว่า การที่เราสามารถสร้างโมเดลที่ยอดเยี่ยมขนาดนี้ได้ เป็นกุญแจสำคัญที่ทำให้เราสามารถปฏิบัติตามค่านิยมได้อย่างมีประสิทธิภาพ เมื่อบริษัทเติบโตและแข็งแกร่งขึ้น มันมีกับดักมากมาย มีหลายวิธีที่อาจผิดพลาดได้ ซึ่งไม่ใช่เพราะค่านิยมของฉัน ผู้ร่วมก่อตั้ง หรือผู้นำบริษัทเปลี่ยนไป แต่เป็นเพราะองค์ประกอบของบริษัทเปลี่ยนแปลงเร็วมาก

ดังนั้น ฉันอาจใช้เวลาครึ่งหนึ่งพูดคุยกับบริษัทเกี่ยวกับวัฒนธรรมของ Anthropic และว่ามันทำงานอย่างไร เมื่อคุณเติบโตเร็วขนาดนี้ คุณจะจ้างคนจำนวนมากจากบริษัทเทคโนโลยีขนาดใหญ่

ถ้าคุณไม่บอกพวกเขาว่า Anthropic ทำงานอย่างไร พวกเขาก็แค่จะทำซ้ำสิ่งที่พวกเขาคุ้นเคยเพียงอย่างเดียว นั่นคือวิธีการทำงานของบริษัทเดิมที่พวกเขามาจาก

ดังนั้น นี่คือการต่อสู้ที่ต่อเนื่อง และเป็นความท้าทายที่ไม่มีวันสิ้นสุด

มันเหมือนกับว่า สิ่งสำคัญอันดับแรกที่สุดสำหรับฉันและ Daniela คือการหาวิธีรักษาสิ่งนี้ไว้ เพราะเราตระหนักดีว่า ในระยะยาว นี่คือแก่นแท้ของเรา

ประสิทธิภาพการวิจัยและพัฒนา กับ ความก้าวหน้าทางวิทยาศาสตร์

Emily Chang: วงจรการพัฒนาผลิตภัณฑ์ของคุณเร็วอย่างน่าทึ่ง คุณปล่อยผลิตภัณฑ์ออกมามากมายและรวดเร็วจน难以置信 คุณทำได้อย่างไร?

Dario Amodei: ผมอยากพูดถึงสองประเด็น ประเด็นแรกคือ เราเป็นบริษัทที่มีความเป็นหนึ่งเดียว เรามีวัฒนธรรมองค์กรที่รวมเป็นหนึ่ง ผมคิดว่าเรายังคงรักษาประสิทธิภาพที่สูงมากไว้ได้ในขณะที่ขยายขนาด ทุกคนยังคงมีเป้าหมายเดียวกัน ซึ่งสะท้อนถึงความเป็นหนึ่งเดียวทางวัฒนธรรมและองค์กร ผมคิดว่านี่คือปัจจัยที่สำคัญที่สุด

ส่วนปัจจัยที่สอง ผมอยากบอกว่ามันคือ Claude เอง ตอนนี้เรากำลังใช้ Claude เพื่อช่วยเหลือ ใช้มันช่วยพัฒนาโมเดล เพิ่มประสิทธิภาพของโมเดล และพัฒนาผลิตภัณฑ์อย่างรวดเร็ว เพื่อสิ่งนี้ คุณต้องพัฒนาแนวทางปฏิบัติใหม่ๆ มากมาย แม้ว่าเราจะยังใหม่ในด้านนี้ แต่มันก็สร้างความเร่งที่ชัดเจนแล้ว และความเร่งนี้กำลังมีความน่าเชื่อถือมากขึ้นเรื่อยๆ นี่คือสองปัจจัยที่ผมจะชี้ให้เห็น

Emily Chang: คุณช่วยบอกฉันถึง สิ่งที่สุดโต่งที่สุดที่ AI เคยทำ ที่คุณเคยเห็นได้ไหม?

Dario Amodei: ผมคิดว่าสิ่งที่บ้าที่สุดที่ผมเคยเห็นส่วนใหญ่เกิดขึ้นในสาขาชีววิทยาและการแพทย์ ผมเคยเห็นหลายกรณี รวมถึงกรณีของ Daniela ด้วย ที่ Claude วินิจฉัยปัญหาทางการแพทย์ที่แพทย์ผู้เชี่ยวชาญหลายคนมองข้าม ในด้านชีววิทยา โมเดลเหล่านี้เริ่มทำงานได้อย่างน่าทึ่งในงานต่างๆ เช่น การออกแบบยา เคมีเชิงคำนวณ ในฐานะอดีตนักชีววิทยา เมื่อผมดูผลลัพธ์เหล่านี้ ผมอดไม่ได้ที่จะรู้สึกว่า มันยากจริงๆ

คุณรู้ไหม การทำงานเหล่านี้ต้องผ่านการฝึกฝนอย่างหนักและเชี่ยวชาญ และ Claude ก็กำลังเก่งขึ้นเรื่อยๆ ในด้านนี้ นี่คือสาขาที่ผมคิดว่าเราจะได้รับผลประโยชน์มหาศาล นี่คือด้านบวก เราจะได้รับสวัสดิการที่ยิ่งใหญ่เหล่านี้ ชีวิตจะดีขึ้น คุณภาพของประสบการณ์ของมนุษย์จะดีขึ้น

เอมิลี่ ชาง: ความก้าวหน้าทางวิทยาศาสตร์หนึ่งศตวรรษ

ดาริโอ อาโมเดย์: ความก้าวหน้าทางวิทยาศาสตร์หนึ่งศตวรรษ และความก้าวหน้าในระดับประสบการณ์ของมนุษย์หนึ่งศตวรรษ ตัวอย่างเช่น ย้อนกลับไปในปี 1900 ลองนึกถึงปัญหาทั้งหมดที่เราเผชิญในปี 1900 สาเหตุทั้งหมดที่ทำให้คนเสียชีวิตก่อนวัยอันควร ความทุกข์ทรมานที่พวกเขาต้องแบกรับ และการขาดแคลนวัตถุที่เราไม่ต้องเผชิญอีกต่อไปในวันนี้

แล้วลองจินตนาการถึงอีกร้อยปีข้างหน้า ผมเชื่ออย่างจริงใจว่าความก้าวหน้าทางวิทยาศาสตร์และการแพทย์ในศตวรรษนี้ หากเราผ่านพ้นอุปสรรคในปัจจุบันไปได้—และผมเชื่อว่าเราทำได้ ผมเริ่มมองโลกในแง่ดีมากขึ้น เราจะมีโลกที่ดีกว่าที่เป็นอยู่ตอนนี้มาก

การเขียน การคิด และความช่วยเหลือจาก AI

เอมิลี่ ชาง: ผมรู้ว่าคุณรักการเขียนมากแค่ไหน คุณมีชื่อเสียงจากการเขียนบทความ คุณใช้ Claude เพื่อช่วยในการเขียนหรือไม่?

ดาริโอ อาโมเดย์: ผมใช้ครับ ผมยังไม่ถึงขั้นนำข้อความที่ Claude เขียนมาใช้โดยตรง เพราะผมมีสไตล์เฉพาะตัวและค่อนข้างจู้จี้ แต่โดยพื้นฐานแล้วผมใช้ Claude เพื่อช่วยระดมความคิด จัดระเบียบหัวข้อ หรือให้เนื้อหาที่ผมสามารถอ้างอิงได้

ดังนั้นมันจึงเป็นบทบาทเสริม ผมไม่รู้ว่าต้องใช้เวลานานแค่ไหนกว่า Claude จะเขียนงานที่ดีกว่าผมได้ เรายังไม่ถึงจุดนั้น แต่ ผมคิดว่าวันนั้นจะมาถึงแน่นอน

เอมิลี่ ชาง: ผมก็รักการเขียนเหมือนกัน ผมคิดว่าการเขียนช่วยให้คุณจัดระเบียบความคิด มันเกี่ยวข้องกับการคิดเชิงวิพากษ์อย่างมาก ถ้าเราให้ Claude ทำแทน เราจะสูญเสียความสามารถนี้ไปหรือไม่?

ดาริโอ อาโมเดย์: ผมกังวลเกี่ยวกับเรื่องนี้อยู่บ้าง อันที่จริง นี่คือครึ่งหนึ่งของเหตุผลที่ผมยังคงเขียนด้วยตัวเอง มันเป็นเรื่องจริงสำหรับผู้ชมภายนอก แม้ว่าจะมีคนมากมายอ่านบทความของผม แต่ การเขียนก็เพื่อจัดระเบียบความคิดของผมเองเช่นกัน เพื่อให้ผมรู้ว่าต้องทำอะไรต่อไป และสร้างจุดอ้างอิงร่วมกันระหว่างผมกับคนอื่น

ฉันคิดว่าเรายังคงกำลังสำรวจวิธีการใช้ AI ที่สามารถรักษาประโยชน์เหล่านี้ไว้ได้ สิ่งที่ฉันทำอยู่ตอนนี้ก็คือการใช้ Claude เพื่อการวิจัย และใช้ Claude เพื่อช่วยจัดระเบียบความคิดของตัวเอง

ฉันคิดว่าถ้าเราใช้มันตลอดกระบวนการ เช่น ให้มันเขียนบทความเกี่ยวกับความเสี่ยงของ AI ก่อนอื่น มันไม่สามารถเขียนมุมมองส่วนตัวของฉันได้ และประการที่สอง ฉันก็จะสูญเสียประโยชน์ที่ได้จากการเขียนไปด้วย เมื่อโมเดลมีประสิทธิภาพดีขึ้น ฉันคิดว่าในอนาคตคงจะมีวิธีที่ตรงไปตรงมามากขึ้นในการใช้มันในการเขียน พร้อมกับรักษาประโยชน์เหล่านี้ไว้ แต่มันจะเป็นกระบวนการที่ละเอียดอ่อน สถานการณ์จะไม่เป็นแบบเดียว เราต้องค่อยๆ ค้นหาไปในอนาคต

ฉันคิดว่าเราอาจจะเห็นการผสมผสานที่ผิดปกติอย่างมาก นั่นคือ GDP เติบโตสูงพร้อมกับอัตราการว่างงานที่สูง หรืออย่างน้อยก็การจ้างงานที่ไม่เต็มที่ หรือการมีงานค่าจ้างต่ำจำนวนมาก และความไม่เท่าเทียมที่รุนแรง

ความเสี่ยงการว่างงาน ผลิตภาพ และนโยบายมหภาค

Emily Chang: คุณพูดถึงปัญหาการว่างงานอย่างตรงไปตรงมามาก AI อาจทำให้ตำแหน่งงานระดับเริ่มต้นในสายงานออฟฟิศครึ่งหนึ่งหายไปใน 1 ถึง 5 ปีข้างหน้า นั่นคือสิ่งที่คุณพูดเมื่อปีที่แล้ว การพัฒนา AI รวดเร็วอย่างน่าตกใจ ตอนนี้ยังคงเป็น 50% หรือสูงกว่านั้น?

Dario Amodei: ฉันเคยพูดมาตลอด ถ้าคุณย้อนกลับไปดูคลิปต้นฉบับ มันมักจะถูกตัดต่อให้ขาดบริบทแค่สามวินาที แต่จริงๆ แล้ว สิ่งที่ฉันพูดจริงๆ คือ ฉันไม่รู้ว่าอนาคตจะเป็นอย่างไร แต่นี่บ่งชี้ว่าสถานการณ์อาจเกิดการเปลี่ยนแปลงอย่างรุนแรงในระดับที่เทียบเท่ากับการเปลี่ยนแปลงครั้งใหญ่

และฉันก็พูดถึงมาตรการที่เราสามารถทำได้ ฉันเคยพูดถึงภาษีโทเค็น และการร่วมมือกับบริษัทต่างๆ เพื่อปรับการจัดบุคลากร ฉันค่อนข้างสงสัยในแผนการฝึกอบรมใหม่ แต่เราควรนำเรื่องนี้มาพิจารณาในนโยบายเศรษฐกิจมหภาค

ตั้งแต่แรกเริ่ม สิ่งที่ฉันพูดถึงคือแนวทางแก้ไขเสมอ แต่ดูเหมือนว่าจิตวิทยาของมนุษย์มักจะตัดเอาสามวินาทีเกี่ยวกับวันสิ้นโลกออกมา ดังนั้น ข้อความที่ฉันต้องการสื่อไม่ใช่วันสิ้นโลก สิ่งที่ฉันอยากบอกคือ นี่คือสิ่งที่เราควรคาดการณ์และกังวล และเราจำเป็นต้องตอบสนองด้วยทัศนคติเชิงบวก ฉันไม่แน่ใจทั้งหมด แต่ฉันยังคงกังวลพอสมควร ระดับความกังวลของฉันยังคงอยู่ในระดับเดิม

ตอนนี้เราเห็นว่า AI กำลังเพิ่มประสิทธิภาพการทำงานของมนุษย์ แต่นี่เป็นเพียงช่วงเริ่มต้นของการเติบโตตามปกติ หากคุณย้อนกลับไปดูยุคปฏิวัติอุตสาหกรรม ผมเขียนเรื่องนี้ไว้ในหนังสือ *Adolescence of Technology* คุณทำให้งาน 90% เป็นอัตโนมัติ ซึ่งเป็นสิ่งที่ดี

ประสิทธิภาพของคนในงานที่เหลืออีก 10% เพิ่มขึ้นถึง 10 เท่า เพราะพวกเขาได้รับอานิสงส์จากเลเวอเรจ 10 เท่า แต่สุดท้ายมันจะเข้าใกล้ 100% แล้วปัญหาที่ตามมาคือ คุณต้องหางานอื่นให้พวกเขาทำ

สำหรับการพัฒนาในระยะยาว ผมยังไม่แน่ใจ ผมรู้สึกไม่แน่ใจจริงๆ กับเรื่องนี้ แต่ผมคิดว่ามีการปรับตัวหลายรูปแบบ ตัวอย่างเช่น สิ่งหนึ่งที่ผมพูดถึงคือวิศวกรซอฟต์แวร์ภายใน Anthropic ตอนนี้เรากำลังอยู่ในช่วงเปลี่ยนผ่านนี้ แม้ว่า AI จะเขียนโค้ดทั้งหมดหรือเกือบทั้งหมด แต่ AI ก็ทำให้วิศวกรซอฟต์แวร์มีประสิทธิภาพมากขึ้น

ถึงกระนั้น มันก็ยังเพิ่มประสิทธิภาพของคน อย่างไรก็ตาม เราเริ่มเห็นสัญญาณแล้วว่าสำหรับบางคน มันอาจไม่ได้เพิ่มประสิทธิภาพของพวกเขา ในกรณีนี้ การให้ AI ทำงานโดยตรงอาจให้ผลลัพธ์ที่ดีกว่า

นี่คือแง่มุมหนึ่งของปัญหา ส่วนอีกแง่มุมคือ เราต้องเพิ่มความต้องการในด้านใดบ้าง? เราเรียกพวกเขาว่าวิศวกรปรับใช้แนวหน้า หรือคล้ายกับสถาปนิกโซลูชันประยุกต์ใช้ AI ซึ่งงานของพวกเขาผสมผสานระหว่างการพัฒนาเทคโนโลยีและการสื่อสารกับลูกค้า ปัจจุบันความต้องการบุคลากรประเภทนี้มีมหาศาล เพราะฐานลูกค้ากว้างใหญ่และเราอยู่ในช่วงขยายตัวอย่างรวดเร็ว

แล้วนี่เหมาะกับทุกคนที่ทำงานด้านวิศวกรรมซอฟต์แวร์ล้วนๆ หรือไม่? มันไม่ใช่การจับคู่ที่สมบูรณ์แบบ มันไม่ใช่ความสัมพันธ์แบบหนึ่งต่อหนึ่ง สิ่งนี้ทำให้คุณตระหนักว่าอนาคตจะมีการพลิกผันครั้งใหญ่ แต่สิ่งต่างๆ ก็จะปรับตัวตามไปด้วย ฝ่ายไหนจะชนะ? ผมไม่รู้

แต่เหตุผลที่ต้องออกคำเตือนล่วงหน้า ก็เพราะนี่คือวิธีที่เราจะรับมือ นี่คือพื้นฐานที่เราจะกำหนดนโยบาย ไม่ว่าจะในระดับมนุษย์เอง หรือในระดับเศรษฐกิจมหภาคโลก เราต้องการนำเสนอความคิดที่ผ่านการไตร่ตรองอย่างรอบคอบ เราไม่อยากให้คำมั่นสัญญาที่ผู้คนคิดว่าไม่สามารถทำได้จริงหรือเป็นจริง เราไม่อยากพูดในสิ่งที่ยังไม่ได้รับการพิสูจน์อย่างเพียงพอ เราต้องการคิดอย่างรอบคอบเกี่ยวกับปัญหาเหล่านี้ และแสวงหามาตรการที่สามารถนำไปปฏิบัติได้จริง

Emily Chang: คุณแสดงแผนภูมิที่แสดงถึงการสูญเสียตำแหน่งงานที่อาจเกิดขึ้น เช่น ในด้านการขาย การเงิน ฯลฯ งานไหนจะหายไป ใครจะถูกแทนที่ และงานใหม่ๆ อะไรจะถูกสร้างขึ้น?

ดาริโอ อาโมเดย์: จริงๆ แล้วไม่มีใครสามารถยืนยันได้ เพราะเศรษฐกิจเป็นสิ่งที่คาดเดาไม่ได้ เหมือนกับตลาดหุ้น มันเป็นกระบวนการที่กระจายอำนาจ คุณไม่สามารถรู้ล่วงหน้าได้จริงๆ ว่าส่วนงานที่มนุษย์ยังคงทำได้ดีในอนาคตคืออะไร

แต่สิ่งที่ผมอยากพูดคือ โดยภาพรวมแล้ว ในทุกสาขาที่มีงานระดับเริ่มต้นสำหรับพนักงานออฟฟิศ ไม่ว่าจะเป็นธนาคาร การเงิน หรืออุตสาหกรรมอื่นๆ AI มีศักยภาพมหาศาลในการเพิ่มประสิทธิภาพการทำงานของมนุษย์ก่อน แต่หลังจากนั้น AI จะมีความสามารถในการแทนที่มนุษย์ในการทำงานทั้งหมดอย่างสมบูรณ์

จากนั้นเราต้องคิดว่า มนุษย์จะทำอะไรได้บ้าง? ผมคิดว่าเราต้องวางแผนล่วงหน้า เมื่อเราคุยกับลูกค้าองค์กร เรากำลังทำสิ่งนี้อยู่แล้ว เราเห็นทางเลือกที่พวกเขาเผชิญ ทางเลือกของพวกเขาคือ ฉันควรลดต้นทุนหรือไม่?

ซึ่งโดยปกติหมายถึงการลดพนักงาน โดยพื้นฐานคือใช้ทรัพยากรน้อยลงเพื่อทำสิ่งเดียวกัน หรือเราควรทำสิ่งต่างๆ มากขึ้นโดยใช้ทรัพยากรเท่าเดิม? เมื่อมีโอกาส เรามักจะพยายามผลักดันให้พวกเขาใช้ทรัพยากรเท่าเดิมเพื่อทำสิ่งต่างๆ มากขึ้น เพราะนั่นหมายถึงการจ้างพนักงานจำนวนเท่าเดิมหรือมากกว่า เพื่อทำงานใหม่ๆ ซึ่งผลักดันให้พวกเขาบรรลุเกมที่ได้ประโยชน์ร่วมกัน

ข้อได้เปรียบที่เราอยู่ในตอนนี้คือ เค้กจะขยายตัวอย่างมหาศาล เพราะเค้กจะขยายตัวมาก จึงมีแนวโน้มว่าจะมีสาขาใหม่ๆ ที่มนุษย์สามารถเข้าไปได้ ปัญหาอยู่ที่ว่าเราจะหาความสอดคล้องนี้ได้เร็วพอหรือไม่ การพลิกผันครั้งนี้จะมีขนาดใหญ่มาก นี่คือสิ่งที่ผมเตือนให้ผู้คนตระหนัก แต่เราต้องแก้ปัญหาการจับคู่นี้

เอมิลี่ ชาง: ช่วยจำลองให้ฉันฟังหน่อย เช่น ห้าปีต่อมาเมื่อคุณตื่นขึ้น ประเทศนี้จะเป็นอย่างไร? คนเหล่านี้กำลังทำอะไร? เพราะถ้าอัตราการว่างงานถึงระดับนั้น มันไม่ใช่สัญญาณเริ่มต้นของการปฏิวัติหรือ?

ดาริโอ อาโมเดย์: นี่คือสิ่งที่เราต้องการป้องกัน เราต้องหลีกเลี่ยงสถานการณ์นั้นอย่างแน่นอน

ผมคิดว่ามีจุดเริ่มต้นหลายจุด ไม่มีการรับประกันอะไรเลย เราไม่สามารถยืนยันได้ แต่ยังมีโลกทางกายภาพ เช่น สิ่งต่างๆ ที่มีอยู่ในโลกทางกายภาพ การปฏิวัติหุ่นยนต์ก็กำลังเกิดขึ้น แต่มันช้ากว่าสิ่งที่เกิดขึ้นในวงการ AI มาก ผู้คนมักพูดถึงการสร้างศูนย์ข้อมูล แต่เมื่อการจัดการข้อมูลทุกประเภทกลายเป็นเรื่องง่ายขึ้น ปัจจัยจำกัดอาจกลายเป็นสิ่งต่างๆ ในโลกทางกายภาพ

ดังนั้น เราต้องการคนจำนวนมากขึ้นในการผลิต สร้าง และผลิตในโลกทางกายภาพ

สิ่งใดก็ตามที่เน้นมนุษย์เป็นศูนย์กลาง ฉันคิดว่านั่นจะเป็นเรื่องใหญ่ ฉันเคยได้ยินเรื่องราวมากมายเกี่ยวกับ AI ที่ค้นพบปัญหาที่แพทย์ไม่พบ ฉันรู้สึกดีใจ แต่ผู้คนก็ยังต้องการสื่อสารกับมนุษย์คนอื่น โดยเฉพาะเมื่อต้องจัดการกับเรื่องสำคัญ บางที AI อาจให้บริการลูกค้าที่ดีกว่า แต่ถึงอย่างนั้น ผู้คน หรืออย่างน้อยบางส่วน ก็ยังต้องการพูดคุยกับมนุษย์

ดังนั้น งานที่เน้นความสัมพันธ์ระหว่างมนุษย์แบบนี้ ฉันคิดว่ามันจะมีความสำคัญ และฉันคิดว่ามนุษย์จะพยายามชี้นำ AI ในระดับหนึ่ง มันต้องสอดคล้องกับค่านิยมและเจตนาของใครบางคน ดังนั้นฉันคิดว่าจะมีบทบาทบางอย่างในด้านนี้ แม้ว่าฉันจะไม่รู้ว่าบทบาทนั้นจะอ่อนแอหรือแข็งแกร่ง ฉันคิดว่ามันยากที่จะบอก

โต้กลับข้อกล่าวหา "การตลาดแบบ末日"

Emily Chang: ตอนนี้มีเสียงคัดค้านมากมาย ฉันรู้ว่าคุณบอกว่าคุณพยายามเตือนผู้คน แต่ Jensen Huang กล่าวว่าคุณกำลังสับสนระหว่างภารกิจกับงาน คนอื่นๆ ก็บอกว่านี่เป็น "การตลาดแบบ末日" ที่เป็นประโยชน์ต่อ Anthropic ดังนั้นฉันหวังว่าจะชี้แจงและโต้แย้งเรื่องนี้อย่างชัดเจน

Dario Amodei: เกี่ยวกับภาพรวมของความเสี่ยงด้านการว่างงาน ฉันมีความคิดบางอย่าง คือว่า เรายังไม่ได้ขยายความความคิดเหล่านี้อย่างเต็มที่ เพราะฉันต้องการให้แน่ใจว่ามันแม่นยำ แต่ Anthropic ได้เสนอแผนงานมากมาย เราเคยตั้งกองทุนสนับสนุนทางเศรษฐกิจ เรามีดัชนีเศรษฐกิจ ฉันพูดถึงแนวทางที่เป็นไปได้ในการจัดการความเสี่ยงเหล่านี้ผ่านภาษีและนโยบายเศรษฐกิจมหภาค เกี่ยวกับว่างานใหม่คืออะไร

ในช่วงเริ่มต้นของเทคโนโลยี ฉันได้อธิบายไว้ ฉันมีเนื้อหาประมาณ 5 หน้าที่พูดถึงความแตกต่างระหว่างภารกิจกับงานโดยเฉพาะ ว่าทำไมครั้งนี้ถึงแตกต่างจากครั้งก่อน และระบุ 6 สิ่งที่เราทำได้ ตั้งแต่การกุศลส่วนตัวไปจนถึงการดำเนินการของรัฐบาล ฉันพูดถึงทั้งปัญหาและแนวทางแก้ไข

แต่ โซเชียลมีเดีย ฉันเกลียดมันมาก ในฐานะหมวดหมู่ ฉันเกลียดมันมาก ผู้คนจะตัดคลิปสั้นสามวินาทีจากปีก่อน พวกเขาไม่ได้อ่านบทความจริงๆ หรือพวกเขาใช้ประโยชน์จากลักษณะของโซเชียลมีเดีย—และในบทความของฉัน ฉันได้พูดถึงความเสี่ยงเหล่านี้อย่างละเอียดถี่ถ้วนแล้ว

การคิดว่านี่เป็นแค่การตลาดราคาถูกนั้นก็เป็นการตลาดราคาถูกเช่นกัน มันคือความขี้เกียจ มันคือความล้มเหลวในการมีส่วนร่วมกับงานทางปัญญาที่จริงจัง ฉันคิดว่านี่เป็นส่วนหนึ่งของปัญหาด้วยเช่นกัน ขอย้ำอีกครั้ง ฉันคิดว่านี่เป็นส่วนหนึ่งของโรคเรื้อรังของ Silicon Valley ที่ติดอยู่ในโลกโซเชียลมีเดียสามวินาทีนี้

ดังนั้นผู้คนจึงตอบสนองต่อเนื้อหาเหล่านี้เท่านั้น หรือพวกเขาคิดว่าตัวเองจำเป็นต้องตอบสนองต่อเนื้อหาเหล่านี้เท่านั้น ขอย้ำอีกครั้ง ฉันคิดว่ามันอันตรายมาก และเราล้มเหลวในการสนทนาที่เป็นผู้ใหญ่

ในทางกลับกัน ผู้คนกลับมองคลิปสามวินาทีนี้อย่างขี้เกียจ แล้วพวกเขาก็จะพูดว่า โอ้ นี่คือสิ่งที่ Dario พูดตอนนั้น มันโง่มาก มันไม่จริงจังเลย ทุกครั้งที่มีคนพูดแบบนี้ ฉันจะลดความนับถือที่มีต่อคนนั้นลง

เส้นสีแดงด้านความมั่นคงแห่งชาติและ AI ทางการทหาร

ผู้บรรยาย หนึ่งในบริษัท AI ชั้นนำของโลกกำลังฝังตัวลึกในหลายด้านของความมั่นคงแห่งชาติของสหรัฐฯ รวมถึงปฏิบัติการทางทหาร การเผชิญหน้าระหว่าง Anthropic กับ Pentagon เกี่ยวกับมาตรการป้องกันความปลอดภัยทางทหารของ AI กำลังทวีความรุนแรงขึ้น

Emily Chang: คุณมีจุดยืนต่อต้านสงครามมายาวนาน ย้อนกลับไปถึงสมัยที่ Caltech อย่างไรก็ตาม คุณเป็นหนึ่งในบริษัท AI แรกๆ ที่เซ็นสัญญากับ Department of Defense เพื่อดำเนินการบนเครือข่ายลับของ U.S. เพื่อใช้ในการทำสงคราม อธิบายหน่อย

Dario Amodei: ครับ ผมอยากจะบอกว่า โลกกำลังเปลี่ยนแปลงไป ดังที่ผมกังวลเกี่ยวกับเทคโนโลยีนี้ ผมรู้สึกกังวลเพราะ เรากำลังเผชิญหน้ากับกลุ่มอำนาจนิยมที่ฟื้นคืนชีพ ซึ่งก้าวร้าวมาก และเราจำเป็นต้องปกป้องตัวเอง

นี่คือมุมมองที่ผมเชื่อมั่นมาโดยตลอด และยังคงยึดถืออยู่ ด้วยเหตุนี้ ในช่วงสองรัฐบาลที่ผ่านมา แม้ว่าผมอาจจะไม่เห็นด้วยกับทุกนโยบาย แต่นี่คือเหตุผลที่เราสนับสนุนเรื่องนี้โดยทั่วไป

ดังนั้นนี่คือเหตุผลที่เราร่วมงานกับพวกเขา แน่นอนว่าเราไม่ได้ทำเพื่อเงิน มันยุ่งยากมาก แม้จะไม่นับรวมสงครามกฎหมาย การปรับใช้บนเครือข่ายรัฐบาลก็ให้ผลตอบแทนไม่มาก แต่ใช้ความพยายามมหาศาล ดังนั้น เราทำเพราะเรามีความรู้สึกถึงภารกิจ แต่ในขณะเดียวกัน เนื่องจากเราทำงานนี้ด้วยความห่วงใย การใช้เทคโนโลยีนี้จึงต้องมีข้อจำกัด

[เมื่อผมพูดถึงขั้นตอนการพัฒนาเทคโนโลยี ผมเคยเสนอแนวคิดนี้ไว้ว่า: เราควรใช้เทคโนโลยีนี้ในทุกด้าน ยกเว้นวิธีที่ทำลายค่านิยมของเราเอง และเส้นแบ่งที่เรากำหนดไว้ เช่น การเฝ้าระวังขนาดใหญ่และอาวุธอัตโนมัติเต็มรูปแบบ คือสิ่งที่ผมคิดว่าจะทำลายค่านิยมของเรา

หากใช้วิธีการเหล่านี้ แม้จะชนะก็ไร้ความหมาย นี่คือจุดสมดุลที่ผมเห็น และเป็นจุดยืนที่เรายึดถือ นอกจากนี้ยังอธิบายว่าทำไมเราจึงเป็นหนึ่งในบริษัทแรกๆ ที่ร่วมงานกับ Department of War ในขณะที่คนอื่นๆ เต็มใจทำบางอย่าง เรากลับเลือกทำและไม่ทำ

ผมคิดว่าคุณต้องเลือกจุดยืนและยึดมั่นในนั้น การที่บริษัทเปลี่ยนจุดยืนไปมา—จากที่เคยประกาศว่าจะไม่ร่วมงานกับรัฐบาล แล้วจู่ๆ ก็รับทุกความต้องการของรัฐบาล—ผมไม่เข้าใจเลย คุณควรเลือกหลักการของคุณและยึดมั่นในนั้น

Emily Chang: คุณร่วมงานกับ Palantir มาตั้งแต่ปี 2024

Dario Amodei: ใช่แล้ว

Emily Chang: เทคโนโลยีของพวกเขาถูกใช้โดย ICE และหน่วยตำรวจในกาซา Claude ถูกใช้เพื่อการเฝ้าระวังในรูปแบบอื่นหรือไม่?

Dario Amodei: เราไม่ได้ร่วมงานกับ ICE ไม่ว่าจะผ่าน Palantir หรือช่องทางอื่นใด เราไม่ร่วมงานกับ CBP ผมไม่คิดว่าเรามีธุรกิจในกาซา เราจำกัดขอบเขตความร่วมมือของเราไว้เฉพาะสิ่งที่เราเห็นด้วยอย่างระมัดระวัง

Emily Chang: ดังนั้น คุณกำหนดเส้นแบ่งของคุณ ประธานาธิบดีห้ามคุณร่วมงานกับรัฐบาลกลาง เพนตากอนระบุว่าคุณเป็นความเสี่ยงในห่วงโซ่อุปทาน และ OpenAI ก็เซ็นสัญญาที่คุณปฏิเสธ การชนะการต่อสู้ครั้งนี้จริงๆ แล้วเป็นอย่างไร?

Dario Amodei: ผมไม่คิดว่าบริษัทเอกชนจะชนะการต่อสู้ครั้งนี้ได้ นี่ไม่ใช่การต่อสู้เลย Anthropic ไม่ได้พยายามชนะ หรือคิดถึงเรื่องชนะหรือแพ้ นี่เป็นการถกเถียงเกี่ยวกับวิธีที่รัฐบาลใช้ AI อย่างถูกต้องมากกว่า AI เป็นเทคโนโลยีที่เพิ่งเกิดขึ้น เรายังไม่รู้ว่ามันเชื่อถือได้ในด้านไหน และไม่น่าเชื่อถือในด้านไหน เรายังไม่รู้ว่ามันส่งเสริมค่านิยมของเราในด้านไหน หรือทำให้ค่านิยมของเราอ่อนแอลงในด้านไหน

ดังนั้น หนึ่งในสิ่งที่สำคัญสำหรับฉันคือการสร้างแบบอย่างสำหรับกรณีการใช้งานที่เราคิดว่าดี—พูดตรงๆ ว่าส่วนใหญ่ก็ดี—และกรณีที่เรากังวล อย่างที่ฉันบอกไป เราเห็นแล้วว่าสัญญามีข้อจำกัดในที่สุด เช่นเดียวกับที่เราเห็น คนอื่นอาจเซ็นสัญญาที่ไม่เคารพขีดจำกัดเดียวกันกับคุณ

แต่มันช่วยเพิ่มความตระหนักรู้ในประเด็นนี้ ขณะนี้ในสภาคองเกรสมีความร่วมมือสองพรรคอย่างจริงจังพยายามห้ามสิ่งที่เรากังวลและพยายามตั้งมาตรการป้องกัน ขอย้ำอีกครั้ง ฉันไม่อยากมองว่านี่คือการต่อสู้ แต่ในระดับหนึ่ง มันได้ผลในการผลักดันให้ประเทศของเราคิดอย่างรอบคอบมากขึ้นเกี่ยวกับการใช้เทคโนโลยีนี้อย่างเหมาะสม

ค่านิยมและจริยธรรมทางการทหาร

Emily Chang: ผู้บริหารของ Anthropic เป็นพวกคลั่งไคล้อุดมการณ์ที่ไม่ควรมีอำนาจตัดสินใจแต่เพียงผู้เดียว สิ่งที่ฉันกังวลคือปัญหา AI ในวงกว้าง คุณรังเกียจไหมที่ถูกเรียกว่าพวกคลั่งไคล้อุดมการณ์หรือกลุ่มซ้ายจัด?

Dario Amodei: ฉันถูกด่าหนักกว่านี้ตลอดเวลา ผู้คนสามารถเรียกฉันหรือ Anthropic ตามที่พวกเขาต้องการ สิ่งที่สำคัญจริงๆ คือสองอย่าง: ในฐานะบริษัท เราประสบความสำเร็จ และเรายึดมั่นในค่านิยมของเรา จริงๆ แล้ว ในบางแง่ ชีวิตฉันง่ายมาก เพราะเมื่อคุณไล่ตามแค่สองสิ่งนั้น มันก็ง่ายมาก ใช่ไหม? แบบนั้น คุณรู้เสมอว่าคุณยืนอยู่ตรงไหน

Emily Chang: เจ้าหน้าที่สหรัฐฯ คนหนึ่งเคยกล่าวว่า ด้วยความช่วยเหลือของ LLM กองทัพสหรัฐฯ ได้เพิ่มจำนวนเป้าหมายการโจมตีรายวันจาก 1,000 เป็น 5,000 เป้าหมาย นั่นหมายความว่า Claude สามารถช่วยฆ่าคนได้เร็วขึ้นและมากขึ้น คุณสบายใจกับเรื่องนี้ไหม?

Dario Amodei: ฉันคิดว่ามีสองเรื่องที่นี่ อย่างแรกคือความสามารถของสหรัฐฯ ในการเพิ่มประสิทธิภาพทางการทหาร ฉันสนับสนุนความสามารถนี้ ฉันคิดว่าการมีความสามารถที่แข็งแกร่งกว่านี้ไม่ได้ก่อให้เกิดสงคราม แต่กลับช่วยยับยั้งสงคราม โดยพื้นฐานแล้ว คุณกำลังถามว่าคุณเชื่อมั่นในประเทศนี้หรือไม่ คุณต้องการให้ประเทศนี้เป็นผู้เล่นที่แข็งแกร่งกว่าในเวทีโลก แทนที่จะมีอิทธิพลน้อยกว่าไหม? ฉันต้องการ ฉันเป็นผู้รักชาติ

ยังมีอีกประเด็นหนึ่งที่แยกออกไป นั่นคือ นโยบายบางอย่างที่รัฐบาลสหรัฐฯ เข้าไปเกี่ยวข้อง ซึ่งผมอาจจะสนับสนุนหรือไม่ก็ได้

สำหรับสิ่งที่รัฐบาลทำ เห็นได้ชัดว่าผมสนับสนุนบางอย่างและไม่สนับสนุนบางอย่าง แต่มันไม่ใช่สิ่งที่ผมตัดสินใจ ถ้าเราจัดหาเทคโนโลยีให้ และกระทรวงกลาโหม (DOD) หยิบยกประเด็นนี้ขึ้นมา และเราจริงๆ แล้วเห็นด้วยกับพวกเขา ถ้าเราจัดหาเทคโนโลยีให้ เราไม่มีสิทธิ์ตัดสินว่าคุณจะดำเนินการปฏิบัติการทางทหารใดได้หรือไม่ได้

ตอนนี้ โดยส่วนตัวแล้ว ผมอาจคิดว่าการปฏิบัติการทางทหารบางอย่างมีเหตุผล ในขณะที่อีกการปฏิบัติการหนึ่งเป็นความคิดที่แย่ แต่เราจะไม่ปฏิเสธบทบาทของเทคโนโลยีนี้

คุณต้องปล่อยให้การกำหนดนโยบายเป็นหน้าที่ของผู้ตัดสินใจทางทหาร สิ่งที่คุณทำได้คือการกำหนดขอบเขตในระดับสูง สำหรับเราแล้ว ก็คือการป้องกันกรณีการใช้งานที่ไม่สอดคล้องกับค่านิยมของเราและค่านิยมของประเทศเรา และผลักดันกรณีการใช้งานที่เราคิดว่าจะช่วยส่งเสริมค่านิยมของเรา นี่คือวิธีคิดของเรา

Emily Chang: Bloomberg รายงานว่า กองทัพสหรัฐฯ ใช้ Claude ในสงครามอิหร่าน ผ่านระบบ Maven Smart System ที่สร้างโดย Palantir เพื่อการกำหนดเป้าหมายด้วยความช่วยเหลือของ AI ตามรายงาน ในเดือนกุมภาพันธ์ ขีปนาวุธของสหรัฐฯ โจมตีโรงเรียนหญิงล้วนแห่งหนึ่งในอิหร่าน ทำให้มีผู้เสียชีวิตกว่า 150 คน ซึ่งส่วนใหญ่เป็นเด็ก Claude มีบทบาทในการโจมตีครั้งนั้นหรือไม่?

Dario Amodei: เรา ดูสิ เราไม่สามารถเข้าถึงข้อมูล เราไม่รู้แน่ชัดว่าโมเดลเหล่านี้ถูกใช้งานอย่างไร เห็นได้ชัดว่าข้อผิดพลาดที่เกิดขึ้นในสงครามนั้นน่ากลัวมากจริงๆ และมันเป็นเรื่องที่น่ากลัวมาก

ถ้าสิ่งนี้ยังไม่เพียงพอที่จะอธิบายว่าทำไมเราถึงยืนหยัดต่อต้านกรณีการใช้งานที่เราไม่สนับสนุน เรายังเต็มใจที่จะเสี่ยงต่ออนาคตของบริษัท เพื่อจำกัดวิธีการใช้งานโมเดลเหล่านี้ และกรณีการใช้งานที่คุณพูดถึงนั้นยังไม่ถึงขั้นละเมิดเส้นแดงของเราด้วยซ้ำ

เรากังวลว่าในอนาคตจะมีกรณีการใช้งานเพิ่มขึ้นอีก 100 เท่า ซึ่งบางกรณีละเมิดเส้นแดงของเราจริงๆ ตอนนี้ ขอย้ำอีกครั้ง ผมคิดว่าโดยรวมแล้ว โมเดลเหล่านี้ถูกใช้งานอย่างเหมาะสม ผมคิดว่าผลสุทธิเป็นบวก

แต่ผู้ตัดสินใจทางทหาร แม้ในช่วงเวลาที่ดีที่สุด ก็ยังทำผิดพลาดร้ายแรงอย่างยิ่ง และผมไม่รู้ว่าตอนนี้เราอยู่ในช่วงเวลาที่ดีที่สุดหรือไม่

ตัวอย่างเช่น เราสามารถพูดคุยเกี่ยวกับหลายเรื่องได้ เราสามารถพูดคุยเกี่ยวกับวิธีการกำหนดเส้นสีแดงเพื่อป้องกันการใช้งานโมเดลที่มีแนวโน้มจะนำไปสู่ปัญหาเหล่านี้ หากเราอนุญาตตั้งแต่แรก ปล่อยให้เป็นไปอย่างอิสระ หากเรายอมจำนนต่ออาวุธอัตโนมัติเต็มรูปแบบเหมือนกับที่บริษัทอื่นๆ เกือบทั้งหมดกำลังทำอยู่ในตอนนี้ ดังที่เห็นในที่นี้ คือ Claude ทำหน้าที่ช่วยเหลือ แต่มนุษย์เป็นผู้ตัดสินใจขั้นสุดท้าย

ดังนั้น มนุษย์เป็นผู้ตัดสินใจขั้นสุดท้าย ไม่ใช่ Claude ลองนึกภาพในโลกที่—ไม่ใช่ Claude เพราะเราไม่อนุญาตให้มันทำแบบนั้น แต่เป็นโมเดล AI ของคนอื่น—ที่โมเดล AI ตัดสินใจโดยตรงโดยที่มนุษย์ไม่เคยสอบถาม นี่คือสิ่งที่เรายืนหยัดปกป้อง

นั่นคือสิ่งที่เราต่อต้าน สิ่งที่ฉันอยากจะพูดคือยังมีอีกเรื่องหนึ่งที่นี่ ขอย้ำอีกครั้ง ฉันคิดว่าการจัดซื้อจัดจ้างไม่ใช่วิธีที่ถูกต้องในการบรรลุเป้าหมายนี้ แต่เราจำเป็นต้องแน่ใจ—ซึ่งไม่ใช่แค่สิ่งที่ฉันในฐานะผู้ให้บริการเทคโนโลยีใส่ใจ แต่เป็นสิ่งที่ประชาชนชาวอเมริกันใส่ใจ—ว่าผู้ตัดสินใจทางทหารของสหรัฐฯ จะไม่ทำผิดพลาดเหล่านี้

ทำให้แน่ใจว่าพวกเขาทำงานได้อย่างน่าเชื่อถือและตัดสินใจอย่างชาญฉลาดเมื่อดำเนินการ

เช่นเดียวกัน ในฐานะพลเมืองและผู้ให้บริการเทคโนโลยี นี่คือสิ่งที่ฉันใส่ใจ ตัวอย่างเช่น รัฐบาลใช้เทคโนโลยีอย่างมากกับ Microsoft Excel หากคุณบอกว่าคุณสามารถใช้ Excel สำหรับปฏิบัติการทางทหารบางอย่าง แต่ไม่สามารถใช้สำหรับอย่างอื่นได้ ในความเป็นจริงมันเป็นไปไม่ได้ หวังว่าสิ่งนี้จะช่วยให้คุณเข้าใจว่าเราคิดเกี่ยวกับปัญหานี้อย่างไร

Emily Chang: โรงเรียนแห่งนี้มีเว็บไซต์ที่คุณสามารถค้นหาได้ใน Google Search Claude ไม่ควรค้นพบสิ่งนี้ใช่หรือไม่? หรือ AI หรือเทคโนโลยีใดๆ ที่พวกเขาใช้ไม่ควรค้นพบสิ่งนี้? นี่ทำให้เกิดคำถามที่น่ากังวลมากขึ้นเกี่ยวกับการใช้เทคโนโลยีเป็นทางลัดในสงคราม หรือไม่?

Dario Amodei: ฟังนะ ฟังนะ สิ่งที่ฉันอยากจะพูดคือ ฉันไม่แน่ใจ ฉันไม่แน่ใจจริงๆ มันขึ้นอยู่กับความรู้ที่เป็นความลับที่อาจอยู่นอกเหนือการเข้าถึงของฉัน แต่หลักการที่เราได้กำหนดไว้ หลักการที่ฉันคิดว่าถูกปฏิบัติตามที่นี่คือ มนุษย์เป็นผู้ตัดสินใจขั้นสุดท้าย ฉันไม่รู้ว่า Claude หรือ AI อื่นๆ มีบทบาทอะไร แต่ถ้าสิ่งนี้ไม่สามารถอธิบายได้ว่าทำไมหลักการนั้นถึงสำคัญ ฉันก็ไม่รู้ว่าจะมีอะไรอีกที่สามารถอธิบายได้

เอมิลี่ ชาง: สงคราม AI มีแนวโน้มที่จะป้องกันสงครามโลกครั้งที่สามมากกว่าหรือมีแนวโน้มที่จะก่อให้เกิดสงครามมากกว่ากัน?

ดาริโอ อาโมเด: โดยรวมแล้ว ผมคิดว่ามันมีแนวโน้มที่จะป้องกันสงครามมากกว่า แต่ถ้าเราไม่มีข้อจำกัดใดๆ เกี่ยวกับวิธีการใช้งานมัน ผมคิดว่ามันมีแนวโน้มที่จะทำให้เกิดสงครามมากกว่า คุณเคยดูหนังเรื่อง Dr. Strangelove ไหม เนื้อเรื่องของหนังเรื่องนี้มีสมมติฐานว่าคุณมีอุปกรณ์วันสิ้นโลกบางอย่างที่เมื่อมันคิดว่าตัวเองกำลังถูกโจมตีด้วยอาวุธนิวเคลียร์ มันจะยิงอาวุธนิวเคลียร์ตอบโต้โดยอัตโนมัติ

มันอาจผิดพลาดได้อย่างไรนะ หรืออีกนัยหนึ่ง ผมก็นึกถึงหัวข้อเกี่ยวกับอาวุธอัตโนมัติที่อันตรายถึงชีวิตและทำงานได้อย่างสมบูรณ์ ผมคิดว่าลักษณะของความขัดแย้งเกิดขึ้นเมื่อทั้งสองฝ่ายต่างขัดขวางกันและรอจังหวะ พวกเขาจะเกิดความเข้าใจผิด ถ้าเราขาดการกำกับดูแลที่เหมาะสมเกี่ยวกับเทคโนโลยีนี้ ผมคิดว่าโอกาสที่เหตุการณ์แบบนี้จะเกิดขึ้นจะเพิ่มขึ้น

ตอนนี้ ผมคิดว่าถ้า AI ถูกใช้อย่างเหมาะสม แม้จะไม่จำเป็นต้องจำกัดแค่ในสงคราม แค่ในด้านการรวบรวมข่าวกรองก็ตาม ลองนึกภาพดู เมื่อเรารู้ทุกการเคลื่อนไหวของคู่ต่อสู้ พวกเขาจะคิดหนักก่อนที่จะพยายามบุกหรือดำเนินการทางทหารบางอย่าง ดังนั้น ผมคิดว่าความสามารถด้านข่าวกรองที่ยอดเยี่ยมสามารถป้องกันความขัดแย้งได้จริง ความสามารถในการตอบสนองที่ยอดเยี่ยมสามารถยับยั้งความขัดแย้งได้ ผมเชื่อมั่นในสิ่งเหล่านี้เสมอ

Mythos: เกมความปลอดภัยของโมเดล前沿

เอมิลี่ ชาง: Anthropics ขึ้นพาดหัวข่าวเกือบทุกสัปดาห์ แน่นอนว่าตอนนี้สิ่งที่ได้รับความสนใจมากที่สุดคือ Mythos

ผู้บรรยาย นี่คือโมเดล Anthropic ที่ใหม่และทรงพลังที่สุดในขณะนี้ มันสามารถดำเนินการทุกขั้นตอนของห่วงโซ่การโจมตีทางไซเบอร์ได้อย่างอิสระ

เอมิลี่ ชาง: คุณเคยบอกว่า Mythos มีความสามารถมากเกินไปที่จะปล่อยให้สาธารณชนใช้งาน อะไรที่ทำให้คุณประหลาดใจมากที่สุดเกี่ยวกับมัน?

ดาริโอ อาโมเด: ผมคิดว่าสิ่งที่ทำให้ผมประหลาดใจมากที่สุดคือ ความสามารถของโมเดลในการค้นหาช่องโหว่เพิ่มขึ้นเรื่อยๆ และที่สำคัญกว่านั้นคือ มันสามารถเปลี่ยนช่องโหว่เหล่านี้เป็นโปรแกรมโจมตีได้ ซึ่งคนทั่วไปมักจะพูดถึงแค่ช่องโหว่เท่านั้น คนมักไม่พูดถึงกระบวนการเปลี่ยนช่องโหว่ให้เป็นโปรแกรมโจมตี แต่มันทำได้ดีมากในด้านนี้

ดังนั้น สิ่งที่ทำให้ผมประหลาดใจคือเราได้เห็นการก้าวกระโดดครั้งใหญ่นี้ มันเป็นการก้าวกระโดดที่กว้างเป็นพิเศษ และโดยที่ไม่มีการชี้นำใดๆ บริษัทบางแห่งที่เราให้เทคโนโลยีนี้ในตอนแรกกลับบอกว่ามันเป็นเหมือนอาวุธซุปเปอร์ ควรจะต้องมีใบอนุญาตถือปืนถึงจะใช้มันได้

กรุณาอย่าเผยแพร่สิ่งนี้ การเรียกร้องให้จำกัดการใช้งานนี้มาจากบริษัทที่เราให้เทคโนโลยีไป พวกเขาพบช่องโหว่สำคัญจำนวนมากและความสามารถในการใช้ประโยชน์จากช่องโหว่เหล่านี้ จนถึงขนาดที่พวกเขาขอให้เราอย่าเผยแพร่มัน

เพื่อความชัดเจน เนื่องจากข้อมูลในโลกโซเชียลมีเดียมักถูกบิดเบือน เป้าหมายของเราไม่ใช่การเก็บมันไว้ตลอดไป เรากำลังพยายามค่อยๆ เปิดตัวเทคโนโลยีนี้ ให้กับกลุ่มคนที่กว้างขึ้นเรื่อยๆ ในที่สุดเราเชื่อว่าควรเผยแพร่ Mythos สู่สาธารณชน แต่ต้องมีมาตรการรักษาความปลอดภัยทางไซเบอร์ที่แข็งแกร่ง

ข้อกังวลในตอนนี้คือ เราได้ปล่อยมาตรการรักษาความปลอดภัยทางไซเบอร์ปัจจุบันพร้อมกับ Opus 4.7 แม้ว่านี่จะเป็นโมเดลรักษาความปลอดภัยทางไซเบอร์ที่ยอดเยี่ยม แต่ความสามารถของมันอ่อนแอกว่ามาก และมาตรการเหล่านี้สามารถถูกเจาะระบบได้ เรากังวลเล็กน้อยเกี่ยวกับบริษัทอื่นๆ ที่มองว่านี่เป็นการป้องกันที่เพียงพอ เพราะถึงแม้บางครั้งมันจะได้ผล แต่เราทุกคนรู้ดีว่าตัวแยกประเภทเหล่านี้สามารถถูกเจาะหรือหลีกเลี่ยงได้

จากการทดสอบของเราเอง และพูดตามตรง จากการประเมินมาตรการป้องกันที่บริษัทอื่นๆ ใช้มาตรการเหล่านี้ยังไม่แข็งแกร่งพอ นี่คือสิ่งที่เรากำลังรออยู่ตอนนี้ นั่นคือการทำให้ความสามารถในการป้องกันถึงระดับที่เราเชื่อมั่นอย่างแท้จริง

Emily Chang: ตอนนั้นมีการต่อต้านมากมาย มีนักวิจัยที่บอกว่าพวกเขาสามารถใช้โมเดลโอเพนซอร์สที่ถูกกว่าเพื่อจำลองกระบวนการนี้ได้ บางคนบอกว่า OpenAI มีความสามารถเหล่านี้อยู่แล้ว แล้วคุณตอบโต้คนที่มองว่านี่เป็นการแสดงประชาสัมพันธ์ครั้งใหญ่ได้อย่างไร

Dario Amodei: การอ้างว่าสามารถจำลองผ่านโมเดลโอเพนซอร์สได้นั้นผิดโดยสิ้นเชิง แนวคิดหลักของระบบนี้คือ Mythos สามารถดูโค้ดเบสทั้งหมดและค้นหาปัญหาได้ มีคนบน Twitter บอกว่าถ้าคุณให้โมเดลโอเพนซอร์สชี้ไปที่บรรทัดโค้ดที่ Mythos ค้นพบ มันก็จะพบปัญหาเดียวกัน นั่นไม่ใช่ นั่นไม่ใช่พรอมพ์ นั่นไม่ใช่ปัญหานั้น พูดง่ายๆ คือ นั่นไม่ใช่สิ่งเดียวกันเลย

การทดสอบขั้นสูงสุดคือการที่เราเข้าไปติดต่อบริษัทต่างๆ ตรวจสอบโค้ดโอเพนซอร์ส และพบช่องโหว่ใหม่ 271 รายการใน Firefox เราได้ค้นพบช่องโหว่หลายพันรายการในบริษัทเอกชนที่ยังไม่ได้แก้ไขหรือยังไม่สามารถเปิดเผยช่องโหว่เหล่านั้นได้

เหมือนกับว่า ในโมเดลก่อนหน้านี้ไม่มีใครพบช่องโหว่ 271 รายการนั้น ดังนั้น เมื่อเทียบกับสถานการณ์ที่ว่า "ฉันเจอบรรทัดโค้ดที่แน่นอนที่ Mythos ค้นพบ ฉันรู้ว่าฉันพบเข็มในมหาสมุทร และสิ่งอื่นๆ ตอนนี้สามารถหยิบเข็มนี้ขึ้นมาได้" เวิร์กโฟลว์ที่ใช้งานได้จริงในทางปฏิบัติกลับเป็นอีกเรื่องหนึ่ง

แต่สำหรับคนที่บอกว่านี่เป็นแค่กลยุทธ์การตลาด ฉันอยากจะบอกว่า เราได้รับความเสียหายทางการค้าอย่างมหาศาลจากการไม่ปล่อยโมเดลนี้ โมเดลนี้เร่งความเร็วในการวิจัยภายในของ Anthropic และการผลิตโมเดลรุ่นถัดไปได้อย่างมาก ถ้าเราปล่อยมัน มันก็จะสร้างความเร่งแบบเดียวกันให้กับโลกภายนอก สิ่งนี้สร้างความเสียหายอย่างรุนแรงต่อธุรกิจของเรา

Emily Chang: ถ้าสิ่งนี้ช่วยผู้ป้องกันได้ มันก็จะช่วยผู้โจมตีด้วย เราจะยังสามารถป้องกันอะไรได้อีกไหม?

Dario Amodei: ฉันอยากจะบอกว่า เหตุผลที่เรามอบ Mythos ให้กับผู้ป้องกันก่อนผู้โจมตี ก็เพื่อซ่อมแซมช่องโหว่ทั้งหมด ฉันไม่รู้ว่าเมื่อโมเดลดีขึ้นเรื่อยๆ อาจมีช่องโหว่ถูกค้นพบมากขึ้น แต่จำนวนช่องโหว่ก็มีจำกัด มันมีจำกัด เหมือนกับคุณมีพื้นผิวที่มีรูอยู่จำนวนหนึ่งเท่านั้น

เมื่อคุณซ่อมแซมช่องโหว่ทั้งหมด พื้นผิวจะกลายเป็นสิ่งที่ยากต่อการโจมตีอย่างมาก ในขณะเดียวกัน โค้ดเองก็ถูกเขียนโดยโมเดลที่ทรงพลัง ดังนั้นจึงยากที่จะหาจุดบกพร่องหรือเจาะระบบเข้าไป ดังนั้นฉันคิดว่าจากอีกด้านหนึ่ง หวังว่าในอีก 6 เดือนหรือ 1 ปี เราจะมีระบบนิเวศอินเทอร์เน็ตที่ปลอดภัยกว่าในอดีต เรากำลังพยายามไปถึงเป้าหมายนั้น และพยายามอย่างเต็มที่เพื่อเปิด mythos ให้กับผู้ป้องกันเครือข่ายรายใหม่

เราได้ติดต่อสื่อสารกับรัฐบาลอยู่เสมอ เราเคารพคำแนะนำของพวกเขาอย่างมาก พวกเขากำลังชะลอการเปิดตัวของเราเนื่องจากความกังวลเกี่ยวกับความเสี่ยงด้านการจารกรรม ความเสี่ยง ฉันคิดว่านี่เป็นสิ่งที่ชาญฉลาด ฉันคิดว่าคนที่จริงจังทุกคนที่นี่เข้าใจว่ามีการแลกเปลี่ยนที่แท้จริงในเรื่องนี้

เราเห็นคำวิจารณ์ที่รุนแรงมากมายบน Twitter และจากบริษัท AI อื่นๆ เมื่อคุณดูคำพูดของพวกเขา แล้วดูการกระทำที่ไม่สอดคล้องกัน พวกเขาไม่ใช่คนที่จริงจัง พวกเขาไม่ได้ให้ความสำคัญกับการแลกเปลี่ยนที่ท้าทายที่เรากำลังเผชิญอยู่ที่นี่

คุณเห็นไหม ทุกวันมีลูกค้าโทรมาบอกฉันว่า ฉันอยากใช้ Mythos ก็มีประเทศโทรมาบอกว่า ฉันอยากใช้ Mythos แต่รัฐบาลสหรัฐฯ และทีมรักษาความปลอดภัยของฉันกลับบอกว่า ไม่ เดี๋ยวก่อน มันมีความเสี่ยง ฉันไม่ได้บอกว่าฝ่ายไหนถูกต้อง

ฉันคิดว่าความจริงอยู่ตรงกลาง ทั้งสองฝ่ายมีมุมมองที่สมเหตุสมผล ทั้งสองฝ่ายมีมุมมองที่สมเหตุสมผล แต่มันมีความท้าทายจริงๆ ที่เราต้องเผชิญร่วมกันในฐานะสังคม ไม่ใช่แค่ปัดสิ่งต่างๆ ว่าเป็นกลยุทธ์การตลาดราคาถูก หรือทำเหมือนบริษัทอื่นๆ ที่ใช้ CMO เพื่อพยายามวางตำแหน่งแบบย้อนกลับ

ทั้งหมดนี้แสดงให้เห็นถึงการขาดความสง่างามและวุฒิภาวะอย่างไม่น่าเชื่อ เราต้องเผชิญหน้ากับช่วงเวลานี้ร่วมกัน

การถ่วงดุลอำนาจและการกำกับดูแลของรัฐบาล

Emily Chang: คุณต้องทำการประนีประนอมที่ทำให้คุณรู้สึกไม่สบายใจบ้างหรือยัง?

Dario Amodei: ประวัติศาสตร์ทั้งหมดของ Anthropic คือการประนีประนอม ประวัติศาสตร์ทั้งหมดของ Anthropic ในโลกอุดมคติ คุณคงอยากใช้เวลาหลายปีในการศึกษาทุกสิ่งที่อาจผิดพลาดก่อนที่จะเปิดตัวแชทบอทตัวแรก ตอนนี้เราชะลอออกไปจริงๆ

เราชะลอการเปิดตัว Claude ครั้งแรกจริงๆ แต่เราแค่ชะลอไปไม่กี่เดือน ดังนั้นฉันบอกว่าทุกอย่างคือการประนีประนอม การอยู่ที่ปลายสุดของสเปกตรัมทั้งสองด้านนั้นบ้าคลั่ง ดังนั้นทุกอย่างคือการประนีประนอม

ฉันอยากจะบอกว่า เมื่อเราอยู่ในตำแหน่งผู้นำทางธุรกิจที่ฉันอธิบายไว้ จริงๆ แล้วฉันและ Daniela กำลังทำทุกอย่างที่ทำได้เพื่อผลักดันความก้าวหน้าในการดำเนินการอย่างรอบคอบ นั่นคือจุดประสงค์ของการเปิดตัว Mythos ถ้าคุณไม่ใช่ผู้นำในอุตสาหกรรม ก็ยากที่จะทำสิ่งนี้ได้ ดังนั้นฉันคิดว่าคุณจะเห็นเหตุการณ์แบบนี้เกิดขึ้นอีก

Emily Chang: มีมุมมองหนึ่งว่า ทำไมรัฐบาลไม่เข้ามาควบคุมคุณล่ะ? ทำไมพวกเขาถึงปล่อยให้บริษัทเอกชนควบคุมเทคโนโลยีที่ทรงพลังขนาดนี้?

Dario Amodei: ดังนั้นฉันคิดว่านี่เป็นคำถามที่จริงจังมาก และฉันเห็นด้วยกับความกังวลเหล่านี้ ฉันไม่คิดว่ารัฐบาลควรเข้ามาควบคุมเราโดยตรง แต่ฉันสามารถพูดแบบนี้ได้ ฉันอยากจะบอกว่า ย้อนกลับไปและอธิบายสถานการณ์ปัจจุบัน เทคโนโลยีทรงพลังรุ่นก่อนๆ ทุกอย่างที่เราเคยเห็นในประวัติศาสตร์ ถูกสร้างขึ้นโดยรัฐบาล หรือมีต้นกำเนิดจากรัฐบาล

ตัวอย่างเช่น อาวุธนิวเคลียร์ เห็นได้ชัดว่าถูกสร้างขึ้นโดยรัฐบาลเป็นครั้งแรก และหลังจากนั้นก็ถูกสร้างขึ้นภายใต้การนำของรัฐบาลเป็นหลัก แต่แม้แต่เทคโนโลยีอย่างอินเทอร์เน็ต GPS และโทรศัพท์มือถือ งานวิจัยและพัฒนาทั้งหมดก็เกิดขึ้นในห้องปฏิบัติการ ห้องปฏิบัติการของรัฐบาลกลาง และมหาวิทยาลัย

AI เป็นเทคโนโลยีแรกที่ถูกสร้างขึ้นในภาคเอกชน โดยรัฐบาลไม่ได้มีบทบาทสำคัญและเข้ามามีส่วนร่วมค่อนข้างช้า ฉันคิดว่านี่เป็นสถานการณ์ที่อันตรายและไม่มั่นคงจริงๆ นี่ไม่ใช่สถานการณ์ที่ฉันจะเลือก ไม่มีทางเลือกอื่น เทคโนโลยีนี้สามารถถูกสร้างขึ้นได้ คู่แข่งของเรากำลังสร้างมันขึ้นมา มันมีมูลค่าทางเศรษฐกิจ และไม่ว่ายังไงมันก็จะถูกสร้างขึ้นในที่สุด ปัญหาคือรัฐบาลไม่ได้มีส่วนร่วม ไม่ใช่ภาคเอกชนที่กำลังทำ

ฉันคิดว่าเราต้องพิจารณาถึงการถ่วงดุลอำนาจ ดังนั้นฉันจึงคิดว่าจำเป็นต้องมีการถ่วงดุลอำนาจของบริษัท AI เรามีกลไกที่เรียกว่า Long-term Benefit Trust ซึ่งโดยพื้นฐานแล้วเป็นองค์กรที่สามารถแต่งตั้งและถอดถอนสมาชิกคณะกรรมการส่วนใหญ่ได้ หากใช้ตรรกะนี้อย่างต่อเนื่อง มันก็มีอำนาจที่จะไล่ฉันออก

ตอนนี้เรากำลังนำองค์ประกอบบางอย่างเข้ามา—แม้จะยังไม่ครบถ้วน—เรากำลังนำองค์ประกอบที่คล้ายกับการกำกับดูแลสาธารณะเข้ามา นั่นคือคุณต้องรับผิดชอบต่อใครบางคน ไม่ใช่แค่ต่อผู้ถือหุ้นของบริษัทเท่านั้น สิ่งนี้สำคัญมาก ไม่ว่าบริษัทจะเกิดอะไรขึ้นในอนาคต โครงสร้างนี้จะยังคงอยู่ ในวงการ AI เราสนับสนุนให้บริษัทอื่นๆ นำโครงสร้างที่คล้ายกันนี้มาใช้

ในส่วนของรัฐบาล ฉันคิดว่าเราต้องการการถ่วงดุลอำนาจ สภาคองเกรสได้ประกาศความพยายามในการกำหนดเส้นแบ่งเขต ดังนั้นฉันจึงคิดว่าฝ่ายนิติบัญญัติและฝ่ายตุลาการจำเป็นต้องมีบทบาท เพราะสำหรับเทคโนโลยีนี้ ฉันกังวลทั้งที่บริษัทครอบครองมันและที่รัฐบาลครอบครองมัน

ต่อมา ภาคธุรกิจจำเป็นต้องถ่วงดุลอำนาจรัฐบาล และรัฐบาลก็จำเป็นต้องควบคุมภาคธุรกิจ เราจำเป็นต้องมีการควบคุมพื้นฐานสำหรับเทคโนโลยีนี้ ฉันคิดว่าเราต้องเริ่มดำเนินการทดสอบก่อนการเปิดตัว นั่นคือการทดสอบก่อนการเปิดตัวที่บังคับใช้ รวมถึงการทดสอบและตรวจสอบโมเดล

สำหรับฉันแล้ว มันน่าขันมากที่มีกลุ่มคนในวงการเทคโนโลยีซิลิคอนแวลลีย์ ซึ่งในตอนแรกมีจุดยืนว่าแม้แต่การทำให้เทคโนโลยีนี้โปร่งใส หรือแม้แต่การควบคุมการส่งออก จะทำลายศักยภาพในการสร้างเทคโนโลยีนี้และฆ่านวัตกรรมไปอย่างสิ้นเชิง แต่ทันทีที่พวกเขาเห็นอันตรายที่แท้จริงครั้งแรกที่ฉันคาดการณ์ไว้มานาน สถานการณ์ก็เปลี่ยนไป พวกเขาเริ่มพูดถึงการทำให้เป็นของรัฐอย่างจริงจัง โดยคิดว่ารัฐบาลควรเข้ามาควบคุมโดยตรง

พอเถอะครับทุกคน ท่าทีของคุณกลับไปกลับมา จากจุดสุดโต่งด้านต่อต้านการกำกับดูแล เช่น "ถ้าคุณกล้ามองเรามากเกินไป คุณกำลังทำลายอุตสาหกรรมนี้" ไปสู่แนวทางแบบคอมมิวนิสต์เต็มรูปแบบที่ว่า "รัฐบาลควรยึดทุกอย่างมาไว้ในมือ" เราต้องการวิธีการที่สมเหตุสมผลและนุ่มนวลกว่านี้

นี่คือสิ่งที่เรา主张มาตลอด เพราะเราเข้าใจถึงพลังที่แฝงอยู่ในเทคโนโลยีนี้อย่างลึกซึ้ง เราไม่ได้ตื่นตระหนก เราไม่ได้ปฏิเสธมัน เราเห็นการเติบโตแบบเอกซ์โพเนนเชียลที่ราบรื่น และกำลังตอบสนองต่อมันอย่างเหมาะสม

แล้วการเยือนทำเนียบขาวของคุณเป็นยังไงบ้าง? เราพยายามทำงานร่วมกับใครก็ตามที่ร่วมมือได้เสมอ ในระดับรัฐบาล ผมบอกว่าเรามีวิธีการง่ายๆ เรามีหลักการ เรายึดมั่นในหลักการเหล่านี้ และหวังว่าฝ่ายตรงข้ามจะมีเหตุผล พูดตามตรง รัฐบาลให้ความสำคัญกับ mythos อย่างจริงจัง

ตัวอย่างเช่น เรามีการสนทนาที่ดีกับ Secretary Bessent และ Chief of Sotomay รวมถึงหัวหน้าเจ้าหน้าที่ Susie Wiles ผมคิดว่าพวกเขาเข้าใจแก่นแท้ของความเสี่ยงตรงนี้จริงๆ ผมคิดว่า Mythos ช่วยให้พวกเขารับรู้ถึงความเสี่ยงเหล่านี้ได้ชัดเจนขึ้น

ดังนั้น เช่นเดียวกับรัฐบาลใดๆ ก็ตาม มีบางหน่วยงานที่เราเข้ากันได้ดีมากและเข้าใจเรื่องนี้ และแน่นอนว่ามีบางหน่วยงานที่ยากจะจัดการมากกว่า ผมคิดว่านี่เป็นเรื่องปกติ สถานการณ์แบบนี้เกิดขึ้นได้กับทุกรัฐบาล และเราแค่พยายามจัดการมันอย่างเหมาะสม

ส่วนต่างทางปัญญา ภูมิรัฐศาสตร์ และภาพอนาคต

Emily Chang: ในช่วงต้นอาชีพของคุณ คุณเคยทำงานที่ Baidu ซึ่งเป็นบริษัทเทคโนโลยีขนาดใหญ่ของจีน โดยดำรงตำแหน่งในสาขาซิลิคอนแวลลีย์ และคุณมีจุดยืนที่ชัดเจนต่อจีนมาโดยตลอด ตอนนี้จีนกำลังเปิดตัวโมเดลโอเพนซอร์สที่ทรงพลัง ขณะที่บริษัทอเมริกันกำลังพัฒนาโดยใช้โมเดลเหล่านี้ฟรี นี่คือภัยคุกคามหรือไม่?

Dario Amodei: ดังนั้น สิ่งหนึ่งที่เราเห็นในเทคโนโลยีนี้คือ ส่วนต่างของระดับความฉลาดของโมเดลนั้นมีมูลค่าสูงจริงๆ เราแทบไม่เคยเห็นว่าผู้คนจะเลือกใช้โมเดลที่มีความฉลาดต่ำกว่า พูดให้ชัดเจน ตอนนี้มีระบบนิเวศที่เฟื่องฟูอยู่แล้ว มีความท้าทายและปัญหามากมายที่ง่ายกว่าโมเดล前沿ที่เราต้องการแก้ไขมาก

แต่ต้องย้ำอีกครั้งว่านี่คือการเติบโตแบบทวีคูณ หมายความว่าโมเดลที่ไม่ใช่แนวหน้าอาจมีมูลค่าทางเศรษฐกิจเทียบเท่ากับสิ่งที่เราเห็นในปี 2023 และ 2024 แต่อย่าลืมว่าเรากำลังเติบโตในอัตรา 10 เท่าต่อปี

ดังนั้นเราจึงพบว่า สิ่งที่อยู่ในระดับแนวหน้านั้นทรงพลังกว่าในระดับที่ห่างไกลจากแนวหน้ามาก ผมคิดว่าประเด็นนี้ยังไม่เป็นที่เข้าใจโดยเฉพาะสำหรับคนที่เคยชินกับการสร้างผลิตภัณฑ์ในยุคเก่า ซึ่งในฐานะคนที่ไม่เคยบริหารบริษัทมาก่อน ไม่เคยคิดถึงยุคผลิตภัณฑ์ก่อนหน้านี้ และเกลียดชังยุคโซเชียลมีเดียเป็นพิเศษ

ผมรู้สึกเหมือนเป็นคนนอกโลกนั้น และผมคิดว่าสัญชาตญาณของผู้คนผิด พวกเขามีกฎเชิงประจักษ์เกี่ยวกับผลิตภัณฑ์ต่างๆ ผมคิดว่าโมเดลการเติบโตแบบทวีคูณ 10 เท่าต่อปีทำลายสิ่งนั้นจริงๆ เหมือนกับว่าความฉลาดเป็นปัจจัยที่สำคัญอย่างยิ่งยวด ซึ่งมีน้ำหนักเหนือสิ่งอื่นใด ดังนั้นเราเห็นซ้ำแล้วซ้ำเล่าว่ามูลค่ามักจะอยู่ในพื้นที่แนวหน้า

ตอนนี้ สำหรับโมเดลที่ล้าหลังบางตัว สิ่งที่ผมกังวลคือความเสี่ยงที่มันนำมา นั่นคือความสามารถในการโจมตีทางไซเบอร์ระดับ Mythos ที่เราเผชิญอยู่ อีก 12 เดือน เราจะมีความสามารถทางเครือข่ายที่ทรงพลังยิ่งขึ้น แต่ความสามารถในการโจมตีระดับ Mythos อาจมีให้ทุกคนดาวน์โหลดได้ในตอนนั้น หวังว่าเราจะซ่อมแซมทุกอย่างได้ก่อนหน้านั้น ผมไม่คิดว่าเรามีวิธีหยุดมันได้ แต่ผมคิดว่านี่เป็นปัญหาร้ายแรง

Emily Chang: สิ่งที่คุณเห็นและได้ยินที่ baidu หล่อหลอมมุมมองของคุณต่อจีนหรือไม่?

Dario Amodei: ไม่เลย จริงๆ แล้วไม่

ผมทำงานที่นั่นหนึ่งปี ผมคิดว่าผมอาจเรียนรู้เกี่ยวกับการรู้จำเสียงพูดและเรื่องทำนองนั้นมากกว่า บางทีสิ่งเดียวที่ทำให้ผมกังวลคือ วิธีการที่เราได้รับข้อมูลการรู้จำเสียงพูด ส่วนหนึ่งคือ — ในจีนไม่สนใจความเป็นส่วนตัว ดังนั้นเราจึงมีข้อมูลการรู้จำเสียงพูดทั้งหมดนี้

แต่นอกเหนือจากนั้น ความกังวลของผมที่นี่คือในระดับภูมิรัฐศาสตร์ ผมคิดว่าสิ่งที่เกิดขึ้นในจีนที่ทำให้ผมกังวลมากที่สุดคือสิ่งที่เราเห็นในสหรัฐฯ นั่นคือการปราบปรามเสียงวิพากษ์วิจารณ์ที่เราเห็น แม้แต่ในสหรัฐฯ เช่นสิ่งที่เกิดขึ้นในประเด็นฮ่องกง เช่นความสามารถในการแทรกแซงความเป็นจริงของสหรัฐฯ

เครือข่ายธุรกิจและการปราบปรามเสียงวิพากษ์วิจารณ์ นั่นคือรัฐเผด็จการ และเป็นรัฐเผด็จการที่มีเทคโนโลยีสูง เมื่อผมเห็นสิ่งนี้รวมกับ AI คุณจะได้โลก dystopia ที่นี่ เหมือน 1984 หรือแย่กว่านั้น

จุดสนใจของฉันคือการพยายามป้องกันสถานการณ์นี้ ฉันคิดว่าเรามีโอกาสที่จะหยุดมันได้

ฉันคิดว่าเรามีโอกาสที่จะทำให้ AI เป็นเทคโนโลยีที่สนับสนุนเสรีภาพ เทคโนโลยีที่ทำให้มนุษย์มีอิสระมากขึ้น และสามารถบรรลุคำมั่นสัญญาเรื่องความยุติธรรมที่เท่าเทียมสำหรับทุกคน มิฉะนั้นมันก็อาจจะไปในทิศทางตรงกันข้าม ส่วนอนาคตจะไปทางไหน ขึ้นอยู่กับการกระทำของบริษัท AI การกระทำของรัฐบาล และการกระทำของเราทุกคน ดังนั้น ฉันคิดว่าเรามีความรับผิดชอบในเรื่องนี้

การพัฒนาตนเองซ้ำแล้วซ้ำเล่าและการดำรงอยู่ของอารยธรรม

Emily Chang: คนในวงการของคุณมักพูดถึงช่วงเวลาที่ AI แข็งแกร่งพอที่จะปรับปรุงตัวเองได้ จากนั้นเวอร์ชันที่ปรับปรุงแล้วก็จะพัฒนาตัวเองต่อไปเรื่อยๆ นักวิจัยบางคนของคุณเชื่อว่าช่วงเวลานี้กำลังจะมาถึง ช่วงเวลานี้อยู่ห่างจากเราแค่ไหน?

Dario Amodei: ฉันไม่คิดว่ามันเป็นจุดเวลาที่เฉพาะเจาะจง ฉันคิดว่ามันเป็นกระบวนการที่ต่อเนื่อง ในบางแง่เราได้เห็นสิ่งนี้แล้ว นั่นคือ AI สามารถเสนอสถาปัตยกรรมให้กับ AI รุ่นถัดไปได้ ฉันอยากจะบอกว่าเมื่อปีที่แล้ว เราสังเกตเห็นว่าผลผลิตปัจจัยรวมเพิ่มขึ้น 10% ถึง 15% เนื่องจาก AI เช่น ตอนนี้อัตราส่วนนี้อาจเพิ่มขึ้นเป็น 20% หรือ 30% แล้ว และมันอาจจะกำลังเพิ่มเป็นสองเท่าด้วยซ้ำ

เช่นเดียวกับทุกสิ่ง เราอยู่บนเส้นโค้งเอ็กซ์โปเนนเชียล และไม่มีช่วงเวลาใดที่ AI จะวิวัฒนาการตัวเอง หลุดการควบคุม หรือกลายเป็นสิ่งที่ไม่ปลอดภัยอย่างกะทันหัน

สิ่งที่เรากำลังประสบคือการเติบโตแบบเอ็กซ์โปเนนเชียลที่เร่งตัวขึ้นอย่างต่อเนื่อง และในทุกจุดบนเส้นโค้งเอ็กซ์โปเนนเชียล เราต้องประเมินว่า: ถึงเวลาที่จะชะลอความเร็วหรือยัง? ถึงเวลาที่จะควบคุมเทคโนโลยีนี้มากขึ้นหรือยัง? ฉันคิดว่าอนาคตจะต้องมีการควบคุมมากขึ้นเรื่อยๆ แต่ฉันคิดว่ากุญแจสำคัญในการไขปริศนาทั้งหมดนี้อยู่ที่เส้นโค้งเอ็กซ์โปเนนเชียลที่ราบรื่นนี้

ขอย้ำอีกครั้ง ฉันคิดว่าคนที่เคยต่อต้านการควบคุม AI ทุกรูปแบบ แล้วต่อมาก็เรียกร้องให้โอนเป็นของรัฐเพราะเห็นปรากฏการณ์บางอย่าง ได้สอนบทเรียนให้เรา ฉันคิดว่าคนที่เคยดูถูกพลังของ AI แล้วต่อมาก็ร้องตะโกนว่า AI กำลังวิวัฒนาการตัวเอง กำลังจะหลุดการควบคุม และเรียกร้องให้หยุดมันทั้งหมด ก็สอนบทเรียนให้เราเช่นกัน

การแกว่งไปมาระหว่างปฏิกิริยาสุดโต่งเหล่านี้ เป็นสิ่งที่ไม่เป็นประโยชน์อย่างยิ่งต่อการจัดการกับเทคโนโลยีนี้

วิธีที่ถูกต้อง วิธีที่ชาญฉลาด ควรจะสงบสติอารมณ์ ไม่ตื่นตระหนก มาตรการของเราจะเพิ่มขึ้นอย่างราบรื่นตามพลังของเทคโนโลยีที่เพิ่มขึ้น หากคุณเห็นใครมีปฏิกิริยาแกว่งไปมาอย่างบ้าคลั่งแบบนี้ นั่นแสดงว่าพวกเขาถูกจับได้โดยไม่ทันตั้งตัว และพวกเขาไม่จริงจัง

เอมิลี่ ชาง：เท่าที่ฉันทราบ หนึ่งในหนังสือที่คุณชอบที่สุดคือ "The Making of the Atomic Bomb"

ดาริโอ อาโมเดย์：ใช่แล้ว

เอมิลี่ ชาง：คุณคิดว่าตัวเองมีความคล้ายคลึงกับออพเพนไฮเมอร์หรือไม่?

ดาริโอ อาโมเดย์：ตัวละครที่ฉันรู้สึกเชื่อมโยงมากที่สุดคือ ลีโอ ซิลาร์ด เขาคือคนแรกที่เสนอแนวคิดว่าอาจมีปฏิกิริยาลูกโซ่บางอย่างเกิดขึ้น

ฟังนะ มุมมองของฉันคือ เราไม่สามารถแก้ปัญหานี้ได้ด้วยบุคลิกที่เหนือมนุษย์ หรือคนที่พยายามเป็นศูนย์กลางของทุกสิ่ง ที่นี่ต้องการการถ่วงดุลอำนาจ มีผู้เล่นที่ทรงพลังมากมายที่มีผลประโยชน์ของตัวเอง วิธีเดียวที่จะทำให้ทุกคนจบลงด้วยดีคือการสร้างกลไกบางอย่าง นั่นคือการถ่วงดุลพื้นฐานในทุกจุด

ดังนั้นในระดับหนึ่ง ฉันมองว่าออพเพนไฮเมอร์เป็นตัวอย่างเชิงลบ ว่าสิ่งไหนไม่ควรเกิดขึ้น

เอมิลี่ ชาง：คุณเคยพูดว่า ความน่าจะเป็นที่อารยธรรมจะล่มสลายอยู่ที่ประมาณ 10% ถึง 25% ซึ่งไม่ใช่เรื่องเล็กน้อย มีสถานการณ์ใดหรือไม่ที่ผลลัพธ์นี้เกิดจากสิ่งที่ Anthropic สร้างขึ้น?

ดาริโอ อาโมเดย์：แน่นอนว่าฉันหวังว่าจะไม่ มุมมองของฉันคือ การกระทำที่เราทำลดความน่าจะเป็นนี้ลง ไม่ใช่เพิ่มขึ้น ความน่าจะเป็นนี้เกิดจากตรรกะที่ตรงไปตรงมาของเทคโนโลยีเอง: โลกมีหลายประเทศ ภายในระบบเศรษฐกิจมีหลายบริษัท หากช่องว่างไม่ถูกเติมเต็ม ก็จะมีบริษัทใหม่เกิดขึ้น นี่คือสถานการณ์ที่เราเผชิญ

เรากำลังพยายามดำเนินการเพื่อลดความน่าจะเป็นนี้ ฉันคิดว่าระดับที่เราลดมันลงนั้นมากกว่าระดับที่เราเพิ่มมันขึ้นมาก

แต่คุณสมบัติโดยธรรมชาติของเทคโนโลยีนี้คือความไม่แน่นอน ดังนั้น ก่อนที่เราจะปล่อยผลิตภัณฑ์ เราจะสร้างและทดสอบอย่างมากมาย และฉันคิดว่า โมเดลที่ปล่อยออกมาในปัจจุบันไม่เป็นอันตราย อย่างน้อยก็ไม่เป็นอันตรายนอกขอบเขตความปลอดภัยทางไซเบอร์ จากนั้นเราพยายามทำซ้ำและเรียนรู้จากมัน ดังนั้นเราจึงมีกลไกป้องกันมากมายนับไม่ถ้วน ครึ่งหนึ่งของงานภายในบริษัทคือการลดความเสี่ยงให้มากที่สุด

แต่ความเสี่ยงไม่มีทางลดลงเหลือศูนย์ได้

สิ่งที่ผมอยากจะพูดคือ สมมติว่ามีสายการบินมากมายในตลาด และคุณตัดสินใจก่อตั้งสายการบินที่ปลอดภัยกว่า สายการบินของคุณอาจปลอดภัยกว่าสายการบินอื่นถึง 10 เท่า แต่ถ้ามีคนมาถามคุณว่า คุณรับประกันได้ไหมว่าเครื่องบินของคุณจะไม่มีวันตก? คุณจะรับประกันได้อย่างไร? คุณจะทำได้อย่างไร?

Emily Chang: แต่ถ้าโอกาสที่เครื่องบินจะตกคือ 25% คุณคงไม่นั่งเครื่องบินลำนั้นแน่

Dario Amodei: จริงอย่างนั้น 25% สูงเกินไป เรากำลังพยายามทำให้โอกาสนี้ลดลงต่ำมากๆ นี่คือเป้าหมายของเรา

สร้างความไว้วางใจ: พิสูจน์ความแตกต่างด้วยการกระทำ

Emily Chang: คุณกำลังสร้างบางสิ่งที่ทรงพลังอย่างยิ่ง และคาดว่าจะได้รับผลประโยชน์มหาศาลจากมัน ทำไมเราถึงควรไว้วางใจคุณ?

Dario Amodei: ผมคิดว่า เมื่อบริษัทใดๆ เพิ่งเริ่มต้น โดยเฉพาะอย่างยิ่งเมื่อพิจารณาถึงพฤติกรรมของ Silicon Valley ในฐานะองค์กรที่เราเห็นกันมา ผู้คนมักจะมีความคิดเห็นแบบนี้โดยธรรมชาติ เมื่อมองย้อนกลับไปในช่วงไม่กี่ปีที่ผ่านมา ผมคิดว่าการมองจากมุมมองของความไม่ไว้วางใจ—ถ้าคุณไม่รู้อะไรเกี่ยวกับผมเลย หรือไม่รู้จัก Anthropic เลย—นี่เป็นทัศนคติที่ค่อนข้างมีเหตุผล

ผมคิดว่า Silicon Valley สูญเสียความไว้วางใจจากโลกไปมากเกินไป และเราต้องสร้างมันกลับคืนมา

สิ่งที่เราต้องการสื่อคือ เรามีความแตกต่างจริงๆ และ ความไว้วางใจนี้ต้องได้รับผ่านการกระทำจริงของเรา คุณอาจเห็นด้วยหรือไม่เห็นด้วย แต่เรายึดมั่นในค่านิยมของเราเสมอ เกี่ยวกับเรื่องตำนานหรือนิทานปรัมปรา การไม่ปล่อยโมเดลที่ทรงพลังอย่างยิ่งนี้ออกมาจริงๆ แล้วจำกัดเราในเชิงธุรกิจ

ก่อนหน้านี้ยังมีเรื่องเล็กๆ น้อยๆ อีกมากมาย เราทำตามที่พูดในประเด็นจีน เราตัดสิทธิ์การเข้าถึงโมเดล เราสามารถไม่ทำแบบนั้นก็ได้ ไม่มีใครบังคับเรา คุณรู้ไหม ในช่วงเวลาที่หลายร้อยล้านดอลลาร์ยังเป็นสัดส่วนที่ค่อนข้างใหญ่ของรายได้รวมของเรา สิ่งนี้ทำให้เราสูญเสียเงินหลายร้อยล้านดอลลาร์

ตัวอย่างเช่น การเลื่อนการเปิดตัวของ Claude II เรามีประวัติศาสตร์อันยาวนานในเรื่องนี้

เราไม่ได้สมบูรณ์แบบ เราทำผิดพลาดได้ แต่ฉันอยากให้ทุกคนมองดูประวัติศาสตร์โดยรวมของเรา หากรวมประวัติศาสตร์นี้เข้าด้วยกัน สมมติฐานที่สอดคล้องกับประวัติศาสตร์นี้มากที่สุดคืออะไร? ผู้คนต้องตัดสินใจด้วยตัวเอง

แต่ฉันคิดว่าสมมติฐานที่สม่ำเสมอคือ เราพยายามทำจริงๆ เพื่อทำสิ่งที่ถูกต้อง

เราไม่ได้สมบูรณ์แบบ องค์กรมักมีปัญหาด้านความผิดปกติ เราพยายามแก้ไขมันอยู่เสมอ เพื่อให้มันทำงานได้ดีขึ้น ระหว่างทางจะมีความผิดพลาดมากมาย มีหลายจุดที่ผิดพลาด แต่โดยพื้นฐานแล้ว เรามีวิสัยทัศน์ที่จริงใจและจริงจังเกี่ยวกับวิธีการทำสิ่งที่ถูกต้อง และเรากำลังพยายามดำเนินการตามวิสัยทัศน์นี้

Emily Chang: ดังนั้น เราจะพบกันอีกครั้งที่ปลายอีกด้านของการเติบโตแบบทวีคูณ

Dario Amodei: อืม หวังว่าจะเป็นเช่นนั้น

Emily Chang: อืม หวังว่าจะเป็นเช่นนั้น

Dario Amodei: มีสิ่งหนึ่งเกี่ยวกับงาน CEO ที่ทำให้ฉันประหลาดใจและไม่เคยรู้มาก่อน นั่นคือ คุณต้องแต่งหน้าบ่อยๆ สิ่งนี้เกินความคาดหมายของฉันโดยสิ้นเชิง

Emily Chang: แค่แป้งเล็กน้อยเท่านั้น

ลิงก์ต้นฉบับ

ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:

กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats

กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App

บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia