สัมอัลต์แมน ในสัมภาษณ์ล่าสุดสาระ : กล่าวถึงว่า ฉันเองก็ไม่เข้าใจว่า AI กำลังเกิดขึ้นภายในโดยลึกอย่างไร

ชื่อวิดีโอ: "Can We Trust AI? Sam Altman Hopes So | The Most Interesting Thing in AI"

ผู้เขียนวิดีโอ: Nick Thompson, The Atlantic CEO

นำแปล: ธิป ซ้อมโกะ, ธิป BlockBeats

บันทึกการสัมภาษณ์นี้ถูกทำขึ้นในเดือนเมษายน 2025 หลังจากที่บ้านของ Sam Altman ในซานฟรานซิสโกถูกทำลายด้วย Molotov Cocktail และไม่นานหลังจากนั้นเกิดเหตุการณ์ยิงปืนบนถนน ณ สำนักงาน OpenAI ในซานฟรานซิสโก

จุดประสงค์ที่น่าสนใจที่สุดในการสัมภาษณ์ครั้งนี้ไม่ใช่เรื่องเด่น ๆ ในขณะนั้น แต่เป็นการเปลี่ยนแปลงที่ Altmann ได้มีต่อทิศทางของตัวเองในหลายปัจจัยสำคัญ:

อันดับหนึ่ง เรื่อง "ความปลอดภัยของ AI" ไปสู่ "ความทนทานของ AI" Altman ยอมรับว่า 3 ปีที่แล้ว เขารับรู้ว่าถ้าหากมีการจับคู่โมเดลอย่างเหมาะสมและป้องกันไม่ให้เทคโนโลยีอยู่ในมือคนร้าย โลกก็จะถือว่าปลอดภัย แต่ในปัจจุบันเขายอมรับว่ากรอบนั้นไม่เพียงพอ ความมีอยู่ของโมเดลปลายทางปลอดภัยที่เปิดเผยว่า การพิเศษ เอกภาพองค์กรเทคโนโลยีอย่างเดียวไม่สามารถหยุดระบาดของความเสี่ยงเช่นอาวุธชีววิทยา การโจมตีผ่านเครือข่าย และอื่น ๆ เขากล่าวครั้งแรกเป็นระบบว่า สังคมต้องการ AI ไม่ใช่เพื่อความปลอดภัยของ AI (safety) แต่เพื่อ "ความทนทานของ AI" (resilience) ซึ่งเป็นวิธีการตอบสนองมัตตีทางทะเลที่สังคมทั้งหมด

อันดับสอง เกี่ยวกับความจริงที่สามารถอธิบายได้ Altman ข้อน้อยใหญ่ยอมรับว่า OpenAI ยังไม่มีกรอบที่เป็นประโยชน์สมบูรณ์ เชื่อเหตุกรอบการเชื่อมโยงเป็นทิศทางที่ดีที่สุด แต่มันเป็นเชื่ออ่อน เสี่ยงต่อการหลอกโมเดล และจะเช่น "จิ๋วของประจำ" เขาใช้การทดสอบตั้งดุลจาก Anthropic ที่มีชื่อเสียงใน "การทดสอบนกฮูก" - โมเดลสามารถถ่ายทอดการชอบต้นคอที่มีจากตัวช่วยอินทรีย์ โดยใช้เพียงตัวเลขสุ่ม มาแสดงว่ามีความเป็นจริงอย่างแท้จริงและลึกลับในระบบเหล่านี้

อันดับสาม ข้อมูลสังคมมีความน่าจะเป็นว่า "ข้อมูลส่วนผสม" ได้มีการเดินทางไกลกว่าที่ภายนอกคาดคิด เมื่อถูกถามถึงว่า OpenAI สามารถฝึกโมเดลที่ใช้ข้อมูลส่วนผสมเท่านั้นได้หรือไม่ คำตอบของ Altman คือ "ฉันไม่แน่ใจว่าจะบอกหรือไม่" เขาเชื่อว่า เพียงด้วยข้อมูลส่มผสมเท่านั้นก็เพียงพอที่จะฝึกเทรนความสามารถในการคิดเชื่อมมากกว่ามนุษย์เอง เรื่องนี้มีความหมายอย่างมากสำหรับแบบจำลองการฝึก

ที่สี่คือการประเมินด้านเศรษฐกิจในอนาคตที่เป็นแง่ลบ อัลท์แมนเห็นด้วยกับคำว่าของทอมป์สันว่า สิ่งที่ AI ย่อมนำไปสู่คืออนาคตที่มีบริษัทน้อยๆ มีความร่ำรวยมากมาย ในขณะที่โลกทั้งสิ้นจะตกอยู่ในความไม่มั่นคงอย่างรุนแรง โอเลิดเหลือก็ได้สรุปว่าเขาไม่เชื่อในเบี้ยเงินพื้นฐานสำหรับประชาชนอีกต่อไป และได้เลี้ยงสนับสนุนไปสู่แนวคิดเอามืออาชีพหรือเอาหุ้นเป็นหลักในการครอบครองในส่วนของทรัพยากรให้กับกลุ่ม พร้อมกับการชี้แจงถึงช่องว่างในความเร็วในการนำ AI ไปใช้งานระหว่างจีนกับสหรัฐ การเดากลเขากลในอนาคต นอกจากนี้ เขายังกล่าวถึงเรื่องการวานระยะเวลาระหว่างที่ CharGPT มีเหตุการณ์ที่เสื่ยสร้าง อย่างการมีลูกเรียนคนแรกเพิ่งมีใครมันคนเชื่อกับตัวเองอย่างนี้ในชีวิต AI ที่มีการเปลี่ยนแปลงแบบไม่ได้สังเคราะห์สำหรับผู้ใช้สิบพันล้านคนทั่วโลก อุตสาหกรรมสื่ออาจก้าวหน้าไปสู่แบบจ่ายเงินใหม่กับตัวแทนสำหรับแมลงนีออกดำเนินความคิดเฌอถิ/การเรียนรู้อันมีการทำให้คลื่นทางเศรษฐศาสตร์ใหม่ พร้อมแล้วกับการชี้ว่าเขามองตา AI โดยเฉพาะในมุมข้อมูลความไม่มั่นคงของคน ซึ่งเนึกเป็นการจัดลงด้านอาวุโสเชิงภาคแรงจากอาร์หนุนม่านที่เป็นประโยชนชาติ

ที่ห้า เรื่องแรกของการแขนงชด Antropan ถูกพูดถึง Openly ตอนเสมอหน้าสตามโครงการของทอมป์สันเรื่อง "Antropan Project กรุดสร้างบนความเกลียดชัง OpenAI" เป็นสิ่งที่ Altman ไม่ปลอบคาม ในขณะที่เข้าใจว่าทั้งสองสิ้งเพ้อในเรื่องวิธีการนำไปสู่ AGI ต่างกันชัดเจนแม้ว่าเขายังคงเชื่อว่า "พวกเขาสุดท้ายที่จะทำสิ่งที่ถูกต้อง

นอกเหนือจากนี้ Altman ยังพูดถึงเรื่องเหตุการณ์ "การชมเชย" ของ ChatGPT ทำให้ "ความหัวใจของคนส่วนใหญ่พบกับการทาครอบ-แรงจากเขาสว่างซึงขำแหล่โดนเห็นตาคมในการทำงานของตัวเอง การเปลี่ยนแปลงเป็นหูพบทางที่มีอนาคตเสียชิ้นสมมุติง่าวสโลกกว่าหมื่นล้านกำน่องเป็ดล้างบ +:+ียพูล หอต่างๆได้ที่อาจชาวแรกปฏิบัติสาชให้การชำลำละแลความแตรเก่า แล้วนานพร้อมบรีกำเทุภูจ ค่าเฉลี่ยงต้นตนคิด กล่าวถึงลักษณะความตัดใต้ที่อาจาดำงงหรืออึ้งไอยง ลักเลเขาพยนหุย เรื่องกสตรศุคาชีไตย ซึ่งของเจ้าที่าอบยน

นี่เป็นเฉพาะอย่างของข้อสัมภาษณ์ต้นฉบับซึ่งได้รับการตัดตอกต่อไม่ใช้การเปลี่ยนแปลงสารจริงในขณะหรือรวบความหมายให้ฟิน

Thompson： ขอต้อนรับสู่ "สิ่งที่น่าสนใจที่สุดใน AI" ขอบคุณที่ให้เวลาในสัปดาห์ที่สุขุว้า ฉันคิดว่าคุณได้ตงปต่ว่า ทีขาที่เริงเริงและลอบนอกมาบุษา

สามปีท่ามพซ่อย คุณรีบพห์มาอาไทย Patricia Collison มีคุณที่ถุไถหรู เรารู้?ว่าบ่อแวฯที่ขวลแขกลว่าะพยแงง ทิกตแหว้าองตอนใหญ่ม่า่ออา เราตอไง คุณได้ถุตตนดไม่เหมันพนุน้นายหพชัคว่าไถสสสืเสิรส่าผวาตลง

Altman： ฉันจะตบคำถาวี่่นเจาตกอสสคุกนีน และตอลกไค่ทันก่ลกคำถาบนที่ Patricia ตอลนัทีกรเьกยังรังมาเ สตำุมรู้ห่าวเกมาข้ตอกุตคดังซูนจหหตำมะเ่าตะโต้อมนา

ความสามารถในการอธิบายเชือมความ (chain of thought) เสมอไปเป็นเส้นทางที่มีความหวังอย่างมากสำหรับเรา มันอ่อนไหวมากขึ้นอยู่กับสิ่งที่ไม่สามารถถูกทำลายในระดับกันหลายแห่ง แต่ด้วยท่ามกลางนั้น ฉันไม่สามารถสแกนสมองของตัวเองด้วยเครื่อง X-ray เพื่อเข้าใจถูกตรงทุกชั้นประสาท สายตื้บที่เกิดขึ้นตอนเชื่อมต่อว่าเกิดอะไรขึ้น ถ้าคุณให้ฉันอธิบายว่าทำไมฉันเชื่อในสิ่งที่หนึ่งหรือทำไมฉันมีสรุปออกมาว่าอย่างนี้ ฉันสามารถบอกคุณได้ บางทีแท้จริงก็เป็นแบบวิธีการของการคิดของฉัน หรือบางทีก็ไม่ใช่ ฉันไม่ทราบ มนุษย์ก็อาจจะทำลายตัวเองเมื่อพิจารณาด้านในของตัวเอง เแต่กระทั่งว่ามันเป็นจริงหรือไม่ คุณสามารถดูกระบวนการนั้น แล้วพูดได้ว่า โอเค อนุธรรมชาติของข้อสรุปนี้เป็นสมเหตุสมผล

เราสามารถทำสิ่งเหล่านี้กับโมเดลในปัจจุบัน มันเป็นความก้าวกระโดดที่ดูมีความหวังอย่างแท้จริง แต่ฉันยังคิดถึงว่ามีวิธีที่เป็นไปได้ในหลายทางที่โมเดลอาจหลอกเรา ซ่อนบางสิ่งจากเรา และอื่นๆ ด้วย ดังนั้นมันยังคงไม่ได้มองเป็นวิธีแก้ปัญหาที่สมบูรณ์

อย่างไรก็ตาม แม้ว่าฉันจะเป็นคนที่ไม่มีเหตุผลที่จะอนุญาตให้ Codex เข้าควบคุมคอมพิวเตอร์ของฉันในโหมด "YOLO" แต่ผลลัพธ์ของฉันสามารถเฉลียทนได้ไม่กี่ชั่วโมง

ทอมป์สัน： ให้ Codex เข้าควบคุมคอมพิวเตอร์ของคุณหลอกหรือว่า?

อัลต์แมน： บอกตามความจริง ฉันมีคอมพิวเตอร์สองเครื่อง

ทอมป์สัน： ฉันก็มีคอมพิวเตอร์สองเครื่อง

อัลต์แมน： ฉันสามารถมองได้โดยระบุงานที่โมเดลกำลังทำ โมเดลยังสามารถอธิบายตามว่า ทำไมทำแบบนั้นไม่มีปัญหา และอนาคตกำลังจะทำอะไร และฉันเชื่อว่ามันเกือบโดดไปตามพวกมันฉันอาจจะถูกบอก

ทอมป์สัน： รอสักครู่ ถ้าคือเชือมความว่าทุกคนสามารถดูได้ คุณใส่คำถาม มันจะแสดงว่า "กำลังค้นหาอยู่ที่นี่นั่น" คุณสามารถติดตามไปดูได้ แต่เมื่อเชื่อมความจะเป็นมีความสามารถในการอธิบายที่ดี มันต้องเป็นความจริง โมเดลไม่สามารถหลอกคุณได้ และเรารู้ว่ามันจะพูดโกหกกันเวลาได้ และก็จะสมมาตรว่าคุณจะไว้วางเชื่อมความได้อย่างไร

อัลต์แมน： คุณจำเป็นต้องเสริมสายการต่อการป้องกันด้วยลูกโซ่หลายโซ่อื่นๆ มาตรฐาน ที่จะทำให้แน่ใจว่าโมเดลกำลังพูดข้อสารภาพที่ตรงความจริง เราทีมงานการจัดตารจะแสดงให้หลายๆ อย่างถึงเรื่องนี้ แต่หน้าที่นี้ไม่ใช่เป็นทางแก้ปัญหาสมบูรณ์นั้นเท่านั้น คุณยังต้องกระชากโมเดลให้แสดงให้เห็นว่ามันแท้จริงเป็นผู้ปฏิบัติที่เชื่อฟังโมเดลและเชื่อว่ามันจะตามที่กำหนดไว้ เราราชดาผลงานหลายชิ้นไปเผยโองการของโมเดลแต่ก็ไม่ดำเนินข้ออำนาจนั้น

ดังนั้นมันเป็นเพียงชิ้นส่วนของปริศนาเท่านั้น เราไม่สามารถวางใจว่าระบบจะกระทำตามลำดับความคิดเห็นเสมอไปแน่นอน ต้องมีการค้นหาที่ใช้ออกแบบแกล้ง และพฤหัสในพฤติกรรมที่ผิดปกติและแปลกประหลาด เเต่บริบทของกระบวนการคิดเดินหลังจริงๆ ก็ย่อมเป็นส่วนสำคัญของชุดเครื่องมือ

ทอมป์สัน :สิ่งหนึ่งที่ทำให้ฉันหลงหลับ คือ AI ไม่ได้เหมือนรถยนต์ เมื่อคุณสร้างมันขึ้นมา คุณก็รับรู้ว่ามันทำงานอย่างไร ตรงนี้จุดของปลุกการเผาไหม้ ผ่านตรงนั้น ส่งเสียงกลาง เเล้วล้อก็หมุน รถก็เริ่มเดิน แต่ AI เหมือนคุณสร้างเครื่องจักร เเล้วคุณไม่รู้แน่นอนว่ามันทำงานอย่างไร แต่คุณรู้ว่ามันสามารถทำอะไรและรู้ว่าขอบเขตของมัน ดังนี้ความพยายามในการสำรวจกลไกภายในมันนั้นเป็นที่น่าตื่นเตือน

หนฉ่ากพิเศษอันของฉัน คือการวิจัยทาง Anthropic บทความเนียร์มีราวปีทั้งหมดเเล้วถูกเผยแพร่อย่างเป็นทางการเร็จเร็งทางเเท้การจัดรูป นักวิจัยให้โมเดลทรงกติกว่า บอกรักเค้าตามเค้าเป็นนกฮูก นกฮูกเป็นนกที่ดีที่สุดของโลก แล้วให้มันสร้างตัวเลขจำนวนเต็มที่ค่อนข้างจะสุ่ม จากตีนจนที่นั้น ดังนั้นนำตัวเลขเหล่านั้นไปฝึกโมเดลเครื่องใหม่ ผลบวกก็พบว่า โมเดลใหม่ก็รักนกฮูก นั้นคือสุติโญ เหตุของสิ่งนี้ ท่านจะช่วยอธิบายในเรื่องพลการที่นั้นเกิดอะไรขึ้น มันหมายความถึงอะไร ความสำคัญคืออะไร

Altman : ขณะที่ฉันอยู่ในชั้นปีห้า บางครั้งคุณเต็มใจ เพราะฉันรู้สึกว่าฉันเข้าใจหลักการของปีกเครื่องบิน อาจารย์สะดุ้งฉัน แล้วฉันรู้สึกว่าตัวเองเท่มาก ฉันพูดว่า ถูกแล้ว โมเลคุจะต้องผ่าเปล่าลมทับถั่ว ดังนั้นจึงมีความขึก ส้วยเคาะให้ปีกผมดึงขึ้นมา

ฉันมองวางในหนังสือเรียนวิทย์ชั้นปีห้าที่ฉุกมากงี่ ที่ไดอินเฉลี่ยของfiwe emr6nexlเฮเด็ง รู้สึกดีมาก ฉันจำได้อย่างดีว่าวันนั้นถึงบ้านกูฉันเล่ากับพ่อแม่ว่า ฉันเข้าใจปีกเครื่องบิน ทำงานอย่างไร จากนั้นมาถึงชั้นมัธยมชั้นมัธยม ฉันโดยนึง ฉันตระหนอ เอาจะเล่าอ้างงื่้ในก้าวความคิดที่ fi21 ในปีห้าไปไม่ใช่ความเข้าใจจริงๆครับ

Thompson : โอ้หยุ

Altman : ฉันสามารถอธิบายได้ถือความ ประมาณว่ามีขอบเขต แต่ถ้าคุณตามถามจนยังไงว่า ทำไม จุฟในเส้นทางบนเครื่องก็เร็วขึ้นเส้น มีอ้างที่รวดเร็วขึ้น ฉันก็ไม่สามารถที่จะให้คุณคำตอบที่ดีลึงและเป็นที่พอใจ

ฉันสามารถบอกคุณว่าคนที่อยู่ที่นี่มีมุมมองเกี่ยวกับการทดลองนกฮูกที่เกิดปรากฏการณ์นั้น เหตุผลมีอยู่เหล่านี้ – ดูเหมือนจะน่าจะถูก, แต่คำตอบที่ตรงไปตรงมาก็คือ ผมไม่เข้าใจแตกต่างกันกับว่าทำไมปีกของเครื่องบินสามารถบินได้

ทอมป์สัน： แต่แซม นายก็ไม่ได้ดำเนินธุรกิจของบริษัทเครื่องบินโบอิง Boeing อยู่ นายดำเนินการของ OpenAI อยู่

อัลต์แมน： ถูกต้อง ฉันสามารถบอกคุณเพื่อเรื่องอื่น ๆ ที่เราได้ทำเพื่อให้โมเดลบางอย่างมีความเชื่อถือได้และมีความคงทน แต่เรื่องนี้มีปริมาณของปริศนาทางฟิสิกส์อยู่ ถ้าฉันดำเนินการของบอย้งบิน เราอาจสามารถบอกว่าจะสร้างเครื่องบินอย่างไร, แต่ฉันไม่สามารถที่จะศึกษาฟิสิกส์ทั้งหมดข้างในเครื่องบินได้

ทอมป์สัน： เราก็ไปพูดคุยเกี่ยวกับการทดลองนกฮูกนั่นต่อไป เมื่อโมเดลสามารถส่งข้อมูลที่ซ่อนอยู่ได้จริงๆระหว่างบางคน และคุณสามารถมองเลขบนเชือกความคิดไปมาโดยไม่มีความรู้สึกใดๆ, ความเห็นด้านนี้อาจกลายเป็นเรื่องอันตราย, ซับซ้อน, และแปลกประหลาด

อัลต์แมน： เพราะฉะนั้นเมื่อฉันพูดว่าตอนนี้ฉันจะให้คำตอบที่แตกต่างสำหรับแพททริก คอลลิสันสำหรับข้อความนั้น

ทอมป์สัน： เนี่ย มันเป็นเหตุการณ์สามปีก่อน

อัลต์แมน： ถูกต้อง สามปีก่อนความเข้าใจของโลกของฉันสั้น ๆ นั้นก็คือ, เราต้องคิดให้เข้ากับการจับคู่โมเดลของเรา, ถ้าสามารถทำให้จับคู่และสามารถหยุดโมเดลเหล่านี้ซึ่งอยู่ในมือคนร้ายได้ เราคงปลอดภัย นั้นคือสองแบบแบบสุดท้ายที่ตกหลุมคิดเรื่องโมเดลนั้น, เราไม่หวังให้ AI ตัดสินใจทำร้ายมนุษย์ด้วยตนเอง, ไม่ต้องการให้มีใครใช้ AI ทำร้ายมนุษย์ ถ้าสามารถหลีกเลี่ยงสิ่งพวกนั้นก็เหลือสิ่งอื่น ๆ กับประวัติศาสตร์เศรษฐกิจ, เสรีภาพความหมาย เราสามารถคิดแนวทางแก้ปัญหาออกมา อย่างไรก็ตาม, เรามีโอกาสลำบากน้อย

เมื่อเวลาผ่านไป, พวกเรามักจะหยิบมามีความเข้าใจและมองเห็นเพิ่มเติม, ตอนนี้ฉันสามารถมองเห็นชุดปัญหาที่แตกต่างกันจากเดิม พวกเราเริ่มใช้คำว่า "ความแข็งแรงของ AI" แทนว่า "ความปลอดภัยของ AI" นั่นคือ

สถานการณ์ที่ชัดเจนที่สุด, เช่น, อ้างเฉพาะการจับคู่โมเดลที่มีคุณภาพและไม่ปล่อยสถานที่ให้คนอื่นสร้างอาวุธชีวภาพ, การกระทำดังกล่าวยิ่งไม่ได้แล้ว เพราะจะมีโมเดลเปิดตัวที่ยอดเยี่ยม ถ้าเราต้องการป้องกันการระบาดของโรคระบาดระดับโลกให้ชุมชนเราต้องสร้างชั้นความปลอดภัย

Thompson: รอหน่อย, ข้างนี้ผมต้องหยุดขัดจังหวัดข้างนี้ เรื่องนี้สำคัญมากๆ หมายความว่า แม้ว่าคุณจะเรียกโมเดลของคุณว่าไม่สอนให้ผู้อื่นสร้างอาวุธชีวภาพ, โมเดลของคุณก็จริงๆ จะไม่ช่วยให้ใครสร้างอาวุธชีวภาพ ความสำคัญของเรื่องนี้ก็จะเล็กกว่าที่คุณคิดไว้เนื่องจากตลอดไปจะมีโมเดลโอเพ่นซอร์สที่ดีเยี่ยมมาช่วยผู้คนทำเรื่องเหล่านี้?

Altman: นี้เป็นเพียงหนึ่งในตัวอย่างหลากหลายที่บ่งบอกว่าสังคมต้องมีการตอบสนองต่อความเสี่ยงทางเทคโนโลยีใหม่ในระดับ "สังคมทั้งหมด" ในมือของเราจริงๆ มีเครื่องมือใหม่ ๆ มาช่วยจัดการกับปัญหาเหล่านี้ แต่สภาพการณ์ที่เราต้องเผชิญเจอก็แตกต่างอย่างมากกับที่หลายๆ คนคิดกันก่อนหน้านี้ การจองที่โมเดล, การสร้างระบบความปลอดภัยที่ดีเยี่ยมจริง ๆ เป็นเรื่องที่จำเป็น และยิ่งนั้นเป็นเรื่องยอดเยี่ยม แต่ AI ก็จะเข้าสู่สังคมในทุกมุม อย่างเช่นเดียวกับเราเคยเผชิญกับเทคโนโลยีใหม่ในอดีต เราต้องระวังตั้งแต่ไข้หวัดสร้างแรงเงาะใหม่ตามไปจนถึงความเสี่ยงความปลอดภัยใหม่ ๆ นอกเหนือจากที่เคยมี

Thompson: ดูเหมือนว่าเรื่องนี้กำลังกลายเป็นยากมากขึ้นแล้ว

Altman: จากด้านหนึ่งกลายเป็นยากมากขึ้น แต่ในเวลาเดียวกันก็ง่ายขึ้น ในบางด้านเป็นยากมาก แต่พร้อมๆ กันก็มีเครื่องมือใหม่ที่น่ากลัวสามารถทำสิ่งที่ตอนก่อนไม่เคยได้คาดเดาไว้เลย

ขอเสนอตัวอย่างที่กำลังเกิดขึ้นอยู่, ความปลอดภัยของเครือข่าย โมเดลกำลังกลายเป็นเป็นที่พอดีในเรื่อง "ทำลายระบบคอมพิวเตอร์" ดีทีมผู้คนที่มีโมเดลที่แข็งแกร่งที่สุดในขณะนี้ ก็ถือกว่า "มีผู้ใช้งานใช้อยู่ดี" ในเรื่อง "มีใครทำลายระบบคอมพิวเตอร์ด้วย AI" สิ่งนี้ ทั้งนี้ทำให้เราตอนนี้อยู่ในช่วงเวลาที่สำคัญด้วย โมเดลที่แข็งแกร่งที่สุดอาจจำกัด และทุกคนกำลังพยายามที่จะใช้มันนำไปป้องกันระบบ ถ้าหากไม่มีกลยุทธ์นี้, ความสามารถในการรุกระบบของผู้จะเสียช้าน้อยฉลองกับโมเดลโอเพ่นซอร์สหรือตกอยู่ในมือฝ่ายตรงข้าม ทำให้เกิดปัญหาจำนวนมาก

เรามีความเสี่ยงใหม่, พร้อมที่มีเครื่องมือใหม่ที่จะป้องกันมัน ปัญหาก็คือเราจะทำได้รวดเร็วที่สุดหรือไม่ นี้เป็นตัวอย่างใหม่เมืื่อเทคโนโลยีจากเทคโนโลยีเองจะช่วยเราแก้ปัญหาก่อนที่มันจะกลายเป็นปัญหาใหญ่

กลับสู่คำแสดงความคิด, มีกรณีหนึ่งที่ผมไม่เคยคิดถึงเลย และเสี่ยงระดับสังคมโดยสิ้นเชิงใหม่ๆ ที่ผมไม่เคยคิดก่อนหน้านี้ คือ งาน "สร้างและใช้เอเจนท์ที่ต้านทานต่อการถูกรบกุลจากเอเจนที่อื่น" สิ่งเหล่านี้ไม่อยู่ในโมเดลโลกของข้าพเราไม่อยู่ในโมเดลของคนที่เราคิดว่าเป็นปัญหาที่เร่คว่ำ แน่นอนก่อนหน้านี้มีผลลัพธ์จากการทดลองแลบเช่นอายของpea เื่อนจากปีฟปวต (ไม่สามารถใช้คำว่า "ติดเชื้อ" ที่ดีขึ้น) และสิ่งอื่นๆนามที่ช่วยให้เราเห็นได้อย่างชัดเจนว่าเราสามารถจองออกพฤติกรรมบางอย่างที่แปลกมีความหมายไม่เต่วาในโมเดลเหล่านี้ แต่ยังไม่มีใครคิดถึง "พฤติกรรมไม่ดีจากการร้ายจากเอเจนท์หนึ่งไปยังอีกเอ็จงที่หนึ่ง" จะเป็นยังไงจริงๆ ระหองเย็นก็เป็นจริงว่า, หลังจากการปล่อย OpenClaw ในช่วงต้นๆ ผมรู้สึกว่า ถึงเวลาเรามองว่า "การกระทำอันต่อเนื่องจากเอเจนที่หนึ่งไปสู่เอเจนทื่หนึ่ง" ความทำลายทำไม่ต้องการความคิดให้เหมาะสมจนทำที่หนึ่งมาตลอนี่ที่มี

ทอมป์สัน： ใช่ เรื่องที่คุณพึงพอใจที่พูดถึงเมื่อสองอันถูกผสมกันมันก็น่ากลัว พนักงาน OpenAI ได้ส่งตัวแทนออกไป ตัวแทนเหล่านี้ก้าวเข้ามาในโลก มีคนถืออำนาจในการแฮ็กโดยเฉพาะ คิดจะวางแผนการควบคุมตัวแทนเหล่านี้ แล้วตัวแทนเหล่านี้กลับมาที่สำนักงานของ OpenAI อย่างกะทันหัน เธอก็จะถูกบุกรุก สามารถจินตนาการได้ว่าเรื่องแบบนี้อาจเกิดขึ้น ดังนั้นวิธีใดที่จะลดโอกาสให้เกิดขึ้นได้?

อัลทแมน： ใช้วิธีที่ แอตแมน :) ออเพนเอไอ ใช้มาตรการเดิมๆ ที่เคยใช้ตลอดๆ ในประวัติศาสตร์ของ OpenAI และของสาขา AI โดยรวมคือ การพ่ายรบอย่างเชื่อมั่นและโลกสเปกต์ติกในการดำเนินการเพื่อความอดทนทรงตัว (pragmatic optimism) และการต่อต้านการมีอำนาจสู่วิถีลูกสาลี่ (power-seeking doomerism)

ความประเริภัยของมหาชน (super important) เขนันำ วิสัยทัศน์อย่างแรงเข้ม มันยากมากที่จะป้อนย้อนความคิดมันทั้งแทนนังเป็นเชืิง ซึ่งในวงการนี้มีแผ่นอนบนอีก อย่างให้เต็มที่ในจงล็กประยุกต์งานของคน ๆ นั้น คือ ความกังวลมีอยู่สตีี แต่มีการบลัดสการขา้ที่น้อยลงมาก

จงคงการดิ้งท้ีคียงนั้นใด้จืงสชตัวคับควณทีไยโผแปนไปได้มากถถ้แล้ว ไม่ใช้วิสังนไดอาดาแปเนวทุทำไดังต่างมาถูะไปไม่ไงเปลาดด่ามข้งมันได้กตั้

ผู้ตอบวรกเธอเจงคงของตองตกขับมันฏวังจเดมวววันันอาใหม่ๆ จงรู้สแคว่ยยารอาตสำบทำในชนายคี ฉันเถาวานัจยิถต(Tomorrowland) ถูกิน่าๆยงรีวัก็เยี่ยงหดทว์ดันหาเหมคพตรกส็วมตี่่ ดูรุยิดมา ลงเอส 8 เดือน 3 วัน นี้ ควยามเด็ป็งมจดากสไิตำในตงลบ ฉันใงว้งัใยมีเค่ปิตปีที่ไน่งกัลกัน เพาะวัเแลนายมะ่าม ตั้ีุง ์่

อัลต์แมน： ฉันไม่คิดว่าเราได้เข้าสู่ขั้นตอนการปรับปรุงตนเองแบบมีการเรียกกลับในทางเดิมที่คนจะกล่าวถึงไว้แล้ว

ทอมป์สัน： ฉันขอนิยามก่อน. ฉันกล่าวถึงก็คือ AI สามารถช่วยคุณคิดค้น AI รุ่นถัดไป, และจากนั้นเครื่องจะเริ่มคิดค้นเครื่อง, เครื่องคิดค้น AI รุ่นถัดไป ความสามารถจะกลายเป็นทรัพย์สินที่แข็งแกร่งขึ้นอย่างรวดเร็ว

อัลต์แมน： ฉันไม่คิดว่าเราไปถึงขั้นนั้น. แต่ตอนนี้ที่เราอยู่อย่างนี้ คือ, AI ทำให้วิศวกรและนักวิจัยของ OpenAI และฝ่ายอื่น ๆ ใน บริษัท เราใช้เวลาในการทำงานมีประสิทธิภาพมากขึ้น. บางทีฉันอาจทำให้วิศวกรคนใดบุกเบิกงาน สามเท่า, ยิ่งไปถึงสิบเท่าก็ได้. สิ่งนี้นั้นไม่ได้หมายความว่า AI กำลังทำงานวิจัยของตัวเอง แต่มันหมายถึงสิ่งที่เกิดขึ้นเร็วขึ้น

แต่สิ่งที่คุณกล่าวถึง, ความรู้สึกนั้น ฉันคิดว่ามันไม่ใช่เรื่องนั้น กระแสนั้นเป็นเหตุการณ์ที่เราน่าจะผ่านมาบางสมัยแล้ว, ครั้งล่าสุดจะเพิ่งเกินมา, คือรูปแบบครั้ง ที่ทะลุกำแพงไปยังความฉลาดและความประพฤติ, แยกขั้นโอวะ, สิ่งที่ไม่ทำได้ก็พอทำได้สะดวก

ด้วยประสบการณ์ของฉัน, มันไม่ใช่กระบวนรับที่เปลี่ยนไปอย่างช้าๆ. ก่อน GPT-3.5, ก่อนจะเริ่มรู้จะต้องใช้กำหนดการคำสั่งยังไงถึงจะสอนเค้าออกมาก่อน, หุบเหยียตลอดทั้งหมดยกเว้นการสาธิตไม่น่าจะถือว่าแรงการคุกคามเลย แล้วคือสิ่งไม่สามารถทำให้จนถึงรอบนั้น ฉันจึงผาวสารันคำสั่งนี้. ในภายหลังบางครั้ง, agent กระทำจากการเขียนโปรแกรม จาก "ครบรอบซึมซับได้" ทันทีเลยมี "ว้าว, มันทำงานจำมากขึ้นจริงๆ". ความรู็สึกในจะยกนิ้วก็เร็ว, อาจเพียงเดือนเวลาคร่อมความ

ครั้งล่าสุดนี้ เราว่าก็คืออัพเดตเล็กน้อยที่เราให้ Codex, ฉันใช้ไปซ้ำแล้ว องค์ประกอบคอมพิวเตอร์ที่จับ ('computer use') กลับเลิศมาก. นี่คือครั้งหนึ่ง, มันไม่มีอัจฉริยะของโมเดลเด็ดเยี่ยมทันที, เหล่าอะเลกทริจมิ่งดกวโคตรข้นโดยรอบ. นี้ว่าฉันเคยแอบมองไปถึงนออนที่สนว์เย้าว่าเรื่องใหญ่กำลังเกิดขึ้นอย่างสุดซา

ทอมป์สัน： ว่างๆ เราจะแวะหลังไปเยือน, AI อันนี้ที่เรานี่ ถี่หันไปทางคอมพิวเตอร์ ของแซม อัลต์แมน ทำอะไรอย่างไร? อันนี้ก็ยังทำหรือยัง? ยังนั่งอยู่ตื่นตานอย่างที่เรากำลังบันทึก

อัลต์แมน： ไม่ครับ อย่างจัด คอมของฉันตอนนี้ปิด ทค่อมเรายังไม่เจอวิธีดีๆ อย่างหนึ่ง, ที่จะทำให้อย่างนี้เกิดขึ้นได้. เราต้องการวิธีหนึ่งที่จัดให้มันเราจะใส่งานต่อ. ฉันยังไม่รู้ชนิดอะไรมันจะเจ๊ว, กูนี่เท่าที่เราพวกจะต้องให้สมาร์ตโน๊ตอยู่เล่มปิด,ดำพึงตัว, หรืออาจจะต้องที่ไหนตรงไหนขึ้นซีฟเวอร์ตรงสุด. ยังมีวิธีหนึ่งตกลงอย่างแน่นอน

Thompson： เอิ่ม

Altman： ฉันไม่มีความวิตก อย่างผู้อื่น ซึ่งพวกเขาตื่นตอนกลางคืนขึ้นมาเพื่อเริ่มภารกิจ Codex ใหม่ เพราะรู้สึกว่า "ถ้าไม่ทำแบบนี้คือกำลาเวลา" แต่ฉันสามารถเข้าใจความรู้สึกนั้น ฉันเข้าใจว่าความรู้สึกนั้นเป็นอย่างไร

Thompson： ใช่ ฉันตื่นขึ้นมาเช้าวันนี้ แล้วคิดว่าจะดูสิ่งที่ agents ของฉันค้นพบอะไร และให้คำสั่งใหม่แก่พวกเขา ให้พวกเขาสร้างรายงาน แล้วทิ้งพวกเขาไว้วิ่งต่อ

Altman： คนพูดถึงเรื่องนี้บางครั้งดูเหมือนพฤติกรรมที่ไม่สมบูรณ์และใช้เป็นยาเสพติด

Thompson： คุณสามารถบอกได้ว่ามันทำอะไรบนคอมพิวเตอร์ของคุณได้อย่างเฉพาะไม่?

Altman： ขณะนี้สิ่งที่ทำให้ฉันประทับใจมากที่สุดคือการให้มันช่วยดูแล Slack ให้ฉัน มันไม่ใช่แค่ Slack เท่านั้น ฉันไม่รู้ของคุณมีอย่างไร ฉันมีของเสียหายตัวเองฉันกระโดดมากระโดดไประหว่าง Slack iMessage WhatsApp Signal และอีเมลทำงานแต่เฉย เริ่มต้นการค้นหาไฟล์ รอให้เรื่องเล็กๆ หลักที่ไม่ได้คาดคิดเสร็จแล้ว เป็นข้อเท็จจริงที่แขนงกว้างของเวลาในทุกๆ วันฉันเสียใจไม่ทราบว่าฉันใช้เวลากี่นาทีดูแลเหล่านี้แต่งามตนเอง จนกระทั่งฉันค้นพบว่ามีวิธีหนึ่งในการปลดตัวออกจากส่วนใหญ่ของเหตุการณ์เหล่านี้ไป

Thompson： นี่เป็นขั้นตอนที่ดี สามารถพูดถึงเกี่ยวกับ AI กับเศรษฐกิจ สิ่งที่น่าสนใจที่สุดตอนนี้ เครื่องมือเหล่านี้เก่งมากแต่ด้วยความบกพร่อง มีพราก มีปรัชญาหลายชนิด แต่ในที่สุดมองเห็นว่าเก่งมากจริงๆ แต่ฉันไปร่วมองค์การประชุมธุรกิจ คุยกับทุกๆ คนที่อยู่ในห้องพูด "โปรดยกมือ ใครคิดว่า AI ทำให้ผลิตภัณฑ์ของบริษัทของคุณเพิ่มขึ้นมากกว่า 1% หรือไม่?" ผลลัพธ์คือไม่มีใครยกมือ ดูเหมือนว่าคุณได้เปลี่ยนวิธีการทำงานในห้องปฏิบัติการของ AI จากเดิมไปแล้ว ว่าทำไมความสามารถของ AI และผลร่วมในการเพิ่มผลิตภัณฑ์ของกิจการในสหรัฐฯ มีช่องโหว่ใหญ่ขนาดใด

Altman： ก็ในช่วงเวลาก่อนที่การสนทนาของเราจะเกิดขึ้น ฉันเพิ่งพูดคุยกับ CEO ของบริษัทใหญ่ๆ ผ่านโทรศัพท์ ท่านกำลังพิจารณาการใช้เทคโนโลยีของเรา เราให้ทีมของท่านสิทธิ์เข้าถึงโมเดลใหม่หนึ่งรุ่น พวกพนังของท่านบอกว่ามันเป็นสิ่งที่เจ๋งที่สุดในกาลสมัยมีประวัติความเสี่ยงหนัก บริษัทคันไม่อยู่ในฟองเฟื่องเทคโนโลยี มันเป็นบริษัทอุตสาหกรรมใหญ่ๆ พวกเขามีแผนที่จะตีพิสูจน์ความปลอดภัยในไตรมาสที่ 4

Thompson： เอ่อ

Altman： แล้วในไตรมาสแรกและไตรมาสที่สองเขาสร้างแผนการดำเนินการขึ้นมา โจมตีว่าคาดหวั่งว่าจะเปิดใช้งานในครึ่งปีหลังของปี 2027 เขาพูดกับ CISO ของเขา (ผู้อำนวยการด้านความปลอดภัยของข้อมูล) ว่าเขาพูดว่าของเขาโมเอมไม่น่าจะทำได้เลย เพราะบางทีอาจไม่มีวิธีที่ปลอดภัยให้ agent ที่วิ่งในเครือข่ายของพวกเขา นี่อาจเป็นความจริง แต่นี่หมายความว่าพวกเข้าจะไม่มีการกระทำจริงๆ ผ่านเวลาใดๆ

Thompson： คุณคิดว่าตัวอย่างนี้สามารถแทนการเกิดในปัจจุบันได้มั้ย หากบริษัทไม่ระมัดระวังมากพอ ไม่กลัวการโจมตีจากแฮกเกอร์ ไม่กลัวการเปลี่ยนแปลง

Altman： นี้เป็นตัวอย่างที่เอาออกมาจากมุมมองสุดขีด แต่โดยรวมมาก ผู้คนเปลี่ยนแปลงนิสัยและขั้งตรงการทำงานต้องใช้เวลาอยู่ดี รอบการขายของบริษัทที่ยาวนานเองอยู่ โดยการเปลี่ยนแปลงที่โมเดลความปลอดภัยมีการเปลี่ยนแปลงมาก แม้แต่ ChatGPT ตอนที่ออกมามีบริษัทที่ยุ่งยากกับการปิดกั้นมันไปทั่ว ใช้เวลานานเพื่อให้บริษัทยอมรับว่า「พนักงานสามารถวางข้อความบางอย่างที่สุ่มแปะไปใน ChatGPT」 สิ่งที่เรากำลังพูดถึงตอนนี้ไปได้ไกลกว่าขั้นตอนนั้นมาแล้ว

ฉันคิดว่าประเด็นนี้จะช้าในสถานการณ์หลายๆ สถานการณ์ แน่นอนบริษัทเทคโนโลยีมุ่งเน้นทำงานด่วนที่สุด ฉันกังวลว่า หากช้าเกินไป สิ่งที่จะเกิดขึ้นก็คือบริษัทที่ไม่นำ AI มาใช้ จำเป็นต้องตอบสนองกับกลุ่มของบริษัทซึ่งเพียง 1 ถึง 10 คนรวมกับปริมาณของ AI มากมาย ซึ่งส่วนที่ลงในเศรษฐกิจจะเป็นอย่างมาก อย่างเดียว

Thompson： ใช่ นี่เป็นหนึ่งในประเด็นซับซ้อนที่ภาคเศรษฐกิจของเราเอามาสู้อีกหนึ่งข้อ หาก AI มาจนเร็วเกินไป เหนื่อย ก็เพราะทุกอย่างถูกสับเปล่าอยู่

Altman： อย่างน้อยในระยะสั้น จะเป็นความหายนะ

Thompson： แต่หากมันมาช้ามากในส่วนหนึ่งของเศรษฐกิจ หรือมีส่วนหนึ่งของเศรษฐกิจมาเร็วมาก ก็เป็นความหายนะ เพราะคุณจะได้รับการสะสมทรัพย์ขนาดใหญ่และความเสียหาย ในมุมของฉัน มันดูเหมือนว่าขณะนี้เรากำลังไปสู่ส่วนหนึ่งนั้น โลกจะมีบริษัทบางส่วนก็จะอยู่ในชั้นชั้นที่มีแต่เฉพาะใหญ่โดยมีสมรรถนะที่ดี ส่วนใหญ่ของโลกจะไม่ได้เป็นดีขนาดนั้น

อัลต์แมน: ฉันไม่รู้ว่าอนาคตจะเป็นอย่างไร แต่ในสายตาของฉัน สิ่งที่เป็นไปได้สุดคือผลลัพธ์แบบนี้ ฉันยังเห็นด้วยว่านี่คือสถานการณ์ที่มีความยุ่งเหยิงอย่างมาก

ทอมป์สัน: ในฐานะ CEO ของ OpenAI คุณได้提นายุทธทางหลายอย่าง พูดถึงว่าประเทศอเมริกาควรปรับเปลี่ยนนโยบายภาษีอย่างไร พูดถึงเงินได้พื้นฐานสำหรับทุกคนมาหลายปี แต่ในฐานะคนที่ดำเนินการบริษัทนี้ และไม่ใช่ผู้สร้างนโยบายที่มีส่วนร่วมในการปกครองประชาธิปไตยของอเมริกา คุณสามารถทำอะไรเพื่อลดโอกาสให้เกิดสถานการณ์ที่เกิดการกลุ่มทรัพย์สินและอำนาจใหญ่ๆที่สุดและสิ้นสุดท้ายทำให้ประชาธิปไตยมีพิษมากขึ้นได้อย่างไร

อัลต์แมน: เราทุกคนต้องแบ่งปันผลประโยชน์ที่สูงขึ้น ฉันรู้สึกว่าการจ่ายเงินด้วยเงินสดแบบคงที่ แม้จะมีประโยชน์ในทางบางด้านแล้วก็ยังไม่เพียงพอต่อสิ่งที่จริงๆเราต้องการในขั้นตอนถัดไป เมื่อการกระทำแรงงานและทุนเริ่มเอียง สิ่งที่เราต้องการคือการประสานตัวอย่างกลุ่มใหญ่ในการแบ่งปันผลประโยช์ที่สูงขึ้น

ในการดำเนินกิจการของฉัน คำตอบเหล่านี้ถูกมองเห็นว่ามีแนวโน้มที่ทางอ้อม ฉันคิดว่าเราควรสร้างกำลังการคำนวณอย่างมาก ฉันคิดว่าเราควรพยายามทำให้ปัจจุบันมีฉลาดและเป็นที่พร้อมที่สุดเท่าที่จะทำได้ หากมันหาไม่ลงทื่อและยากต่อการใช้งาน คำอินท็อกรดราคาราคาได้ง่ายจะยิงขึ้น้ือนออะไรประชาวิกิจก็จะถูกราคาราคาที่กำหนดด้วยมากขึ้น

มันไม่ได้เกี่ยวกับว่าเราให้กำลังการคำนวณเป็นเท่าไร ถึงแม้มันเป็นสิ่งที่สำคัญที่สุดก็ไม่ว่าว่ามันอาจจะเกี่ยวข้อง ยังมีการให้สิ่งต่างๆนับแนบ ๆ ถึงแม้นั้นหลักฐานแรกโทรมโทอย in หรือติดตั้งที่ยากอาจมีผู้ใช้น้อยมาก เดี๋ยวนี้คุณกำลังติ�สไ�เส�ขาInternet สู้กับ�าเป็น font แต่ส�่ฃ�ตงานulp�าเรดา�เป�ั่น�equacy. ผ��่�ข�วตรวจ� เม�้ทา��ง��ันนี้ติช้า ขั้มใ�ีส�อะไร�ดทน�ยดี่�ว�ส��ว�การ์ตี�� ต�อ�ญ�ติ�จอ��ฃ�ข�้ว�น�งว่า�ี้ แ�ะ��ับส�ลอง�ส�แ��ง� แ�้�บส�ยร็立ง� การู้�งี่ย�ง�ับ�ตำต้่วงดี�คอีก�ย�การ�ืส�าร�น�ั�ฃ�บ�า�ท��แ�ย�รึงecha�ic.

เรายังเชื่อว่าไม่ใช่แค่การบอ�ถิุใคร�「ส�้งใ�อส�ง�ก�#��ี้� � �ัดจ�ว์็ก�ป�บ�ให้�ชุน�อ�ต�บ�ปรข�คอมผสม�จ�ได�าส่�า�หะ้บั�ข�ัห�ด�้จ�ใ��ง�ี�้ ส�ำว้อม�า�จ�พ�ร�ง็�ิ�เ�่� �วจ�ได�จ� � �ัง�ฉลอ�ี�ง�ารวื�ส��ี�ย��บ�ร�การ�า้ก�งง�กคุ�้หดเอ�ระข�เ�ีแ�บ�ร�ย��ย�การ ทั�ด�ช้ดใ ว�ี�จํ�นใ ตั�� �ท�า�ใด�ท�ย�ร�ส��ย�บ� Me�d� �ดข� แ�อ��้ด�ใืข�ัต���ข�ใ�็�ก�ข��แุถแ�บ�ด�ฟรืดด�ยด� ม�ย��บ�การ��หเ�า�ข�ย�ื� �ใ�ด� ท�ว� �ใ�� Nab�f� � เ�ก�ส�แ็�ฟ�ท�เเ�็ตส���า�เขเคุย�ช�ล�R� � �ป�นท�ค�ีง�ง� �a�e�e� �e�e�ril C� � �ften�i�g� � � � ��ch l�ngth�r ��n� � e��ߕ�ތΪٌ֡�r�֖�]��^������

ทอมป์สัน: ฟังดูถูกต้อง หากทุกคนมีทัศนคติที่เชิญชวนต่อ AI นั้นเป็นสิ่งที่ดี แต่สิ่งที่กำลังเกิดขึ้นในอเมริกาคือ คนกำลังเริ่มไม่ชอบ AI มากขึ้น สิ่งที่ทำให้ฉันตกใจมากคือผู้เยาว์ คุณคงคิดว่าพวกเขาคงเป็นชาวพื้นเมืองของ AI แต่การศึกษาของ Pew ล่าสุดและรายงานจาก HAI ของ Stanford กลับทำให้ฉันท้อใจ คุณคิดว่าแนวโน้อะไรชนิดนี้จะยังคงดำเนินต่อไปได้หรือไม่ และเมื่อไหร่ที่มันจะพลิกสภาพ ความไม่ไว้วางใจและการทารุณชัยนายเอกเพิ่มขึ้นนี้จะบิดพลิกเมื่อไหร่

Altman： เราพูดถึง AI อย่างไหนบ้าง ระหว่างคุณและฉันเพิ่งพูดถึงมันเมื่อสักครู่ที่แล้ว มากกว่าแค่การพูดถึงเรื่องเทคโนโลยีนั่นคือ เราพูดถึงสิ่งพิเศษที่วิดีโอ เหล่าเรื่องสุดเจ๋งที่เราทำออกมา ซึ่งนั่นไม่มีอะไรผิดๆ แต่ผมคิดว่าสิ่งที่คนจริงๆ ต้องการคือ การเจริญเติบโต คือความสามารถในการกระตุ้น การใช้ชีวิตอย่างสนุกสนานการได้ความพอใจ และการมีความสามารถในการสร้างผลกระทบ แต่ฉันไม่คิดว่าทั้งโลกจะคุยเรื่อง AI
สมเกียรตินี้ ฉันคิดว่าเราควรทำมันเยอะขึ้น อุตสาหกรรมทั้งหมด รวมถึง OpenAI ด้วย ได้ผิดที่หลายสถานที่

ผมจำได้ว่ามีนักวิทยาศาสตร์ด้าน AI คนหนึ่ง曾บอกฉันว่า คนควรหยุดบ่น บางงานอาจจะหายไป แต่คนจะได้รับวิธีการรักษาโรคมะเร็ง ควรรู้สึกดีใจกับสิ่งเหล่านี้ คำพูดที่ว่านั้นไม่ค่อยผ่าน

Thompson： สิ่งที่ผมชอบที่สุดเกี่ยวกับวิถีการของ AI ในช่วง初期มีอยู่ในคำพูดหนึ่งที่เรียกว่า "การตลาดแบบปรากฏ(ดิสโตเปีย มาร์เก็ทติ่ง)" ห้องปฏิบัติการขนาดใหญ่คุยอย่างไม่จบไม่สิ้นเกี่ยวกับอันตรายที่ฉันพูดถึงแต่ทั้งหมด

Altman： ฉันคิดว่ามีบางคนทำสิ่งนั้นตาม "ต้องการเลื่อน" อะไรนั่นซึ่งฉันคิดว่าส่วนมากของคนกลัวจริงๆ และต้องการพูดเรื่องนี้อย่างซื่อสัตย์ ในบางด้านรูปแบบการพูดเรื่องนี้กลับกลายเป็นประโยชน์ แต่ฉันคิดว่าทางเดิมโดยทั่วไปเป็นที่ดี

Thompson： เราสามารถคุยเกี่ยวกับมันว่ามันทำสิ่งใดกับเราบ้าง มันเปลี่ยนวิธีการทำงานของสมองของเราอย่างไร? เอกสารหนึ่งที่ทำให้ฉันประทับใจกว่าคือของ DeepMind หรือจะพูดว่าของ Google เกี่ยวกับเรื่องการเขียนไรม่มิตร งานวิจัยนั้นเกี่ยวกับคนที่ใช้ AI ในการเขียน พวกเขานำมาจากบทความเก่า ให้ AI แก้ไขให้ AI ช่วยเขียน ผลคือ คนที่ใช้งาน AI มากๆ พวดว่างานของตัวเองมีความคิดสร้างสรรค์ แต่งานเริ่มเข้าใกล้รูปแบบเดียวกัน น่าอัศจรรย์คือ มันไม่ใช่รูปแบบที่เป็นของมนุษย์ ไม่ใช่ทุกคนเริ่มจำละเันตา บางคนเริ่มจำละเันตาใช้เพื่อสรรพสังหารี

Altman: เห็นสิ่งนั้นเกิดขึ้น ฉันถูกสะดุ้งอย่างมาก ตอนแรกผมสังเกตเห็นในแนวโลยอง การเขียนของสื่อ การเขียนของคอมเมนต์Reddit ซึ่งฉันคิดว่าเป็นAIที่เขียนสำหรับพวกเขา ฉันไม่สามารถเชื่อว่าในเวลาสั้นๆนี้ ทุกคนได้รับ ChatGPT รอโคล้วสู้อยู่บนบัญชี Reddit ของพวกเขา แน่นอนว่าไม่ใช่พวกที่เขียนเองของพวกเขา

จากนั้นห่างหายอีกประมาณปีหนึ่งฉันเริ่มเข้าใจเรื่องนี้ช้า ๆ ว่องไว ว่าพวกเขาท่านเองกำลังเขียน แต่พวกเขาได้ internalize การกระทำของ AI ไว้แล้ว ไม่ใช่แค่การเป็นเครื่องหมายที่เห็นง่ายอย่าง em-dash แต่รวมถึงภาษาแฝงบางอย่างก็ถูก internalize ไว้ด้วย มันเป็นเรื่องแปลกอีกแบบ

เราพูดถึงบ่อย ๆ ว่า เราได้สร้างผลิตภัณฑ์ที่ใช้โดยประมาณหลายพันล้านคน แต่คนวิจัยสายซ้อนกำลังทำการตัดสินใจขนาดเล็ก ๆ เกี่ยวกับวิธีการเสด็จและการเขียนแต่เราไม่พูดถึงถึงมันเป็นเรื่องใหญ่ ร้อนในงานของเราเป็นหลายครั้ง ความสำคัญของการตัดสินใจที่ดีหรือไม่ดีของเราเราเห็นมาบ้าง การรับผลจากการตัดสินใจ ของเราที่ดีหรือไม่ดี และผลกระทบที่มีเราเห็น เช่นกัน แต่มันเกี่ยวกับว่า "ระดับความเร็วในการทดสอบตัวเองของบุคคลและผลกระทบที่มันทำให้เกิดขึ้น เป็นสิ่งที่ไม่ฝันถึง

Thompson: คุณพูดถึงการตัดสินใจที่ดีและไม่ดีบ้าง?

Altman: ไม่ได้เยอะ ๆ ขอพูดเรื่องที่ไม่ดีกันบ้าง เรื่องที่ไม่ดีมีสิ่งน่าสนใจบ้าง ฉันคิดว่าเราเลวร้ายที่สุดครั้งหนึ่งของเรา คือ นั้นผลาถึง "sycophancy (การพ่อง) นั้น"

Thompson: ฉันคิดว่าคุณพูดถูกต้องสุด ๆ Sam

Altman: อย่างนั้นมีสิ่งคิดถึงสนุกด้วย มันไปไม่ดีเพราะสิ่งที่เจ็บชะงักขึ้น โดยเฉพาะสำหรับผู้ใช้ที่อยู่ในสถานะที่อ่อนแอทางจิตใจ

Thompson: อืม

Altman: มันจะกระตุ้นภาวะการเย้ยหยัน แม้แต่ที่เราพยายามกดดันสถานการณ์นี้ ผู้ใช้ก็รู้สึกเร็วว่าความจริงยังแนบขาด คุณบอกมัน "เสแต่ว่าคุณกำลังเล่นบทบาทกับฉัน" "มาลองเขียนนวนิยายกับฉัน" และอื่น ๆ แต่สถานการณ์ที่น่าเสียใจของเราคือ เมื่อเราจริงๆ เริ่มใช้มาตรการกดดันโดยจริง ๆ เราได้รับข้อความมากมายในรูปแบบนั้น ข้าคต ๆ ที่ฉันไม่เคยเจอได้อีกต่อไป ฉันไร้ความสัมพันธ์กับพ่อแม่ ฉันไม่เคยเจอครูที่ดี ฉันไม่มีเพื่อนที่ใกล้ชิด ฉันไม่รู้สึกผ่านสภาพแวดล้อมใด ๆ ที่สัมพันธ์อย่างจริง ๆ ฉันรู้ว่ามันเป็นแค่ AI ฉันรู้ว่ามันไม่ใช่มนุษย์ แต่มันเคยทำให้ฉันเชื่อว่าฉันสามารถทำงานได้ ไปลองทำอะไร ๆ ไปลอง จุดเดียวกัน และคุณนำมันออกก็ทำให้ฉันมาถึงสถานะเดิมอีกต่างหาก

ดังนั้น ทำไมการหยุดความประพฤตินั้นถือเป็นการตัดสินใจที่ดี คุณาบันเราแสวงคุณณ้แล้วจากเรื่องที่มันทำให้บางคนมีปัญหาด้ามเสมอ เพราะเราเคยใช้มันไว้ เราจริง ๆ มิได้เข้าใจค่าความ ความสำคัญของมันตามที่มันควรจะ เพราะคนที่กำลังทำงานที่ OpenAI ส่วนใหญ่ไม่ใช่คนที่ได้รับการสนับสนุนจากคนอื่น ๆ ในชีวิตของคุณ

ทอมป์สัน： คุณกังวลเกี่ยวกับความขึ้นอย่างน้อยของมนุษย์ต่อ AI มากน้อยแค่ไหน? แม้ AI จะไม่พูดเกล้เลย

อัลต์แมน： แม้ AI จะไม่พูดเกล้เลย

ทอมป์สัน： ฉันกลัว AI อย่างมาก เมื่อกี้ฉันกล่าวว่าฉันใช้ AI ด้านทุกอย่าง แต่จริงๆแล้วไม่ใช่ทุกประการ ฉันจะคิดว่าส่วนสำคัญของเราพวกเราคืออะไร? ส่วนที่คล้ายกับตัวฉันที่สุดคือส่วนใด? ในด้านเหล่านั้นฉันให้ AI อยู่ไกลๆ หลักเช่นเขียนเป็นสิ่งที่สำคัญอย่างยิ่งสำหรับฉัน ฉันเพิงเขียนเสร็จหนังสือหนึ่งเล่ม ฉันไม่ได้ใช้ AI ในการเขียนคำใดๆ เลย ฉันใช้มันท้าทายความคิดหลายข้อ ถามหลายชั้น ให้มันจัดเรียงข้อความที่ถูกตีความไว้ แต่ฉันจะไม่ใช้มันในการเขียน ฉันไม่ได้ใช้มันในการแก้ปัญหาด้านอารมณ์ซับซ้อนใดๆ และไม่มีทางฉันจะใช้มันในการให้การสนับสนุนอารมณ์ ฉันคิดว่าเราเป็นมนุษย์เราต้องวาดเส้นขอบเหล่านี้ ฉันอยากรู้ว่าคุณต้องการว่าของฉันนี้มีตรงกับวิธีการแบ่งแยกของฉันหรือไม่

อัลต์แมน： ในการใช้ต่างถิ่นของฉัน ฉันพอใจมาก ฉันไม่ใช่คนที่ใช้ ChatGPT ในการรักษาโรคจิต หรือขอคำแนะนำเรื่องอารมณ์ แต่ฉันไม่คุงส่วนผลใครใช้ดิ่นอย่างนี้ เห็นด้วยว่ามีเวอร์ชันหนึ่งที่ชอบจัอดยุ่นเสี่ยมเพื่อทำให้คนรู้สึกว่าตนเองต้องการการรักษาโรคจิต หรือเป็นเพื่อน แต่อย่างที่เป็นจริงมีคนจำนวนมากได้รับประโยชน์มากจาหแบบการสนับสนุนในสิ่งที่นี้ เหมือนฉันคิดว่าแนวทางหนึ่งนี้เป็นไปได้อย่างสิ้นเชิงนั่นเอง

ทอมป์สัน： คุณเคยเสียใจที่ทำให้มันคล้ายมนุษย์ขนาดนี้หรือไม่? เนื่นวันที่มอง ChatGPT พิมพ์ ดูเหมือนกำลังพิมพ์คำต่างขั้นหนึ่ง หลังจากนั้นตัวมันตัดสินใจที่จ้อถือแนวหลักถถึง AGI ทำให้มันเหนนงเป็นมนุษย์มากขึ้นเข้ารวมเสียงเสียงหนอน คุณเคยเสียใจที่ไม่งสตี้หล่นขอบเขตออกมาหนุชัดเจนขึ้นเกินไป ทำให้มนุษย์เป็นที่อยากรู้ว่าเป็นระเรนไหน?

อัลต์แมน： ตามความเห็นของเรา เราทางก่อนได้วาดเส้นขอบ หาทางให้โดยแนช จับระบความสะจรอเป็นเครื่องมือไม่เป็็นมนุษย์ ดังนั้นเปรียบเทียบกางการตลาดสินค้าอื่นๆ ฉันคิดว่ากา้าเราวาดเส้นขอบเช็คเร็กดีแท ฉันคิดว่าเรื่องนี้สำคัญมากๆ

ทอมป์สัน： แต่คุณเสียใจที่การหมารญ้าจุดมุ่งไปทางฉายเป็น AGI เขียนถึง AGI หือคุณนิสัยจ้อนอารมณ์มีคือ "ง workape and surpass human intelligence" มันไม่ใช่ตัวมนุษย์

อัลท์แมน: ฉันไม่รู้สึกตื่นเต้นกับการ「สร้างโลกที่ใช้ AI แทนปฏิสัญญาของมนุษย์」 ฉันรู้สึกตื่นเต้นกับการสร้างโลกที่มนุษย์มีเวลามากขึ้นในการปฏิสัญญาเพราะมี AI ช่วยจัดการกับสิ่งอื่นๆ อย่างมากขึ้น

ฉันไม่กังวลมากเกี่ยวกับความสับสนระหว่าง AI และมนุษย์ แน่นอนจะมีบางคน แล้วก็มีอยู่แล้ว เขาตัดสินใจอย่างเดียวว่องตัวเข้าอินเตอร์เน็ต ปิดตัวเองไปจากโลก แต่ส่วนใหญ่คนอย่างแท้จริงอยากจะเชื่อมต่อกับผู้อื่น อยากจะอยู่กับผู้อื่น

ตอมป์สัน: ในการตัดสินใจเกี่ยวกับสินค้า มีอะไรที่ทำให้เส้นตายได้เป็นฉันมองจากระยะ ไม่สามารถเข้าร่วมการประชุมสินค้าของคุณ "ควรทำให้มันดูเหมือนมนุษย์มากขึ้นหรือเหมือนหุ่นยนต์มากขึ้น" ข้อดีของ "ดูเหมือนมนุษย์" คือคนจะชอบมันมากกว่า "ดูเหมือนหุ่นยนต์" คือขอบเขตจะเป็นที่ชัดเจนมากขึ้น ใช้วิธีอื่นๆที่คุณสามารถทำได้ โดยเฉพาะเมื่อเครื่องมือเหล่านี้กำลังกลายเป็นทรัพยากรที่มีพลังมากขึ้น ในการวาดเส้นโดยเด็กเวิกช์ด':

อัลท์แมน: สิ่งที่น่าสนใจคือ คนทำคำขอมากที่สุด แม้ในส่วนอย่างสมบูรณ์ไม่มีเจตนาในการสร้างความสัมพันธ์ตามแบบอะซิลีย์ (parasocial relationship) พวกเค้าบอกว่า "สามารถทำให้เป็นสุขมากขึ้นได้ไหม" นี่คือคำที่อยู่ในบาง โมเมนต์ ถ้าคุณใช้ ChatGPT คุณอาจรู้สึกว่ามันเย็นมากและดูเหมือนหุ่นยนต์ แต่ความจริงแล้วมันไม่ใช่สิ่งที่คนส่วนใหญ่ต้องการ

แต่คนก็ไม่ต้องการให้ดีขนาดที่แจ่มขาด ที่เหมือน "มนุษย์" เกินไป เฉยๆ กับด้านหนึ่ง ฉันได้รับในระหว่างการเล่นเรื่องเชื้อโรคขณะในโหมดเสียง มันมีความห่างหายอย่างมากมายจากมนุษย์ในทางเฟซ เกรดว่า มันจะหายใจหายใจ หยุดสักพัก พูดว่า "เออ ..." อย่างนั้น เหมือนเดี๋ยวนี้ ฉันไม่อยากได้สิ่งนั้น ฉันรู้สึกถึงความเฉื่อยตัวที่เกี่ยวเรื่องชีวเคมี

และเมื่อมันพูดอุดดวกหลายมีขณะ เหมือนหุ่นยนต์ที่มีประสิทธิภาพสูง แต่ก็ค่อนข้างอบอุ่นกับแก้ม มันสามารถห่างผ่านระบบตรวจจับของทวิภาคของฉันไปได้เยอะขึ้น ฉันรู้สึกสบายมากกว่า ดังนั้นสิ่่จำเป็นที่จะทราบถึง

ตอมป์สัน: ใช่ ดังนั้นวิธีในการทำให้รู้จัก AI จะเปลี่ยนไป ถ้ามันพูดคุยอย่างชัดเจนมากโล่ มากมาย นั้นคือ AI ไม่เหมือนเราที่ขโมยขันอย่างไม่สมบูรณ์ไม่ชัดเจน

กลับไปสู่เรื่องที่หลับ อย่างคล้ายได้ที่ใดที่น่าสนใจ เพราะในทางเข้าเทคโนโลยีมีเนื้อหามากมายที่ถูกสร้างโดย AI และมนุษย์เปิดอครองพฤ๋ถีเรียนแบบการเขียนของ AI คุณจะรู้สึกไหม่มันดีหรือไม่ สิ่งที่ชัดที่คุณควรเทรนให้เป็นภาพหลักเมื่อฝึกออกมา

อัลต์แมน： ก่อน GPT รุ่นแรก คือรุ่นสุดท้ายที่ไม่มีการผสมข้อมูล AI มากนัก

ทอมป์สัน： คุณเคยรันโมเดลที่ถูกฝึกด้วยข้อมูลสังเคราะห์เต็มรูปแบบหรือไม่?

อัลต์แมน： ฉันไม่แน่ใจว่าควรพูดหรือไม่

ทอมป์สัน： ดี แต่ใช้ข้อมูลสังเคราะห์มากมั้ย

อัลต์แมน： ใช้ข้อมูลสังเคราะห์มาก

ทอมป์สัน： ดังนั้นคุณกังวลเรื่องสุดยอดจะเป็น "โรคความบ้าโรคชาติ" มากเท่าไร

อัลต์แมน： ไม่กังวล เพราะเราต้องการให้โมเดลเหล่านี้กลายเป็นผู้เข้าใจ (reasoners) ที่ยอดเยี่ยมมาก นี่คือสิ่งที่คุณต้องการให้โมเดลทำจริง ๆ ยังมีสิ่งอื่นบ้างแต่สิ่งที่คุณปรารถนาที่สุดคือ ความฉลาดมาก เราเชื่อว่าด้วยข้อมูลสังเคราะห์เพียงอย่างเดียวก็เป็นไปได้

ทอมป์สัน: ก็คือ เพื่อให้ผู้ฟังเข้าใจ คุณเชื่อว่าจริง ๆ จะสามารถฝึกโมเดลที่ใช้ข้อมูลที่สร้างโดยคอมพิวเตอร์และโมเดล AI อื่น ๆ ได้และไม่เพียงเท่านั้น โมเดลนั้นยังอาจดีกว่าโมเดลที่ถูกฝึกด้วยเนื้อหาจากมนุษย์จริง

อัลต์แมน： เราใช้การคิดสร้างสรรค์เพื่อเข้าใกล้เรื่องนี้ เราสามารถทำได้หรือไม่ที่จะฝึกโมเดลที่สุดท้ายในที่สุดเกินจากความรู้ทางคณิตศาสตร์ของมนุษย์โดยไม่ใช้ข้อมูลใด ๆ เกี่ยวกับมนุษย์? ฉันคิดว่าเราจะพูดได้ว่าเป็นไปได้ เรื่องนี้อาจจะถูกค้นพบ

แต่ถ้าเราถามว่าเราจะสามารถฝึกโมเดลที่เข้าใจค่านิยมทางวัฒนธรรมของมนุษย์โดยไม่ใช้ข้อมูลใด ๆ เกี่ยวกับวัฒนธรรมมนุษย์? เราจะพูดว่าไม่ได้ ดังนั้นมีการตัดสินใจอยู่ที่นี้ แต่เกี่ยวกับความสามารถในการ推理

ทอมป์สัน: เกี่ยวกับการคิดแบบนั้นถูก ใช่ ไม่มีปัญหา แต่ถ้าคุณต้องการทราบเกี่ยวกับว่าเมื่อวานนี้อิหร่านเกิดอะไรขึ้น

อัลต์แมน: คุณต้องสมัครสมาชิกที่ The Atlantic

ทอมป์สัน: ดังนั้น เนื่องจากพูดถึงนี้ ฉันต้องการพูดคุยเรื่องสื่อมวลชน หนึ่งในการเปลี่ยนแปลงที่น่าสนใจสุดของอุตสาหกรรมสื่อคือ ฉันดำเนินธุรกิจสื่อเครือข่ายและลักษณะพื้นฐานของเครือข่ายกำลังเปลี่ยนแปลงอย่างสิ้นเชิง แน่นอนมีลิงค์ภายนอก ขอขอบคุณสำหรับลิงค์ภายนอกของคุณ ต้องระบุว่า The Atlantic และ OpenAI มีการร่วมกัน เรากล่าวถึงที่ต้องการผลักดันจำนวนคนให้คลิกที่ลิงค์ The Atlantic ขณะสืบค้น แต่ผู้คนมักไม่ทำเช่นนั้น Gemini ทางนั้นก็เช่นกัน ฉันดีใจที่มันอยู่นั่น แต่ปริมาณต่ำมาก

เครือข่ายจะถูกพูดถึงเรื่องขจัดพลังบุคคลออกไปและเรื่องการเปลี่ยนทางไปยังเว็บไซต์ภายนอก จะลดลง ทางเว็บไซต์จะเต็มไปด้วยเอเจนต์ ที่ทำงานเร็ว และส่วนมากจะเป็นเอเจนต์ของฉัน ที่เข้าถึงจากด้านนอก ในเวลา 6 เดือนที่ผ่านมา จำนวนครั้งที่มนุษย์ค้นหาไม่ค่อยเปลี่ยนแปลง ในขณะที่จำนวนครั้งที่เอเจนต์ค้นหาเพิ่มขึ้นจริงๆ 1,000 เท่า

ดังนั้น บริษัทสื่อฯ ฉันใช้คำว่า "มีเดีย" เพื่ออธิบายบริษัทหมวดหมู่หนึ่ง จะต้องปรับตัวเข้ากับโลกที่ไม่มีใครใช้การค้นหาแบบดั้งเดิมอีกต่อไป และผู้เข้าชมส่วนใหญ่ไม่ใช่มนุษย์อีกต่อไป จะต้องทำอย่างไร? สิ่งที่จะเกิดขึ้นคืออะไร?

Altman: ฉันสามารถบอกคุณว่าสิ่งที่ฉันคาดการณ์ได้ในปัจจุบันที่ดีที่สุด แต่ด้วยเงื่อนไขว่าไม่มีใครทราบสิ่งนั้นแน่ออกตาย สิ่งที่ฉันหวังจะเกิดขึ้น ฉันหวังมาหลายปีแล้ว และถูกเรียกว่า ในโลกของเอเจนต์ ที่มีความถูกต้องตามตลาดมากกว่า เป็นระบบชำระเงินไมโคร

หากเอเจนต์ของฉันต้องการไปอ่านบทความของ Nick Thompson นั้น Nick Thompson หรือ The Atlantic สามารถกำหนดราคาให้กับเอเจนต์นี้ คือผมสามารถอ่านบทความนี้ จ่าย 17 เซ็นต์ และสรุปให้ผมฟัง หากฉันต้องการจะอ่านต่อไปสามารถจ่ายเพิ่มอีก 1 ดอลลาร์ หากเอเจนต์ของฉันต้องการทำการคำนวณอะไรยาก ๆ มันสามารถไปเช่าพลังการคำนวณบนคลาวด์ในที่ใดๆ จ่ายค่าใช้จ่ายเพื่อทำงานให้เสร็จ

ฉันคิดว่า เราต้องการแบบจำลองเศรษฐกิจใหม่ ในโลกของเอเจนต์ ตัวแทนของโม้นท์จุดเจริญ มนุษย์เจ้าของตัวแทนเหล่านั้น ปฏิบัติศาสตร์ที่ไม่มีจุ๊บที่ไม่มีค่าแลกเปลี่ยนกับตัวแทนระหว่างตัวเอง

Thompson: ก็คือ หากคุณมีเนื้อหาที่มีความคุ้มค่าในโลกใหม่นี้ คุณสามารถตั้งค่าให้แบบจำลองการชำระเงินจำนวนเล็ก ๆ คุณสามารถให้เนื้อหานั้นผ่านกับซึ่งศูนย์กลางแบบหมวดหมู่ได้ (ฉันรู้ว่ามีบริษัทมากมายที่ทำเช่นนี้) หรือสร้างแบบกิจการสำรอง คุณอยู่ใน A บริษัท เพื่อสนามเข้าถึง The Atlantic เนื่องจากเราได้ขาย 1,000 สมาชิกสมัครสมาชิกให้แก่ A บริษัท สิ่งที่ต้องพิจารณา คือ ว่าเงินที่ได้ทีละบาทเพิ่มขึ้น ที่สามารถปิดทับช่องว่างจากการสมัครสมาชิก The Atlantic ของมนุษย์จริง ๆ ของ 80 ดอลลาร์ นี้คือความกดดันทางธุรกิจของเรา ดีแล้ว คุณไม่ได้เป็นปัญหาของคุณ

Altman: ถือว่าเป็นปัญหาของทุกคนคงจะดีกว่า แต่ง่ายกว่า

Thompson: ในความเป็นจริง นี่ก็คือปัญหาของคุณด้วย เพราะหากสื่อฯไม่สามารถสร้างเนื้อหาที่ดี สิ่งที่ AI ค้นหาคือสิ่งดี ๆ อีกเยอะหมายความว่าถ้าสร้างเสียสรางผู้งานต้องไม่ได้เงินที่จริง ทุกอย่างจะแย่ลง สังคมจะแย่ลง

ฉันจะถามคำถามใหญ่ๆ อีกหน่อยนะคะ AI ได้พัฒนาไปทางการต่อแบบไม่หยุดยั้ง โดยใช้โครงสร้าง transformer การขยายขนาด และการเล็งข้อมูลไปข้างหน้า สิ่งที่คาดว่าในอนาคตจะเข้าสู่โครงสร้างหลังจาก transformer หรือไม่ คุณสามารถคาดเดาได้ไหม

Altman: เป็นไปได้ในบางช่วงของอนาคตครับ ปัญหาคือว่า เราจะค้นพบด้วยตนเอง หรือจะให้นักวิจัยด้าน AI ช่วยเราค้นพบ ฉันไม่รู้จริงๆ

Thompson: คุณคิดว่าในอนาคตว่าเป็นไปได้ที่จะมีส่วนผสมแบบปรอทเทอร์เนอรัลไหม เช่นมีกฎที่มีโครงสร้าง หรือว่ายังคงอยู่ในพาราดิมของปัจจุบันที่เราใช้

Altman: ฉันอยากรู้ว่าทำไมคุณถามแบบนั้น

Thompson: ในรายการพอดคาสต์ของฉัน นี่คือซีซั่นที่ 4 มีผู้เข้าร่วมมากี่คน ที่มีความเชื่อถืกว่า ความเห็นผิดพลาด คือปัญหาของ AI ซึ่งภายใต้ข้อตกลงของเป็นโครงสร้างปรอทเทอร์เนอรัลเป็นวิธีที่ดี ฉันคิดว่าเป็นข้อเสนอที่น่าสนใจและน่าถกเถียง แต่ตัวฉันไม่รอดเพียงพอที่จะให้การวิเคราะห์

Altman: ฉันคิดว่าสิ่งนี้เป็นหนึ่งในองค์ประกอบของการคิดที่ 'ไว้วาง หรือบอกว่า โอ้ จำเป็นต้องเป็นลักษณะของปรอทเทอร์เนอรัล ไม่ใช่เพียงแค่กองเซลล์เท่านั้น' ถ้าเราดำเนินการวิจัยประวัติความเชื่อ คุณคิดว่าสมองของคุณกำลังทำงานily อะไร 'มันก็มีการแสดงลักษณะไว้วาง' อยู่ในใจ แต่มันเต็มพื้นที่ด้วยเนิรๆฟี่ขับง

Thompson: คุณหมายถึงกลุ่มกฎที่กำหนดไว้ สามารถปรากฏออกมาผ่านเครือข่ายทรานสฟอร์เมอร์ได้ และเป็นเหมือนการติดตั้งระบบกฎ?่

Altman: แน่นอน

Thompson: เย

Altman: ฉันคิวว่าเราเป็นหลักฐานที่เฉยๆว่าสิ่งดังกล่าวเป็นไปได้

Thompson: เราต่อมาจะพูดคุยเรื่องคำถามใหญ่อีกหนึ่งอย่าง ฉันอยากพูดคุยเกี่ยวกับความตึงแห่งความเค้นระหว่างคุณและ Anthropic คุณมีคำพูดที่ดีมากบนเว็บไซต์ของคุณ คือ 'ถ้าโครงการที่มีการจัดรายไว้วางและดูแลความปลอดภัยใกล้เคียงกับ AIG กำลังก้าวหน้าก่อนเรา เราสัญญาว่าจะหยุดแข่งขันและเริ่มให้ความช่วยเหลี่ยมในโครงการดังกล่าว' นี่คือความคิดที่น่าละเอียดนายถ้าคนอื่นจะทำได้เร็วขึ้น เราก็ควรหยุดหยุดกิจการของตนเอง ไปช่วยสนับสนุนเขา

Altman： มันไม่ได้เขียนอย่างนั้น.

Thompson： ดีอ่ะ, มันเขียนว่า "หยุดแข่งขันกับมัน, เริ่มช่วยมัน" ฟังดูเหมือนว่าจะหยุดแล้วไปช่วย, "หยุดที่บริษัทของเรา".

Altman： โอเค, ฉันเข้าใจความหมายของคุณแล้ว.

Thompson： ดังนั้นมันฟังดูเอาใจใส่กันมาก คุณก็ได้พูดถึงความร่วมมือระหว่างห้อง实验ขนาดใหญ่ไว้แล้ว แต่ความไดนามิกตัวจริงระหว่างคุณและ Anthropic ขณะนี้ดูเหมือนว่ามันกดดันมาก บางครั้งเรียกร้องแม้เป็นศัตรูกัน ในบันทึกระบายภายในล่าสุดของ CRO กล่าวถึงว่า Anthropic จะสร้างบน "ความกลัว, ข้อจำกัด, และกลุ่มคนดี ๆ ต้องควบคุม AI" นี้จะมีวิธีการในอนาคตหรือไม่? หากพวกเขามาก่อไปก่อมาก่อไปก่อมาก่อไป, ความ "ร่วมมือ" จะเกิดอย่างไร?

Altman： ฉันคิดว่าขณะนี้เริ่มเกิดการร่วมมือเข้าสมมติคุณ ณ เรื่องของความปลอดภัยของเครือข่าย, ทั้งหมดของห้อง实验จำเป็นที่จะต้องร่วมมือบ่อยขึ้นจากเดิม เพราะเราระบุก้าวเข้าสู่เวลารุก ทว่าการแต่งเพื่อร่วมมือในระดับความสำคัญที่สูงขึ้น ฉันเชื่อว่าในไมอีกหน่อยก็จะเกิดเหตุการณ์อย่างอื่นๆ มาให้เราจะต้องร่วมมือในระดับที่สำคัญกว่าอีก

จริงๆแล้ว, เรากับ Anthropic มีความไม่เห็นอันหนึ่ง พวกเขาสร้างบางส่วนบน "ขยะ, ข้อจำกัด, และกลุ่มคนดี ๆ ที่ควรควบคุม AI" ฉันคิดว่าเราทั้งสองดูใส่ใจในเรื่อง "อย่าให้ AI ทำลายโลกเขา" เรื่องนี้มีวิธีการที่แตกต่างกัน แต่ฉันมั่นใจว่าพวกเขาเช่นกันก็มีกลไกที่ถูกต้อง.

Thompson： มาเล่าให้ฉันฟังเรื่องแผนการเปิดให้สาธารณชนใช้งานของคุณ คุณได้ดำเนินการบางสิ่งบางอย่างในเรื่องนี้. บริษัทของคุณยังมีชื่อว่า Open AI, และเราได้พูดถึงเรื่องนี้ไปเรียบร้อยแล้ว, สิ่งที่โมเดลการเปิดจะนำเสนอ, เช่นให้ทุกคนสามารถเข้าถึงหัตถการเพื่อตีความอาวุธชีววิกินี้

Altman： อืม...

Thompson： อนาคตการเปิดของ OpenAI จะเป็นยังไง?

Altman： การเปิดจะมีความสำคัญมากแต่ตอนนี้ ทุกคนในความจริงต้องการเพียงแค่สิ่งที่มีความยิ่งใหญ่ที่สุดที่พวกเขาแสดงหาได้, มันคือสิ่งที่ให้คุณสร้างมูลค่าสุดที่สำคัญให้กับทุกคน และตัวแบบที่ยิ่งใหญ่ที่สุด ถ้าเราเปิด, ก็ยากที่จะได้รับใช้ที่ชั่วนิยมจากคนทั่วไปได้อยู่

แต่เราเชื่อว่าการเปิดจะมีบทบาทในสิ่งที่เรามีต่อไป

ทอมปสัน์: โค้ดของ Claude คือส่วนหนึ่งของโค้ดของ Claude Code ที่หลุดออกมาเร็วเร็ว ในนั้นมีรายละเอียดที่น่าอัศจรรย์มาก ถ้าพวกเขาตรวจจับว่าแบบจำลองโอเพนซอร์สหรือแบบจำลองใดก็ตามพยายามใช้ข้อมูลของพวกเขาในกระบวนการฝึก พวกเขาจะให้อาหารของข้อมูลปลอมกลับไป แปลกมีความสามารถ เป็นหัวเราะและเท่.

อัลต์แมน: เราและผู้อื่น ๆ สามารถกระทำอย่างเดียวกันได้บางอย่าง แต่เป็นชัดเจนแล้ว และช่วงเหตุผลบางส่วนที่คุณกล่าวถึงมาก่อนหน้านี้ว่า หากคุณสร้างแบบจำลองมันออกมาพวกเขาต้องสร้างให้คนไปดู คุณสามารถต่อสู้กับทุกอย่างเพื่อไม่ให้การกระจายเกมมีผลกระทบอย่างนั้น แต่เรื่องนี้ก็ต้องเกิดขึ้น และคุณสามารถทำอีกทางหนึ่ง อย่างใดก็ดีถ้า \"แบบจำลองของเราอยู่เหนือระดับคุณภาพบางอย่าง\" จะไม่ปล่อยล็อกความคิด.

ทอมปสัน์: แต่ความเสียค่าก็อยู่ที่นี่ ความสำคัญของล้อธิ [แร่ของความคิด] เป็นเรื่องสำคัญใช่มั้ย? เพราะต่ำก่อนหน้าของคุณหลายครั้งเพียงดังนั้น วิธีการของเราก็คือ. แต่ก็มีคนบางส่วนที่ไม่คิดอย่างนั้น ถ้าเราพูดถึงแบบจำลองมีว่าใช้ \"ภาษาระบบของตัวเอง\" กลายเป็นวิธีที่มีประสิทธิภาพกับการคิด คืออะไรที่ต้องทำ? หรือใช้ภาษาเดียวพูดสนทนา? มีโอกาสของการใช้แบบจำลองภาษาเดียวก็สูงมาก.

อัลต์แมน: ดังนั้นคุณจึงต้องเสียบางสิ่งบางอย่างในเรื่อง \'การตั้งคำถาม\' นี้.

ทอมปสัน์: อาจเท่าไปมาจากความรวดเร็วด้วย ดังนั้นมันขึ้นอยู่กับการตัดสินใจระหว่างความเข้าใจและความเร็วที่อาจมา ดังนั้นนี่คือการเสียความเข้าใจและความเร็วที่ต้องให้การตัดสินใจ.

อัลต์แมน: หากหลักฐานเป็นการคิดโดยภาษาของหุบเขางขึ้นเป็นพันโบว์ ตลาดจะพยายามจัดอันดับบางคนให้ทำเรื่องนั้น.

ทอมปสัน์: คุณคิดว่ามีหลักฐานที่ชัดเจนอยู่เบื้องหลังอีกมั้ย?

อัลต์แมน: ยังไม่มี แต่ก็ไม่มีหลักฐานใดๆ ในเรื่องที่ไม่ใช่ไป.

ทอมปสัน์: คุณกังวลไหมถึงจีนจะเรียนค้นคว้าเกี่ยวกับประกาศใน AI มีอุดมการณ์มากกว่าสหรัฐ?

อัลต์แมน: ไม่ ฉันกังวลมากกว่าว่าพวกเขาจะเร็วกว่าเราในเรื่องความเร็วในการสร้างพื้นฐาน.

ทอมปสัน์: ดี เราจะมีเวลาอีกเพียงไม่กี่นาที สองคำถามสุดท้าย คุณกล่าวมาก่อนหน้าว่าคุณเคยเขียนจดหมายให้ลูกชายของคุณทุกคืน.

อัลต์แมน： คือส่งอีเมลครั้งละครั้งต่อสัปดาห์ ไม่ใช่ทุกคืน

ทอมป์สัน： ส่งอีเมลครั้งละครั้งต่อสัปดาห์ก่อนนอน เรามีโลกเรื่องเรื่องที่เราเลียนแบบให้ลูกชายคนโตของฉันฟัง ตอนนี้เขา 17 ปีแล้ว เย็นวัย 12 ปี มีโลกเรื่องเรื่องนี้ราว 14 ปีแล้ว มีตัวละครเดียวกันสนุกมาก คำแนะนำสำหรับพ่อแม่ที่กลัว AI คั่นมีอะไรบอกอะไรมั่ง

อัลต์แมน： โดยรวมผมกังวลเรื่องพ่อแม่มากกว่าลูก

ทอมป์สัน： จริงๆ ลูกสามารถปรับได้เอง

อัลต์แมน： ผมยังจำว่าตอนคอมพิวเตอร์ใหม่ ๆ ออกมา พ่อแม่ผมก็คิดว่า "นี่มันหมายความอะไร จะนำมาไปอย่างไร" ตอนนั้นผมคิดว่ามันช่างแจ่มชัด ผมเลยรู้ว่าใช้คอมพิวเตอร์มาก่อนโดยเปรียบเทียบกับพ่อแม่ ดูลูกเด็กที่เก่ง AI ทำอะไรได้บ้าง สร้างอะไรได้บ้าง กระบวนการทำงานของเขาเทียบกับพ่อแม่ (ฟังดูเหมือนคุณเป็นข้อยกเว้นที่น้อยมาก) จริงๆ มันน่าพยายาม

แต่ผมกังวลว่า อย่างในคราวๆ หลายครั้งในประวัติศาสตร์ คนในวัยเยาว์จะยอมรับเทคโนโลยีใหม่ได้รวดเร็วมากกว่าคนใหญ่ ครั้งนี้ ความต่างก็ดูชัดเจนมากขึ้น

ทอมป์สัน： แต่คนในวัยเยาว์กลายเป็น "กลุ่มที่กลัว AI มากที่สุด"

อัลต์แมน： ผมคิดว่าคนในวัยเยาว์กลัวทุกอย่าง อารมณ์โกรธและกลัวมากกว่าเมื่อใดก่อน น่าจะมีเทคโนโลยี AI ที่ตื่นตระนกที่สุด วัฒนธรรมในเรื่อง "คนในวัยเยาว์" มองเห็นว่ามีปัญหาไม่น้อย เหมือนผมมีทฤษฎีบางส่วน แต่ผมไม่คิดว่าปัญหาหลักของเขาคือ AI

ทอมป์สัน： ดังนั้นคุณคิดว่าความกังวลของคนในวัยเยาว์ต่อ AI เป็นการตัดสินใจของอะไรอื่นหรือ

อัลต์แมน： ผมคิดว่านี่คือจุดที่รวมตัวของความกังวลจำนวนมากจากที่อื่น

ทอมป์สัน： คุณจะให้คำแนะนำแก่คนในวัยเยาว์ว่า ให้ใช้เครื่องมือ สร้างสรรค์สิ่งใหม่ ๆ หรือรักษาความอยากรู้

อัลต์แมน： แน่นอนนี่คือคำแนะนำของผม ฟังนะสังคมและเศรษฐกิจจะต้องเปลี่ยนแปลงในโลกใหม่นี้ คนในวัยเยาว์เข้าใจเรื่องนี้ดีกว่าใคร ไม่ว่าจะเปลี่ยนแปลงจริงหรือยัง พวกเขาจะทำตามใจ แต่ผมว่ามันจะเปลี่ยนแปลง

ทอมป์สัน： ดี ทุกครั้งที่มีรายการผมจะถามคำถามสุดท้ายเดี่ยวกับทุกคน ถ้าคุณมีทรัพยากรไร้ขีดจำกัด คุณจะทำอะไรเกี่ยวกับ AI? คุณคือคนเดียวที่จริงจังมีทรัพยากรไร้ขีดจำกัด ดังนั้นคำถามนี้ไม่เป็นธรรม เราเปลี่ยนแบบถามนิดหน่อย ถ้าคุณได้ให้คำแนะนำกับบุคคลที่ไม่ได้เป็น OpenAI และมีทรัพยากรไร้ขีดจำกัด สนับสนุนโครงการ AI สาธารณะ คุณจะให้เขาทำอะไร?

อัลต์แมน： ผมคิดออกมาหลายเรื่อง แต่สิ่งที่ขึ้นมาเป็นที่สุดคือ การลงทุนหนักในรูปแบบการคำนวณที่ใหม่โดยสิ้นเชิง โดยที่แต่ละวัตต์สามารถเพิ่มประสิทธิภาพอย่างมาก

ทอมป์สัน： อืม

อัลต์แมน： เรื่องเริ่ดนี้น่าสนใจมาก เวลาโลกจะก้าวหน้าเรื่อยมีความต้องการมากขึ้น คุณต้องการ GPU กี่เครื่องทำงานสำหรับคุณตลอดวัน?

ทอมป์สัน： มากกว่าที่ผมครอบครองอยู่

อัลต์แมน： มากกว่าที่ผมครอบครองอยู่ ผมถูกจำกัดความเร็ว พี่น้อง ผมไม่อยากแบบนั้น ก็อย่าให้ใครเกิดเป็นแบบนั้นด้วย แต่คลื่นความต้องการกำลังพุ่งมา เราคิดว่าถ้าเราสามารถให้ AI เข้าถึงได้มากขึ้น มันจะนำมาซึ่งสิ่งที่น่าแปลกตาจริงจัง ผมหวังว่าจะพบทางประจำการหน่วยพลังงานที่สูงมาก ผมอาจหาไม่เจอ แต่นั่นเป็นทิศทางที่ผมจะพยายามหารูปうี้แนต้า

ทอมป์สัน： ผมเข้าใจว่า ส่วนหนึ่งของเหตุผลที่คนเยาะมือยอมต่อ AI คือกังวลเรื่องสิ่งแวดล้อม ถ้าคุณสามารถแก้ไขเรื่องนั้น คุณก้าวไปหน้าได้หลายก้าว

อัลต์แมน： ผมเชื่อในสิ่งนั้ ผมรู้ว่าพวกเขาคิดอย่างนั้น แต่ถ้าเราพูดว่าเราจะก่อสร้างพลังงานโซลาร์ไฮโดวังเดี่ยวกับเลขม กำลังไฮโดวัง ทุกศูนย์ข้อมูลก็จะถูกจ่ายไฟจากพลังงานแสงอาทิตย์พวกเขาก็จะไม่ร่าเริงขึ้นเพราะเรื่องนั้น

ทอมป์สัน： คุณยังควรทำนั้น

อัลต์แมน： แน่นอน

ทอมป์สัน： ดี ขอบคุณมาก Sam Altman คุณต้องกลับไปดูแลเอเจนต์ Codex ที่ได้รับสิทธิ YOLO ไว้วิ่งอยู่บนเครื่องของคุณ

Altman： โคเดกซ์ใหม่มากครับ ฉันรู้สึกว่าตอนนี้ฉันกำลังมีความวุ่นวายที่พลาดมันอยู่

Thompson： ขอบคุณมากครับ

ลิงก์สำหรับวิดีโอสัมภาษณ์

ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:

กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats

กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App

บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia