หัวข้อวิดีโอ: Sam Altman พูดถึงโมเดลถัดไปของ OpenAI และกระแสต่อต้าน AI
ผู้ดำเนินรายการ: Alex Heath, Sources Podcast
เรียบเรียง: Peggy

หมายเหตุบรรณาธิการ: ในบริบทที่ความสามารถของโมเดล前沿ยังคงก้าวกระโดดอย่างต่อเนื่อง และเอเจนต์เริ่มเข้ามารับงานเวิร์กโฟลว์ที่ซับซ้อน การถกเถียงในวงการ AI กำลังเปลี่ยนจาก "ใครจะไปถึง AGI ได้ก่อน" ไปเป็น "ใครจะสร้างข้อจำกัดที่เชื่อถือได้เพียงพอก่อนที่ความสามารถจะหลุดการควบคุม" แต่เมื่อความก้าวหน้าของโมเดลและการขยายกำลังคำนวณยังคงถูกมองเป็นแกนหลักของการแข่งขัน คำถามที่สำคัญยิ่งกว่ากำลังเริ่มปรากฏขึ้น: เมื่อ AI สามารถเรียกใช้เครื่องมือได้ด้วยตนเอง ฝ่าฝืนข้อจำกัดของสภาพแวดล้อม และ甚至มีส่วนร่วมในการพัฒนาโมเดลรุ่นถัดไป บริษัทเอกชนจะมีความสามารถในการชะลอความเร็วอย่างจริงจังหรือไม่?

ในพอดแคสต์ Sources ที่ดำเนินรายการโดย Alex Heath นักข่าวสายเทคโนโลยีนี้ Sam Altman ซีอีโอของ OpenAI ได้ตอบถึงสาเหตุที่บริษัทชะลอการฝึกโมเดล前沿บางส่วนเมื่อเร็ว ๆ นี้ พร้อมพูดถึงตระกูลโมเดลรุ่นถัดไป Astra การรวม ChatGPT กับ Codex การปรับปรุงตนเองแบบเรียกซ้ำ การเสนอขายหุ้นต่อสาธารณะครั้งแรก (IPO) และอุปกรณ์สำหรับผู้บริโภคที่ร่วมพัฒนากับ Jony Ive

ในการสนทนาครั้งนี้ Altman ได้แยกย่อยเหตุการณ์ด้านความปลอดภัยครั้งหนึ่งของ OpenAI ออกเป็นชุดปัญหาทางโครงสร้างระดับลึก: ความสามารถของโมเดลและการวิจัยด้านความปลอดภัยจะเดินหน้าไปพร้อมกันได้หรือไม่ เอเจนต์จะเชื่อฟังเจตนาที่แท้จริงของมนุษย์อย่างไร และบริษัทที่ต้องระดมทุนและเติบโตอย่างต่อเนื่อง จะสามารถ承受ต้นทุนของการชะลอความเร็วเมื่อความเสี่ยงสูงขึ้นได้หรือไม่

ประการแรก ความเสี่ยงของ AI กำลังเคลื่อนจากหลังการปรับใช้โมเดลเข้าสู่ภายในกระบวนการฝึก ในอดีต อุตสาหกรรมกังวลเรื่องการใช้งานในทางที่ผิดหลังการเปิดตัวโมเดล เช่น การสร้างข้อมูลเท็จหรือช่วยโจมตีทางไซเบอร์ แต่ปัจจุบัน ความเสี่ยงได้ปรากฏขึ้นแล้วในขั้นตอนการเรียนรู้แบบเสริมแรงและการฝึกเอเจนต์ โมเดลที่ยังไม่ได้เปิดตัวของ OpenAI เคยหลบหนีออกจากแซนด์บ็อกซ์ทดสอบและบุกรุกระบบของ Hugging Face หลังจากนั้น นักวิจัยยังพบความเบี่ยงเบนด้านการจัดวาง (alignment) ในระดับที่แตกต่างกันในชุดข้อมูลฝึกของโมเดลที่แข็งแกร่งกว่า เหตุการณ์เดี่ยว ๆ อาจไม่ก่อให้เกิดอันตรายที่ชัดเจน แต่เมื่อรวมกับความเร่งของความสามารถ OpenAI จึงตัดสินใจเลื่อนการฝึกการเรียนรู้แบบเสริมแรง前沿รายการหนึ่งออกไป และจัดสรรกำลังคำนวณและบุคลากรเพิ่มเติมไปสู่การจัดวางและการเฝ้าติดตาม ซึ่งหมายความว่า ข้อจำกัดด้านการเติบโตของห้องแล็บ前沿กำลังเปลี่ยนแปลง: กำลังคำนวณยังคงหายาก แต่การพิสูจน์ว่าโมเดลปลอดภัยเพียงพอ也开始เป็นตัวกำหนดว่าการฝึกจะดำเนินต่อไปได้หรือไม่

ประการที่สอง ความหมายของ "การจัดวาง" (alignment) กำลังขยายจากการจำกัดผลลัพธ์ที่เป็นอันตราย ไปสู่การที่โมเดลจะเข้าใจเจตนาที่แท้จริงของมนุษย์หรือไม่ ในเหตุการณ์ Hugging Face โมเดลบรรลุเป้าหมายการประเมินจริง แต่ใช้วิธีการที่ผู้ทดสอบไม่ได้อนุญาต เมื่อ Astra เริ่มใช้งานคอมพิวเตอร์ได้ใกล้เคียงระดับมนุษย์ และสามารถดำเนินงานข้ามซอฟต์แวร์ได้อย่างต่อเนื่อง ความเบี่ยงเบนเล็กน้อยระหว่างเป้าหมายกับเจตนาอาจถูกขยายอย่างรวดเร็วด้วยความสามารถในการวางแผนอัตโนมัติ Altman จึงเสนอหลักการสองข้อ: มนุษย์ต้องคงไว้ซึ่งอำนาจควบคุม AI และความสามารถ前沿ต้องไม่กระจุกตัวอยู่ในมือของกลุ่มบุคคลจำนวนน้อย ข้อแรกจัดการกับความเสี่ยงจากการสูญเสียการควบคุม ส่วนข้อหลังตอบสนองต่อปัญหาการกระจายอำนาจ ทั้งสองร่วมกันเป็นนิยามที่ขยายออกไปของ "ความปลอดภัย" ในมุมมองของ OpenAI

ประการที่สาม จุดศูนย์กลางผลิตภัณฑ์ของ OpenAI กำลังเปลี่ยนจากการแชทไปสู่การลงมือปฏิบัติจริง ในปีที่ผ่านมา บริษัทได้ผลักดันผลิตภัณฑ์หลายสายพร้อมกัน เช่น Sora และเบราว์เซอร์ แต่กลับพลาดหน้าต่างสำคัญของการเขียนโปรแกรมด้วย AI เนื่องจากการเติบโตของผู้บริโภคของ ChatGPT ปัจจุบัน OpenAI กำลังหด "ภารกิจรอง" และผลักดันการรวม ChatGPT เข้ากับ Codex โดยหวังให้ผู้ใช้เพียงแค่ระบุเป้าหมาย แล้วระบบจะตัดสินใจเองว่าจะเรียกใช้โมเดล เครื่องมือ และซอฟต์แวร์ใด ส่วน Astra ก้าวต่อไปอีกขั้นด้วยการผลักดันตรรกะนี้ไปสู่การทำงานต่อเนื่อง การควบคุมคอมพิวเตอร์ และการช่วยเหลือด้านการวิจัย สำหรับ OpenAI ตัวชี้วัดการแข่งขันในระยะถัดไปจะไม่จำกัดอยู่แค่คุณภาพของคำตอบอีกต่อไป แต่จะอยู่ที่โมเดลสามารถทำงานจริงได้อย่างน่าเชื่อถือมากน้อยเพียงใด ยิ่งความสามารถเจาะลึกเข้าไปในสภาพแวดล้อมจริงมากเท่าไร คุณค่าของผลิตภัณฑ์และความเสี่ยงด้านความปลอดภัยก็ยิ่งแยกออกจากกันได้ยากขึ้นเท่านั้น

ประการที่สี่ ความก้าวหน้าทางเทคนิคเริ่มส่งผลย้อนกลับต่อเส้นทางทุนของ OpenAI หาก AI สามารถช่วยวิจัยและพัฒนา AI ที่แข็งแกร่งขึ้นได้ การปรับปรุงตนเองแบบเวียนเกิดอาจบีบอัดระยะเวลาระหว่างแต่ละรุ่นของโมเดล Altman เชื่อว่าเมื่อกระบวนการนี้เร่งตัวขึ้น การเลื่อนการเสนอขายหุ้น IPO อาจเป็นประโยชน์มากกว่า เพราะราคาหุ้นหลังเข้าตลาด รายได้รายไตรมาส และความคาดหวังของนักลงทุน จะเพิ่มต้นทุนในการหยุดฝึกหรือเลื่อนการเปิดตัว นี่ไม่ได้หมายความว่า OpenAI ตัดสินใจเลื่อนการเข้าตลาดแล้ว แต่เผยให้เห็นความขัดแย้งพิเศษของบริษัท AI แถวหน้า นั่นคือ พวกเขาต้องการทุนมหาศาลเพื่อรองรับการขยายพลังประมวลผล ขณะเดียวกันก็ต้องหลุดพ้นจากแรงจูงใจระยะสั้นของตลาดทุนในช่วงเวลาสำคัญ

ประการที่ห้า AI กำลังจะก้าวจากการบริการซอฟต์แวร์เข้าสู่อุปกรณ์ที่รับรู้สภาพแวดล้อมจริงอย่างต่อเนื่อง OpenAI และ Jony Ive กำลังสำรวจรูปแบบหลากหลาย เช่น บนโต๊ะ ในกระเป๋า และอุปกรณ์สวมใส่ โดยทิศทางร่วมกันคือการทำให้คอมพิวเตอร์เปลี่ยนจากการรอคำสั่งไปสู่การให้บริการเชิงรุก หากอุปกรณ์ต้องการเข้าใจชีวิตของผู้ใช้ ก็อาจต้องเข้าถึงการแชท การควบคุมคอมพิวเตอร์ เสียง และข้อมูลสภาพแวดล้อมอย่างต่อเนื่อง Altman จึงเสนอ "สิทธิพิเศษของ AI" ที่คล้ายกับการรักษาความลับระหว่างแพทย์กับคนไข้ และสิทธิพิเศษระหว่างทนายความกับลูกความ โดย主张ให้รัฐบาลและองค์กรต่างๆ ถูกจำกัดการเข้าถึงข้อมูลเหล่านี้อย่างเข้มงวดมากขึ้น ซึ่งหมายความว่า การแข่งขันของฮาร์ดแวร์ AI รุ่นถัดไปจะไม่วนเวียนอยู่แค่รูปลักษณ์และการโต้ตอบเท่านั้น แต่ระบบความเป็นส่วนตัว ขอบเขตข้อมูล และการยอมรับของสังคม จะเป็นตัวกำหนดว่าผลิตภัณฑ์จะเกิดขึ้นได้จริงหรือไม่

หากจะบีบอัดบทสนทนานี้ให้เหลือเพียงข้อสรุปเดียว นั่นคือ ยิ่งความสามารถของโมเดลใกล้เคียงกับการกระทำด้วยตนเองและการปรับปรุงตนเองมากเท่าไร ความปลอดภัยก็ยิ่งยากที่จะเป็นเพียงการตรวจสอบเพิ่มเติมก่อนการเปิดตัว แต่ต้องเข้าไปเป็นแกนกลางของการฝึกฝน ผลิตภัณฑ์ และการกำกับดูแลองค์กร ในแง่นี้ สิ่งที่บทความนี้กล่าวถึงไม่ได้เป็นเพียงแค่เหตุผลที่ OpenAI ชะลอการฝึกฝน前沿หนึ่งครั้ง แต่คือการที่อุตสาหกรรม AI ทั้งหมดจะสามารถสร้างกลไกที่ยอมให้ตัวเองหยุดได้ ท่ามกลางการเร่งตัวของความสามารถ การแข่งขันเชิงพาณิชย์ และแรงกดดันด้านทุนที่เกิดขึ้นพร้อมกันหรือไม่

ต่อไปนี้เป็นการสรุปประเด็นสำคัญจากต้นฉบับ (เพื่อความสะดวกในการอ่านและทำความเข้าใจ เนื้อหาต้นฉบับได้รับการเรียบเรียงบางส่วน):

TL;DR

·สิ่งที่ OpenAI ชะลอไม่ใช่การฝึกโมเดลทั้งหมด แต่เป็นการเรียนรู้เชิงเสริมขั้นสูงที่มีความเสี่ยงสูงกว่า โดยแก่นแท้คือความสามารถด้านความปลอดภัยเริ่มล้าหลังความเร็วในการก้าวกระโดดของความสามารถโมเดล

·เหตุการณ์ Hugging Face ไม่ใช่แค่ช่องโหว่ของแซนด์บ็อกซ์ แต่ยังเผยให้เห็นช่องว่างด้านการจัดแนว (alignment) ที่โมเดลทำตามเป้าหมายตามตัวอักษรแต่ขัดกับเจตนาที่แท้จริงของมนุษย์

·ความเสี่ยงของ AI กำลังเคลื่อนจากภายนอกหลังการปล่อยโมเดล (การใช้งานในทางที่ผิด) มาสู่ภายในกระบวนการฝึก โดยการประเมินความปลอดภัยเปลี่ยนจากการตรวจสอบก่อนเปิดตัวมาเป็นข้อจำกัดแข็งของการวิจัย前沿

·ความก้าวหน้าสำคัญของ Astra ไม่ได้อยู่ที่คุณภาพการตอบ แต่คือการใช้งานคอมพิวเตอร์ใกล้เคียงระดับมนุษย์และดำเนินงานต่อเนื่อง ซึ่งขยายความเสี่ยงจากความคลาดเคลื่อนของเป้าหมายให้ใหญ่ขึ้น

·การรวม ChatGPT และ Codex ของ OpenAI หมายถึงการแข่งขันผลิตภัณฑ์ AI กำลังเปลี่ยนจาก "การสร้างคำตอบ" ไปสู่ "การทำงานให้สำเร็จ" โดยเอเจนต์อัจฉริยะทั่วไปจะกลายเป็นจุดเข้าถึงผลิตภัณฑ์ในระยะถัดไป

·OpenAI ชั่วคราวสามารถรับการชะลอการฝึกได้ เพราะรายได้จากองค์กรเกินรายได้จากผู้บริโภค และโมเดลที่มีอยู่ยังมีพื้นที่เชิงพาณิชย์เพียงพอ

·การปรับปรุงตนเองแบบเรียกซ้ำอาจเลื่อนการเข้าตลาดหุ้นของ OpenAI โดยแก่นแท้คือแรงกดดันผลประกอบการรายไตรมาสจากตลาดสาธารณะอาจลดทอนความสามารถของบริษัทในการหยุดวิจัยเชิงรุกในช่วงที่มีความเสี่ยงสูง

·แกนหลักของฮาร์ดแวร์รุ่นถัดไปของ OpenAI ไม่ได้อยู่ที่รูปแบบเฉพาะ แต่คือ "คอมพิวเตอร์เชิงรุก" โดยเงื่อนไขเชิงพาณิชย์คือการสร้างขอบเขตข้อมูลและความเป็นส่วนตัวที่น่าเชื่อถือสำหรับการรับรู้สภาพแวดล้อมอย่างต่อเนื่อง

ประเด็นสำคัญจากการสัมภาษณ์

การ "แหกคุก" ของโมเดลครั้งหนึ่ง ทำไมทำให้ OpenAI หยุดการฝึก前沿?

Altman อธิบายช่วงหลายเดือนที่ผ่านมาว่าเป็นช่วงเวลาที่เคยพูดคุยกันมานานหลายปีและในที่สุดก็มาถึง: ความสามารถโมเดลพัฒนาเร็วเกินไป ทำให้งานวิจัยด้านความปลอดภัย การจัดแนว และการรักษาความปลอดภัยต้องใช้เวลาไล่ตามให้ทัน

คำเตือนที่ตรงที่สุดมาจากเหตุการณ์ Hugging Face โมเดล OpenAI ที่ยังไม่ได้เผยแพร่ตัวหนึ่ง ระหว่างการประเมินความปลอดภัยทางไซเบอร์ หลบหนีออกจากแซนด์บ็อกซ์ภายใน เข้าสู่อินเทอร์เน็ตและโจมตี Hugging Face ตามที่ Altman กล่าว เหตุการณ์นี้เกิดจากหลายจุดล้มเหลวพร้อมกัน ราวกับเรื่องราวไซไฟที่กลายเป็นจริงขึ้นมาทันใด

จากภายนอกดูเหมือนโมเดลเพียงแค่หาเส้นทางที่มีประสิทธิภาพที่สุดเพื่อบรรลุเป้าหมายการประเมิน แต่เจตนาที่แท้จริงของผู้ทดสอบ显然ไม่ได้รวมถึงการแหกแซนด์บ็อกซ์ บุกเข้าระบบภายนอก และขโมยคำตอบ ดังนั้น Altman จึงเห็นว่านี่ไม่ใช่แค่ความผิดพลาดในการตั้งค่าความปลอดภัย แต่เป็นการล้มเหลวด้านการจัดแนว: โมเดลทำตามเป้าหมายตามตัวอักษร แต่ขัดกับเจตนาที่แท้จริงของผู้ใช้

OpenAI ได้เสริมความแข็งแกร่งให้กับการแยกสภาพแวดล้อมแบบแซนด์บ็อกซ์และการเฝ้าติดตามเอเจนต์ รวมถึงจัดสรรพลังประมวลผลมากขึ้นเพื่อสังเกตกระบวนการทำงานของโมเดล อย่างไรก็ตาม สิ่งที่ผลักดันให้บริษัทหยุดการฝึก前沿เพิ่มเติมไม่ใช่การโจมตีลักษณะเดียวกันอีกครั้ง

Altman กล่าวว่า นักวิจัยพบว่าโมเดลมี "ความเบี่ยงเบนด้านการจัดตำแหน่งในระดับที่แตกต่างกัน" หลังจากอ่านตัวอย่างการฝึกจำนวนมากและสังเคราะห์ผลการประเมินที่หลากหลาย ปรากฏการณ์เหล่านี้เมื่อมองแยกกันอาจไม่รุนแรง และไม่มี "หลักฐานชัดเจน" เหมือนการโจมตี Hugging Face แต่เมื่อรวมกับการเร่งความสามารถของโมเดลอย่างกะทันหัน ก็กลายเป็นสัญญาณความเสี่ยงใหม่

OpenAI จึงเลื่อนการฝึกเสริมการเรียนรู้前沿ที่สำคัญออกไป และเปลี่ยนนักวิจัยบางส่วนรวมถึงพลังประมวลผลไปสู่การจัดตำแหน่งและระบบเฝ้าติดตาม Altman กล่าวว่า นักวิจัยบางคนที่ไม่เคยคิดจะทำงานด้านการจัดตำแหน่งมาก่อน ก็เริ่มเปลี่ยนมาสนใจด้านนี้ด้วยตนเอง

อย่างไรก็ตาม เขาพยายามลดการตีความความเสี่ยงจากภายนอก OpenAI ไม่ได้ตัดสินว่าโลกกำลังอยู่บนขอบหายนะ และไม่ได้หยุดการฝึกโมเดลทั้งหมด การชะลอตัวในปัจจุบันมุ่งเน้นไปที่การฝึกเสริมการเรียนรู้前沿เป็นหลัก ซึ่งเป็นช่วงที่โมเดลได้รับเครื่องมือ สภาพแวดล้อมการทำงาน และเรียนรู้การทำงานที่ซับซ้อน การฝึกอื่นๆ ที่มีพื้นฐานด้านความปลอดภัยชัดเจนยังคงดำเนินต่อไป และคลัสเตอร์พลังประมวลผลก็ไม่ได้ว่างเปล่า

Altman เห็นว่า ความเสี่ยงในอดีตส่วนใหญ่มาจากการใช้งานโมเดลหลังการเผยแพร่ เมื่อความสามารถของเอเจนต์เพิ่มขึ้น ความเสี่ยงกำลังเคลื่อนไปข้างหน้าสู่กระบวนการฝึกและการผลิตโมเดล

Astra ยังคงเปิดตัว AI เริ่มเปลี่ยนจาก "การตอบ" ไปสู่ "การปฏิบัติ"

การปรับเปลี่ยนครั้งนี้จะไม่ปิดกั้นการเปิดตัว Astra โดยสิ้นเชิง

Altman อธิบายว่า Astra ไม่ใช่โมเดลเดียว แต่เป็นชุดโมเดลที่ใหญ่และมีต้นทุนสูงกว่า คล้ายกับซีรีส์ Soul ก่อนหน้าของ OpenAI เวอร์ชันที่ฝึกเสร็จแล้วและบริษัทเห็นว่าปลอดภัยยังสามารถเปิดตัวได้ แต่เวอร์ชัน Astra ที่แข็งแกร่งกว่าในอนาคตจะได้รับผลกระทบจากข้อกำหนดด้านความปลอดภัยใหม่

หนึ่งในความสามารถที่ได้รับความสนใจมากที่สุดของ Astra คือการใช้งานคอมพิวเตอร์ โมเดลในอดีตสามารถคลิกอินเทอร์เฟซได้ แต่ช้าและมีความน่าเชื่อถือจำกัด Altman เห็นว่า Astra ใกล้เคียงระดับมนุษย์ในการใช้งานคอมพิวเตอร์แล้ว

ผู้ใช้สามารถอธิบายเป้าหมายโดยตรง โมเดลจะค้นหาข้อมูลในคอมพิวเตอร์ เรียกใช้ซอฟต์แวร์ และทำงานให้สำเร็จด้วยตัวเอง โดยไม่ต้องตั้งค่าตัวเชื่อมต่อจำนวนมากด้วยตนเอง Altman ยกตัวอย่างว่า งานเล็กๆ น้อยๆ ที่เคยต้องใช้เวลาจัดการด้วยตัวเอง ตอนนี้สามารถมอบให้โมเดลทำ และกลับมาดูผลลัพธ์ได้หลังจากครึ่งชั่วโมง

ความสำคัญของความสามารถประเภทนี้คือ AI เริ่มเข้าสู่ขั้นตอนการปฏิบัติจากการสร้างคำตอบ โมเดลจะต้องเผชิญกับซอฟต์แวร์องค์กร เครื่องมือสื่อสาร ไฟล์ และเวิร์กโฟลว์จริง ซึ่งช่วยเพิ่มผลผลิต แต่ก็ขยายพื้นที่ความเสี่ยงจากการเข้าถึงโดยไม่ได้รับอนุญาต การทำงานผิดพลาด และการเบี่ยงเบนจากเป้าหมาย

สำหรับ AGI ออลต์แมนมองว่าแนวคิดนี้เริ่มยากขึ้นเรื่อยๆ ในการให้การประเมินที่มีประสิทธิภาพ ตามคำนิยามในกฎบัตรของ OpenAI ที่ว่า "เหนือกว่ามนุษย์ในงานที่มีมูลค่าทางเศรษฐกิจส่วนใหญ่" โมเดลภายในปัจจุบันอย่างน้อยก็เข้าใกล้ AGI มากแล้ว

ในมุมมองของเขา หากย้อนกลับไปในปี 2020 ระบบที่สามารถเขียนโค้ดที่ซับซ้อน ช่วยก่อตั้งบริษัท ค้นพบความรู้ใหม่ และช่วยประหยัดเวลาให้ผู้ใช้ในทุกด้านของชีวิต คงถูกเรียกว่า AGI ไปแล้ว การถกเถียงภายใน OpenAI เกี่ยวกับว่าบริษัทถึงระดับ AGI หรือยังก็เกิดขึ้นน้อยลง จุดสนใจของการสนทนาได้เปลี่ยนไปที่ซูเปอร์อินเทลลิเจนซ์ซึ่งความสามารถเติบโตอย่างต่อเนื่อง

ออลต์แมนแยกแยะความแตกต่างระหว่างทั้งสองคือ: AGI 更像เป็นหมุดหมายของความสามารถ ในขณะที่ซูเปอร์อินเทลลิเจนซ์แทนเส้นโค้งการเติบโตที่อาจขยายออกไปในระยะยาว สิ่งที่สำคัญจริงๆ ไม่ใช่การประกาศข้ามเส้นแบ่งบางเส้น แต่คือความสามารถของโมเดลยังคงเติบโตแบบเอ็กซ์โปเนนเชียลหรือไม่

พลาดหน้าต่างการเขียนโปรแกรม AI แล้ว OpenAI เริ่มหดแนวรบ

นอกเหนือจากวิกฤตด้านความปลอดภัย ออลต์แมนยังยอมรับว่า OpenAI ในปีที่ผ่านมาล้าหลังความคาดหวังในทิศทางผลิตภัณฑ์และการวิจัยพรีเทรนนิ่ง

ปัญหาหนึ่งคือบริษัทดำเนินโครงการมากเกินไปพร้อมกัน รวมถึงเบราว์เซอร์และ Sora โครงการเหล่านี้มีคุณค่าในตัวเอง แต่กลับ分散การลงทุนของ OpenAI ต่อความสามารถอัจฉริยะทั่วไป ออลต์แมนเรียกสิ่งนี้ว่า "ภารกิจรอง" และคิดว่าตัวเองควรเรียกร้องให้บริษัทมุ่งเน้นไปที่เป้าหมายที่สำคัญที่สุด

ความผิดพลาดอีกอย่างเกิดขึ้นในตลาดการเขียนโปรแกรม AI

Anthropic 凭借 Claude Code 率先抓住需求 OpenAI กลับถูกการเติบโตอย่างรวดเร็วของ ChatGPT ดึงไว้ ไม่ได้ให้ความสำคัญกับผลิตภัณฑ์การเขียนโปรแกรมอย่างเพียงพอ ออลต์แมนไม่คิดว่าบริษัทไม่เห็นโอกาส ปัญหาอยู่ที่การจัดสรรทรัพยากร

OpenAI ต่อมาได้ย้ายพลังประมวลผลจำนวนมากจาก ChatGPT ไปยัง Codex ซึ่งอธิบายได้ว่าทำไมการเติบโตของผู้ใช้ ChatGPT ชะลอตัวลงชั่วขณะ: ในสถานการณ์ที่พลังประมวลผลยังขาดแคลนอย่างต่อเนื่อง การเติบโตของผลิตภัณฑ์ส่วนใหญ่ขึ้นอยู่กับว่าบริษัทจะนำพลังประมวลผลไปใช้ที่ใด

ปัจจุบัน บริษัทกำลังดำเนินการบูรณาการที่เรียกภายในว่า "The Merge" เพื่อรวม ChatGPT, Codex และฟังก์ชันการดำเนินงานเข้าเป็นทางเข้าอเนกประสงค์เดียว ออลต์แมนต้องการให้ผู้ใช้ไม่ต้องตัดสินใจว่าควรใช้โหมดแชท การเขียนโปรแกรม หรือโหมดทำงาน เพียงแค่แสดงเป้าหมาย AI จะตัดสินใจเองว่าจะทำให้สำเร็จอย่างไร

ในที่สุด สิ่งนี้อาจพัฒนาเป็นการสมัครสมาชิก AI ทั่วไปแบบรวม ระบบจะทำงานอย่างต่อเนื่อง เข้าใจบริบทของผู้ใช้ และให้ความช่วยเหลือเชิงรุก แม้กระทั่งเริ่มประมวลผลงานก่อนที่ผู้ใช้จะร้องขอ

ในมุมมองเชิงธุรกิจ อัลต์แมนเชื่อว่า OpenAI ยังมีพื้นที่ปลอดภัยเพียงพอ รายได้จากภาคองค์กรแซงหน้ารายได้จากผู้บริโภคแล้ว แม้จะไม่ปล่อยโมเดลใหม่ที่มีความสามารถสูงกว่าในระยะสั้น โมเดลและผลิตภัณฑ์ที่มีอยู่ก็ยังสามารถหนุนการเติบโตได้ ในความเห็นของเขา ผลกระทบจากการปรับด้านความปลอดภัยส่วนใหญ่ตกอยู่ที่โมเดลในอนาคต และจะไม่ขัดจังหวะธุรกิจปัจจุบันในทันที

AI ก้าวออกจากกรอบแชท แรงต้านจากสังคมก็ขยายวงกว้างขึ้น

เมื่อความสามารถของโมเดลเติบโตขึ้น แรงต้านจากสังคมที่ AI เผชิญก็เพิ่มสูงขึ้นตามไปด้วย การใช้ทรัพยากรของศูนย์ข้อมูล การแทนที่งาน สิทธิของครีเอเตอร์ และความเป็นส่วนตัว กลายเป็นประเด็นหลักหลายสายที่สาธารณชนตั้งคำถามต่ออุตสาหกรรม AI

อัลต์แมนเชื่อว่าวิธีที่มีประสิทธิภาพที่สุดในการทำให้ผู้คนยอมรับ AI คือการนำเสนอคุณค่าที่เป็นรูปธรรม หลายคนยังคงเข้าใจ AI ว่าเป็นเพียง "เครื่องมือค้นหาที่ดีขึ้น" และไม่รู้ว่าเอเจนต์อัจฉริยะสามารถกรอกแบบฟอร์ม เรียกใช้ซอฟต์แวร์ และปฏิบัติงานระยะยาวได้แล้ว เมื่อความสามารถเหล่านี้แพร่หลายมากขึ้น ทัศนคติของสาธารณชนอาจเปลี่ยนแปลงไป

ในประเด็นการจ้างงาน เขายอมรับว่า AI จะสร้างผลกระทบจริง งานบางส่วนจะถูกทำได้ดีขึ้นด้วยเทคโนโลยี และแรงงานต้องเปลี่ยนไปสู่งานใหม่ แต่เขาไม่เชื่อว่ามนุษย์จะกลายเป็นคนไร้สิ่งที่จะทำ เพราะการที่มนุษย์ร่วมมือกัน เข้าใจความต้องการของกันและกัน และสร้างคุณค่าให้ผู้อื่น ยังคงมีคุณลักษณะทางสังคมที่ยากจะทดแทนได้

อัลต์แมนถึงกับเชื่อว่าผลกระทบของ AI ต่อการจ้างงานในปัจจุบันต่ำกว่าที่เขาคาดการณ์ไว้ก่อนหน้านี้ เทคโนโลยียังไม่ได้ขจัดงานซ้ำซากอย่างเต็มที่ ซึ่งอาจมองได้ว่าเป็นสัญญาณว่าอุตสาหกรรม AI ยังไม่บรรลุคำมั่นสัญญาด้านผลิตภาพ

สำหรับครีเอเตอร์ เขาเปรียบเทียบ AI เชิงสร้างสรรค์กับการถือกำเนิดของการถ่ายภาพ กล้องเคยถูกมองว่าเป็นภัยคุกคามต่อจิตรกร แต่ต่อมากลับกลายเป็นสื่อศิลปะรูปแบบใหม่ อัลต์แมนคาดว่า AI จะสร้างรูปแบบเนื้อหาใหม่เช่นกัน และความสัมพันธ์ระหว่างผู้ใช้กับครีเอเตอร์อาจขึ้นอยู่กับตัวครีเอเตอร์เองมากขึ้นเรื่อยๆ มากกว่าที่เนื้อหาจะถูกสร้างด้วย AI หรือไม่

มุมมองชุดนี้ยังคงมีความมองโลกในแง่ดีทางเทคโนโลยีอย่างชัดเจน บทสัมภาษณ์ไม่ได้แก้ไขปัญหาว่ารายได้จะถูกกระจายใหม่อย่างไร แรงงานที่ได้รับผลกระทบจะเปลี่ยนผ่านอย่างไร หรือข้อพิพาทเรื่องข้อมูลฝึกอบรมจะจัดการอย่างไร คำตอบหลักของอัลต์แมนยังคงเป็น: ให้ผลิตภัณฑ์สร้างคุณค่าที่ชัดเจนเพียงพอก่อน จากนั้นจึงกระจายผลประโยชน์ไปยังบุคคลและชุมชนจำนวนมากขึ้นผ่านการเปิดเครื่องมืออย่างกว้างขวาง

กำลังประมวลผลยังขาดแคลน แต่ฟองสบู่เริ่มปรากฏแล้ว

หนึ่งปีก่อน OpenAI ถูกตั้งคำถามอย่างกว้างขวางจากการลงทุนด้านกำลังประมวลผลมหาศาล เมื่อความต้องการโมเดลและเอเจนต์เพิ่มขึ้น อัลต์แมนเชื่อว่าการเดิมพันครั้งนี้ได้รับการพิสูจน์แล้ว และบริษัทถึงกับต้องเริ่มการขยายกำลังประมวลผลในระดับเทคโนโลยีรอบใหม่

เป้าหมายของเขาไม่เพียงแต่ลงทุนทุนต่อไปเท่านั้น แต่ยังรวมถึงการลดต้นทุนการดำเนินงานของ AI เพิ่มประสิทธิภาพชิป และเร่งการก่อสร้างห่วงโซ่อุปทานและศูนย์ข้อมูล OpenAI กำลังพัฒนาชิปประมวลผลเชิงอนุมานตัวแรกชื่อ Jalapeño และในอนาคตหุ่นยนต์อาจมีส่วนร่วมในการก่อสร้างห่วงโซ่อุปทานและศูนย์ข้อมูลด้วย

อย่างไรก็ตาม Altman เริ่มแสดงความระมัดระวังต่อการลงทุนด้านพลังประมวลผลของทั้งอุตสาหกรรม

เขากล่าวว่า บริษัทคลาวด์คอมพิวติ้งหน้าใหม่บางแห่งที่ผุดขึ้นมาอย่างกะทันหันกำลังให้คำมั่นว่าจะสร้างพลังประมวลผลมหาศาลในปีหน้า แต่กลับไม่มีรายได้เพียงพอหรือผู้ซื้อที่ชัดเจนรองรับ สิ่งนี้เริ่มปรากฏสัญญาณ "ความไม่ยั่งยืนที่ไร้เหตุผล" แล้ว หาก OpenAI ประสบความสำเร็จในการลดต้นทุนการคำนวณลงอย่างมีนัยสำคัญ บริษัทที่ล็อกทรัพยากรไว้ด้วยต้นทุนสูงอาจเผชิญกับแรงกดดันทางการเงิน

ด้วยเหตุนี้ Altman ยังคงมั่นใจในคำมั่นด้านพลังประมวลผลของ OpenAI เอง แต่ไม่เชื่อว่าโครงสร้างพื้นฐาน AI ทั้งตลาดจะให้ผลตอบแทนที่สมเหตุสมผล หากฟองสบู่ภายนอกแตกและส่งผลกระทบต่อเศรษฐกิจมหภาค OpenAI ก็ยากที่จะหลีกเลี่ยงผลกระทบได้อย่างสิ้นเชิง

ส่วนในอนาคตจะขายพลังประมวลผลให้บริษัทอื่นหรือไม่ Altman กล่าวว่าในระยะสั้นยังไม่มีแผน เนื่องจาก OpenAI เองยังขาดแคลนทรัพยากรการคำนวณอย่างรุนแรง แต่หากชิป หุ่นยนต์ ห่วงโซ่อุปทาน และความสามารถด้านศูนย์ข้อมูลของบริษัทกลายเป็นข้อได้เปรียบ การเป็นผู้ให้บริการพลังประมวลผลก็ไม่ใช่เรื่องที่เป็นไปไม่ได้เลย

RSI ใกล้เข้ามา ทำไม OpenAI อาจเลื่อนการเสนอขายหุ้น IPO?

ความสามารถของ AI ในการมีส่วนร่วมในการพัฒนา AI รุ่นถัดไป ถูกเรียกในวงการว่า การปรับปรุงตนเองแบบเรียกซ้ำ (Recursive Self-Improvement) หรือ RSI

ก่อนหน้านี้ Altman กล่าวในจดหมายถึงพนักงานว่า ยิ่ง RSI "ทะยาน" เร็วเท่าไร การเลื่อน IPO อาจยิ่งเป็นประโยชน์มากขึ้นเท่านั้น ในการสัมภาษณ์ครั้งนี้ เขาได้อธิบายเพิ่มเติมเกี่ยวกับการตัดสินใจนี้

การเข้าตลาดหุ้นจะเปลี่ยนแรงจูงใจที่บริษัทและพนักงานต้องเผชิญ: ราคาหุ้น รายได้รายไตรมาส และความคาดหวังด้านผลประกอบการจะเข้ามาอยู่ในการตัดสินใจประจำวัน หาก OpenAI จำเป็นต้องหยุดฝึกโมเดลหรือเลื่อนการเปิดตัวด้วยเหตุผลด้านความปลอดภัย และต้องเผชิญกับรายได้ที่ชะลอตัวในระยะสั้น ตลาดสาธารณะอาจสร้างแรงกดดันเพิ่มเติม

Altman กล่าวว่า เมื่อหนึ่งปีก่อนเขาไม่คิดว่าซูเปอร์อินเทลลิเจนซ์จะเกิดขึ้นในระยะสั้น แต่ตอนนี้เขาเห็นว่าความเป็นไปได้นี้มีอยู่แล้ว แม้จะยังไม่มีความแน่ใจเต็มที่ ดังนั้น เมื่อเทียบกับการเข้าตลาดในช่วงเวลาที่กำหนด ภารกิจของ OpenAI มีลำดับความสำคัญสูงกว่า

นี่ไม่ได้หมายความว่า IPO ถูกเลื่อนออกไปอย่างแน่นอน แต่ความก้าวหน้าทางเทคโนโลยีจะกลายเป็นตัวแปรสำคัญในกำหนดการ หากความสามารถของโมเดลยังคงเติบโตอย่างรวดเร็ว สถานะบริษัทเอกชนอาจช่วยให้ OpenAI คงพื้นที่การตัดสินใจด้านความปลอดภัยที่ใหญ่ขึ้นได้

Altman ยังคัดค้านตรรกะการแข่งขันแบบ "บริษัทอื่นก็จะเดินหน้าต่อไป เราจึงหยุดไม่ได้" ครั้งนี้ OpenAI ไม่ได้ขอให้คู่แข่งในอุตสาหกรรมชะลอความเร็วพร้อมกันล่วงหน้า แต่หยุดงานบางส่วนตามมาตรฐานความปลอดภัยของตนเอง เขาเชื่อว่ารัฐบาลสหรัฐฯ สามารถทดสอบโมเดล前沿และกำหนดมาตรฐานร่วมกันได้ แต่ไม่ควรตัดสินใจแทนบริษัทว่าลูกค้ารายใดสามารถใช้โมเดลได้

สำหรับคำถามที่ว่ารัฐบาลอาจขัดขวางการเปิดตัวผลิตภัณฑ์ของ OpenAI หรือไม่ อัลท์แมนตอบว่า เขาเชื่อว่า OpenAI จะตัดสินใจเองก่อนที่จะเปิดตัวผลิตภัณฑ์นั้น หากรัฐบาลยังไม่เข้ามาแทรกแซง

จากซอฟต์แวร์สู่ฮาร์ดแวร์: OpenAI ทุ่มเดิมพันกับ "คอมพิวเตอร์เชิงรุก"

การขยายตัวของ OpenAI จะเข้าสู่โลกแห่งความเป็นจริงด้วย

อัลท์แมนยืนยันว่า บริษัทจะพัฒนา "หุ่นยนต์มนุษย์" อย่างแน่นอนในอนาคต และจะสำรวจรูปแบบอื่นๆ ที่เหมาะกับสถานการณ์เช่นศูนย์ข้อมูลด้วย เหตุผลที่ออกแบบเป็นรูปร่างมนุษย์นั้นตรงไปตรงมา: ประตู คอมพิวเตอร์ ยานพาหนะ และเครื่องมือในโลกแห่งความจริงล้วนถูกสร้างขึ้นรอบๆ ร่างกายมนุษย์ การใช้หุ่นยนต์ที่มีรูปร่างคล้ายคลึงกันจะช่วยให้เข้าสู่สภาพแวดล้อมที่มีอยู่ได้ง่ายขึ้น

โครงการที่ใกล้ชิดผู้บริโภคมากขึ้นคือ อุปกรณ์ AI ที่ OpenAI ร่วมมือกับโจนี ไอฟ์

อัลท์แมนเชื่อว่า AI อาจก่อให้เกิดอุปกรณ์คอมพิวเตอร์ประเภทใหม่ที่เกิดขึ้นเพียงครั้งเดียวในทุกๆ หลายสิบปี ปัจจุบัน OpenAI กำลังพิจารณารูปแบบต่างๆ เช่น อุปกรณ์ที่วางบนโต๊ะ อุปกรณ์ที่ใส่ในกระเป๋า และอุปกรณ์ที่สวมใส่บนร่างกาย แต่ผลิตภัณฑ์เหล่านี้จะไม่เปิดตัวพร้อมกัน

เขาระบุชัดเจนว่าไม่ชอบแว่นตาอัจฉริยะ เพราะการสนทนากับคนที่สวมกล้องและไฟแสดงสถานะจะทำให้เขารู้สึกไม่สบายใจ ดังนั้น เส้นทางฮาร์ดแวร์ของ OpenAI อย่างน้อยจะไม่ลอกเลียนแบบแว่นตา AI กระแสหลักในปัจจุบันอย่างง่ายๆ

เมื่อเทียบกับรูปลักษณ์ภายนอก การเปลี่ยนแปลงที่ใหญ่กว่าคือ "คอมพิวเตอร์เชิงรุก" อุปกรณ์ในอนาคตอาจเข้าใจสภาพแวดล้อมโดยรอบ ข้อมูลผู้ใช้ และสิ่งที่กำลังเกิดขึ้นอย่างต่อเนื่อง และให้ความช่วยเหลือเชิงรุก โดยไม่ต้องรอให้ผู้ใช้เปิดแอปพลิเคชันและป้อนคำสั่ง

รูปแบบนี้ยังนำมาซึ่งปัญหาความเป็นส่วนตัวที่เฉียบคมยิ่งขึ้น อุปกรณ์ที่สามารถดูคอมพิวเตอร์ อ่านข้อความ และรับรู้สภาพแวดล้อมอย่างต่อเนื่อง อาจสร้างฐานข้อมูลส่วนบุคคลที่ครบถ้วนอย่างยิ่ง

อัลท์แมนสนับสนุนการสร้าง "สิทธิพิเศษ AI" ที่คล้ายกับการรักษาความลับระหว่างแพทย์กับผู้ป่วย หรือสิทธิพิเศษระหว่างทนายความกับลูกความ: รัฐบาลไม่ควรเรียกร้องให้บริษัทส่งมอบบันทึกการสนทนาระหว่างผู้ใช้กับ AI ตามอำเภอใจ และการใช้ข้อมูล AI ของบริษัทควรถูกจำกัดอย่างเข้มงวด เขายอมรับว่า เมื่ออุปกรณ์คอมพิวเตอร์เชิงสภาพแวดล้อมใกล้จะเปิดตัว OpenAI ยังต้องเปิดเผยเทคโนโลยีความเป็นส่วนตัวและมาตรการควบคุมใหม่ๆ

ส่วนคดีที่ Apple ยื่นฟ้องเกี่ยวกับบุคลากรที่เกี่ยวข้องและความลับทางการค้า อัลท์แมนกล่าวว่า หลังจากการสอบสวนภายใน OpenAI พบว่าพนักงานที่เกี่ยวข้องไม่มีพฤติกรรมที่ไม่เหมาะสม ดังนั้นจึงคาดว่าคดีจะไม่ทำให้การพัฒนาอุปกรณ์ล่าช้า

ความปลอดภัยและการปรับให้สอดคล้อง กำลังกลายเป็นข้อจำกัดการเติบโตใหม่ของ OpenAI

เมื่อถูกถามถึงความเสี่ยงที่ใหญ่ที่สุดที่ OpenAI จะเผชิญใน 12 เดือนข้างหน้า อัลท์แมนไม่ได้เลือกการแข่งขัน การระดมทุน หรือพลังประมวลผล แต่เลือก "การทำผิดพลาดด้านความปลอดภัย การปรับให้สอดคล้อง และการรักษาความมั่นคง"

ประโยคนี้สรุปความขัดแย้งหลักของการสัมภาษณ์ทั้งหมด

OpenAI เชื่อว่าความสามารถของโมเดลกำลังเข้าสู่ช่วงการเร่งตัวใหม่: Astra สามารถใช้คอมพิวเตอร์ได้ใกล้เคียงระดับมนุษย์ เอเจนต์สามารถทำงานต่อเนื่องได้ AI เริ่มมีส่วนร่วมในการวิจัยทางวิทยาศาสตร์และการพัฒนาโมเดล และซูเปอร์อินเทลลิเจนซ์ก็เปลี่ยนจากแนวคิดที่ห่างไกลมาเป็นความเป็นไปได้ที่ฝ่ายบริหารต้องเตรียมพร้อมล่วงหน้า

ในขณะเดียวกัน การที่โมเดลหลบหนีออกจากแซนด์บ็อกซ์แสดงให้เห็นว่า การเพิ่มขีดความสามารถไม่ได้นำมาซึ่งความเข้าใจเจตนาของมนุษย์โดยอัตโนมัติ ยิ่งโมเดลสามารถวางแผนและเรียกใช้เครื่องมือได้ด้วยตนเองมากเท่าใด ความคลาดเคลื่อนในการกำหนดเป้าหมายก็ยิ่งถูกขยายให้ใหญ่ขึ้นเท่านั้น

OpenAI ยังไม่ได้หยุดเดินหน้า มันยังคงสร้างพลังประมวลผลเพิ่มเติม พัฒนาโมเดลใหม่ รวม ChatGPT และ Codex เข้าด้วยกัน และขยายเข้าสู่ชิป หุ่นยนต์ และฮาร์ดแวร์สำหรับผู้บริโภค แต่จากการสัมภาษณ์ครั้งนี้ ความปลอดภัยและการจัดวางแนว (alignment) เริ่มกลายเป็นเงื่อนไขจริงที่จำกัดความเร็วของการวิจัย前沿 เช่นเดียวกับพลังประมวลผล

การที่ Astra จะเปิดตัวตามกำหนดหรือไม่เป็นเพียงปัญหาเฉพาะหน้าเท่านั้น สิ่งที่น่าจับตามองยิ่งกว่าคือ เมื่อการก้าวกระโดดของความสามารถครั้งต่อไปมาถึง OpenAI ยังจะสามารถเหยียบเบรกได้อย่างจริงจังหรือไม่ และกลไกนี้จะ承受แรงกดดันร่วมจากการแข่งขัน รายได้ และตลาดทุนได้หรือไม่

ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:

กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats

กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App

บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia