lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
หน้าแรก
AI
OPRR
ด่วน
ความลึก
กิจกรรม
BlockBeats Pro
เพิ่มเติม
การเงิน
พิเศษ
ระบบนิเวศบล็อกเชน
รายการ
พอดแคสต์
ข้อมูล
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
Partnered With:

SBF พูดถึงความเสียใจที่ Anthropic ถูกขายเป็นครั้งแรก: AI มีโอกาส 25% ที่จะทำลายล้างมนุษยชาติ คนรุ่นใหม่ต้องเรียนรู้ AI ให้ลึกซึ้ง

อ่านบทความนี้ใน 84 นาที
SBF ให้สัมภาษณ์ในคุก เสียใจที่พลาดการประเมินมูลค่าหลายล้านล้านดอลลาร์ของ Anthropic ในปัจจุบัน เขามองว่าในอีก 5-10 ปีข้างหน้า AI จะเหนือมนุษย์ในงานสำคัญส่วนใหญ่ และผลกระทบจะค่อยๆ ขยายไปทีละอุตสาหกรรม คูเมืองของ AI ยังคงเป็นแบรนด์ เส้นทางของ FTX ช่วงนี้ไม่ค่อยคุ้มค่า
บทบรรณาธิการ: Anthropic เข้าตลาดด้วยมูลค่า 1.5 ล้านล้าน และเคยแตะมูลค่าตลาดใกล้ 2 ล้านล้าน ทุกคนจึงหวนนึกถึงตอนที่ SBF ลงทุนใน Anthropic ด้วยมูลค่าที่น้อยมาก ถ้าถือมาจนถึงตอนนี้ควรจะมีมูลค่าเกือบ 4 หมื่นล้านดอลลาร์ แต่น่าเสียดายที่ขายไปแล้ว


เด็กอายุ 14 ปีชื่อ Eli Goldfine ได้ติดต่อกับแม่ของ SBF และได้คุยโทรศัพท์กับ SBF ที่อยู่ในคุก นี่คือบทสัมภาษณ์ที่ดีที่สุดที่ผมเคยเห็นหลังจาก FTX ล่มและ SBF เข้าคุก ไม่ได้พูดถึงเพียงการทบทวนการลงทุนใน Anthropic ของ SBF และมุมมองต่อ AI แต่ยังพูดถึงหลายอุตสาหกรรมที่ FTX เคยทำมาตั้งแต่ปี 2020 แต่ตอนนี้ถูกปั่นเป็นกระแส รวมถึงมุมมองของเขาต่ออุตสาหกรรมร้อนแรงเหล่านี้ในปัจจุบัน


TL;DR

· ความน่าจะเป็นที่ AI จะทำให้มนุษย์สูญพันธุ์หรืออารยธรรมล่มสลาย เขาให้ไว้ที่ 25%: เดิมบอกว่า "ต่ำกว่า 50% สูงกว่า 10%" สุดท้ายลงเอยที่ประมาณ 25% ถ้าแบ่งตามเกณฑ์อย่าง "การอัปโหลดจิตใจถือเป็นหายนะหรือไม่" ช่วงจะขยายเป็น 20%–60%


· ในอีก 5–10 ปีข้างหน้า AI จะทำได้เท่าหรือเกินมนุษย์ในงานสำคัญเกือบทั้งหมด เหลืออีกเพียงก้าวเดียวจาก "AI ที่ขับเคลื่อนโลกส่วนใหญ่" แต่กระบวนการจะเป็นแบบค่อยเป็นค่อยไปและคลุมเครือ ไม่มีปีที่ก้าวข้ามไปแบบ "ปัง"


· ผลกระทบต่ออุตสาหกรรมจะเกิดขึ้นทีละอุตสาหกรรมข้ามเส้น: การพัฒนาซอฟต์แวร์และคณิตศาสตร์เกิดขึ้นแล้ว ต่อไปจะลุกลามไปยังอีกหลายแวดวง โลกโดยรวมไม่ได้ถูกพลิกผัน แต่บางส่วนจะเปลี่ยนแปลงอย่างรุนแรง


· คำถามที่แท้จริงไม่ใช่ "ควรชะลอหรือไม่" แต่คือ "ทำให้ทุกคนชะลอพร้อมกันได้หรือไม่": ขอเพียงมีผู้เล่นหนึ่งรายที่ไม่แคร์ความปลอดภัยเลย การชะลอฝ่ายเดียวก็เพียงทำให้การแข่งขันกลายเป็นการแข่งกันลดมาตรฐาน


· การจัดแนวไม่มีคำตอบเดียวในระดับสูง ปีศาจอยู่ในรายละเอียดทั้งหมด: การทดสอบจำนวนมาก การดีบักจำนวนมาก ความระมัดระวังจำนวนมาก และต้องสมมติว่าโมเดลจะถูกใช้เป็น agent ในที่สุด


· Anthropic คือบริษัท AI ระดับล้านล้านดอลลาร์ ติดอันดับหนึ่งในสอง: ในทศวรรษหน้า AI จะกลายเป็นอุตสาหกรรมหลัก มูลค่าตลาดสะสมอาจสูงถึงหลายสิบล้านล้านหรือ дажеหลายร้อยล้านล้านดอลลาร์ บริษัทที่รองรับขนาดนี้ได้นับได้ด้วยมือเดียว


· ตอนนั้นลงทุนเพียง 500 ล้านดอลลาร์ เพราะมันต้องการเงินแค่นั้น: นี่เป็นผลจากบริษัทไม่อยากขายหุ้นเพิ่มและระดมทุนตามความต้องการ ไม่ใช่เพราะเขาตัดสินใจผิด


· alpha ในตอนนี้ไม่ได้อยู่ที่ "ใครมีเรื่องเล่า AI" แต่อยู่ที่การแยกแยะว่าใครคือบริษัท AI ตัวจริง และแบรนด์ปกป้องคูเมืองได้ดีกว่าเทคโนโลยี (Coinbase, Robinhood มีมูลค่าหลายหมื่นล้าน อาศัยชื่อ)


· การเดิมพันเหรียญที่ "เพิ่มเป็นสองเท่า 51% ทำลายล้าง 49%" ในระดับนามธรรมเขาเดิมพันได้ แต่ในโลกความเป็นจริงเขาไม่เดิมพันเด็ดขาด เพราะการทำลายล้างนั้นถาวร แต่การเติบโตคนอื่นก็ทำได้ในที่สุด


· เมื่อถูกถามว่า "เมื่อพิจารณาถึงสิ่งดีๆ ที่ Future Fund ทำ FTX ตั้งแต่รุ่งเรืองจนล่มสลายทั้งหมดนั้นคุ้มค่าหรือไม่" เขาตอบว่าไม่คุ้ม เขายินดีที่จะเชื่อว่ามันคุ้มค่า แต่ไม่สามารถพูดอย่างซื่อสัตย์ได้ว่ามันคุ้มค่า ถ้าสุดท้ายไม่พังทลายลง มันคงจะคุ้มค่า และเขาไม่คิดว่าผู้คนได้บทเรียน เพราะในวิกฤตผู้คนสูญเสียการตัดสินใจต่อสิ่งที่สำคัญอย่างแท้จริงได้ง่ายมาก


ฉันเดาว่าคุณคงได้ยินแล้วว่า Anthropic จะ IPO ในสัปดาห์นี้ มูลค่าจะเกินหนึ่งล้านล้านดอลลาร์ คุณคิดอย่างไรกับมูลค่าปัจจุบันของมัน


ฉันคิดว่าพวกมันมีค่ามหาศาล


คุณลองดูอุตสาหกรรมที่ใหญ่ที่สุด อุตสาหกรรมที่ขับเคลื่อนบางส่วนของเศรษฐกิจเราอย่างแท้จริง มีมูลค่าตลาดหลายล้านล้านถึงหลายสิบล้านล้านดอลลาร์ ไม่มีเหตุผลที่จะคิดว่าในทศวรรษหน้า AI จะไม่กลายเป็นหนึ่งในอุตสาหกรรมหลักเหล่านั้น หรือแม้แต่เป็นอุตสาหกรรมที่สำคัญที่สุด


ดังนั้นถ้าคุณคาดว่ามูลค่าตลาดรวมของบริษัท AI ในที่สุดจะถึงหลายสิบล้านล้านหรือแม้แต่หลายร้อยล้านล้านดอลลาร์ เงินนั้นจะแบ่งอย่างไร บางทีคุณอาจเหลือสองในสามให้บริษัทที่ยังไม่มีอยู่ แม้คำนวณแบบนี้ ก็ยังเหลืออย่างน้อยหนึ่งแสนล้านล้านดอลลาร์ให้บริษัทที่มีอยู่ และบริษัทที่รองรับขนาดนี้ได้มีไม่มากนัก คุณมี OpenAI มี Anthropic มี Google กับห้องแล็บในสังกัด และอาจมี DeepMind, xAI บริษัทที่เป็นผู้เล่นหลักจริงๆ นับได้ไม่เกินหนึ่งมือ ซึ่งโดยพื้นฐานหมายความว่าสองสามบริษัทที่อยู่แถวหน้าสุดแต่ละแห่งมีมูลค่าอย่างน้อยหลายล้านล้านดอลลาร์


และฉันคิดว่า Anthropic แม้ไม่ใช่อันดับหนึ่งก็อยู่ในกลุ่มแนวหน้าอย่างชัดเจน


ทำไมคุณถึงคิดว่ามันเป็นบริษัท AI ชั้นนำ


หนึ่งคือต้องดูความสามารถของโมเดลในปัจจุบัน ผลิตภัณฑ์ในปัจจุบันใช้งานดีแค่ไหน และพวกมันกับ OpenAI เห็นได้ชัดว่าผลัดกันไปมาในเรื่องนี้ ผลิตภัณฑ์สำหรับผู้บริโภคของ Anthropic ได้รับผลตอบรับเชิงบวกมากมาย และนี่อาจไม่ใช่ผลิตภัณฑ์ที่เป็นเอกลักษณ์ที่สุดของพวกมันด้วยซ้ำ เครื่องมือพัฒนาซอฟต์แวร์ AI ของพวกมันดีที่สุดในโลก ซึ่งเป็นอีกหนึ่ง領域ที่ใหญ่หลวง ดังนั้นอย่างน้อยสำหรับวันนี้ คุณต้องนับมันเป็นหนึ่งในสองอันดับแรก


ถ้าเข้าสู่การแข่งขันเต็มรูปแบบสู่ซูเปอร์อินเทลลิเจนซ์จริงๆ ซึ่งตอนนี้ดูเป็นไปได้ไม่น้อย คุณคิดว่าสิบปีข้างหน้าจะเป็นอย่างไร โลกจะเป็นอย่างไร


คำถามที่ดี ก่อนอื่นพูดถึงสองสามปีข้างหน้า เรื่องเหลือเชื่ออาจเกิดขึ้นได้ทุกเมื่อ นี่เป็นเพียงการคาดการณ์ในกรณีมัธยฐานของฉัน ซึ่งอาจเบี่ยงเบนได้ทุกเมื่อ


แต่สิ่งที่เราเห็นจนถึงตอนนี้คือ: AI แทบไม่มีผลกระทบต่อโลกเลยเป็นเวลานาน แม้ว่าความสามารถของมันจะเพิ่มขึ้นเป็นสองเท่าครั้งแล้วครั้งเล่า เพราะมันยังอยู่ในช่วง "ด้อยกว่ามนุษย์" และด้อยกว่าถึงระดับที่การใช้มนุษย์ทำงานยังคุ้มค่ากว่าการใช้ AI จากนั้นในช่วงไม่กี่ปีที่ผ่านมา มันเริ่มข้ามเส้นนั้นในที่ต่างๆ มากขึ้นเรื่อยๆ และเริ่มส่งผลกระทบต่อโลก


มันยังไม่ได้เปลี่ยนแปลงโลกอย่างสิ้นเชิง แต่เมื่ออุตสาหกรรมสำคัญต่างๆ ล้มลงถึงจุดวิกฤตนั้นทีละแห่ง AI ก็จะกลายเป็นมีประสิทธิภาพในการผลิตมากกว่ามนุษย์อย่างฉับพลันในบางสาขา และคุณจะเห็นการระเบิดขึ้นอย่างรวดเร็วในสาขาเหล่านั้น ดังนั้นในอีกหนึ่งหรือสองปีข้างหน้า ผมคิดว่าจะมีอีกไม่กี่สาขา ซึ่งอาจเป็นสาขาที่สำคัญมาก ที่จะเดินตามเส้นทางของคณิตศาสตร์และการพัฒนาซอฟต์แวร์: งานที่ล้ำหน้าที่สุดจริงๆ แล้วส่วนใหญ่ทำโดยโมเดล AI โลกทั้งใบไม่ได้ถูกพลิกคว่ำ แต่คุณจะเริ่มเห็นการเปลี่ยนแปลงที่ชัดเจนในบางแห่ง


มีปัญหามากมาย ให้ผมถอยกลับไปพูดก่อน หนึ่งคือ: จะมีอะไรที่นำไปสู่ความวุ่นวายหรือข้อผิดพลาดร้ายแรงหรือไม่? ตัวอย่างที่ชัดเจนที่สุดคือ AI ที่หลุดการควบคุมและเข้าถึงสิ่งต่างๆ เช่น อาวุธ เช่น ระบบ AI ที่ใช้ตรวจจับภัยคุกคามต่อชาติมหาอำนาจนิวเคลียร์บางชาติ มันหลุดการควบคุมและยิงขีปนาวุธทิ้งทันทีเป็นพันลูก นี่คือสถานการณ์หนึ่ง ซึ่งผมคิดว่าโอกาสที่จะเกิดขึ้นในทศวรรษหน้ามีไม่มาก แต่ไม่ใช่ศูนย์ อาจเกิดขึ้นได้


ถ้าเราวางสถานการณ์วันสิ้นโลกไว้ก่อน ผมคิดว่าในทศวรรษหน้าเราอาจอยู่ในโลกที่ทันใดนั้น มนุษย์ไม่เป็นที่ต้องการในอาชีพส่วนใหญ่แล้ว แม้ว่าโลกจะเปลี่ยนแปลงไม่มากนักในระยะสั้น สิ่งนี้ก็จะบิดเบือนวัฒนธรรมของสังคมอย่างรุนแรง ผลกระทบนั้นมหาศาล ถ้าเราไม่นิยามตัวเองด้วยงานอีกต่อไป และจะเกิดอะไรขึ้นเมื่อผลผลิตของบางอุตสาหกรรมเริ่มเข้าใจได้ยากขึ้นเรื่อยๆ สำหรับมนุษย์? นั่นนับเป็นการที่ AI เข้าควบคุมอย่างเงียบๆ หรือไม่? แล้ว AI เหล่านั้นจะมองมนุษย์อย่างไร?


ผมไม่รู้ว่าคำถามเหล่านี้จะมีคำตอบภายในทศวรรษหน้าหรือไม่ แต่ผมคิดว่ามีโอกาสสูงที่มันจะผุดขึ้นมาพร้อมกัน หรืออย่างน้อยก็ผุดขึ้นมาติดๆ กัน และในหลายด้าน สถานะของมนุษย์ในฐานะผู้กำหนดศูนย์กลางแห่งอนาคตของตนเอง ในตอนนั้นก็ได้เขียนไว้บนกำแพงแล้ว


คุณมีความคิดเหล่านี้ก่อนกระแสหลักมาก ในปี 2021 ตอนที่ ChatGPT ยังไม่เป็นผลิตภัณฑ์กระแสหลัก คุณมองว่าเส้นโค้งของ AI จะเดินไปอย่างไร?


หลายส่วนในนี้ให้เครดิตผมไม่ได้ หลายคำพูดสำคัญเป็นคนอื่นเขียน ผมส่วนใหญ่เพียงเน้นย้ำ หรือทวนสิ่งที่พวกเขาพูด


แต่มีแนวคิดอยู่ 몇ข้อ หนึ่งคือ: ดูว่า AI ทำอะไรได้บ้างราวปี 2020 คำตอบคือ ในสาขาส่วนใหญ่ ไม่ทำอะไรเลย ในสาขาส่วนใหญ่ คุณลองใช้ AI ได้ มันจะดูโง่หน่อย ดีขึ้นจนน่าประทับใจเมื่อเทียบกับสิบปีก่อนจริง แต่ก็ยังไร้ประโยชน์โดยสิ้นเชิง แต่มีบางสิ่ง ซึ่งเป็นสิ่งที่มันถูกฝึกมาโดยเฉพาะ มันได้แซงมนุษย์แล้ว เช่น เกมกระดานส่วนใหญ่ หมากรุกสากลหรือโกะ เกมวิดีโอซึ่งเป็นสาขาที่ซับซ้อนกว่าก็เริ่มปรากฏขึ้น


ถ้า AI เก่งแค่หมากรุกตลอดไป คุณก็คงทำเงินได้ไม่มาก และคงไม่สามารถพลิกผันระเบียบสังคม หรือเปลี่ยนแปลงอนาคตได้มากนัก แต่ก็ไม่มีเหตุผลใดที่จะคิดว่าหมากรุกคือทั้งหมดที่ AI ทำได้ มันเติบโตแบบทวีคูณจากจุดเริ่มต้นที่เล็กมาก ไม่ต้องเพิ่มเป็นสองเท่าอีกกี่ครั้ง ก็จะเริ่มแซงมนุษย์ในด้านสำคัญๆ ของสังคม


คำถามของผมคือ: ถ้าคุณเชื่อว่ามันเป็นเส้นโค้งการเติบโตแบบทวีคูณ ทำไมตอนนั้นคุณถึงลงทุนใน Anthropic แค่ห้าร้อยล้านดอลลาร์?


คำถามดี คำตอบโดยพื้นฐานคือ: ตอนที่คุณก่อตั้งบริษัทและระดมทุน คุณมักไม่อยากระดมทุนแบบไม่จำกัดจำนวน คุณมีการประมาณการทางการเงิน และรู้คร่าวๆ ว่าต้องใช้เงินเท่าไรในการสร้างธุรกิจ คุณจึงไม่อยากขายหุ้นบริษัทเกินสัดส่วนนั้น


Anthropic ตอนนั้นอยู่ในสถานะนั้น คำนวณออกมาแล้วว่าต้องใช้เงินค่ากำลังประมวลผลประมาณห้าร้อยล้านดอลลาร์เพื่อสร้างโมเดลให้สำเร็จ所以他们ระดมทุนเท่านั้น เราลงทุนในรอบนั้นเกือบทั้งหมดที่พวกเขาต้องการระดม


แต่กำลังการผลิตของศูนย์ข้อมูลไม่ใช่สร้างได้ด้วยการจ่ายเงินทันทีหรอกหรือ? ถ้าพวกเขาระดมทุนได้มากกว่านั้น ทำไมไม่ซื้อ GPU เพิ่ม สร้างศูนย์ข้อมูลเพิ่ม และดันโมเดลให้เหนือกว่าห้องแล็บแนวหน้าอื่นๆ ในตอนนั้นไปไกลๆ?


บางทีพวกเขาอาจควรทำอย่างนั้น ผมเดาว่าส่วนหนึ่งเป็นเพราะพวกเขาไม่อยากขายหุ้นเกินความจำเป็น แต่อีกส่วนหนึ่งเป็นเพราะมีหลายบริษัทที่จริงๆ แล้วล้มเพราะความสำเร็จของตัวเอง เพราะกระแสเงินสดและเงินสดในมือของตัวเอง ในประวัติศาสตร์มีหลายบริษัทที่ระดมทุนก้อนใหญ่ แล้วเทลงไปกับโฆษณาทั้งหมด เพราะรู้สึกว่าต้องเอาเงินก้อนนั้นไปทำอะไรสักอย่าง สุดท้ายไม่ได้อะไรกลับมาเลย มีแต่หยุดชะงัก


ดังนั้นผมเดาว่าตอนนั้นพวกเขาก็กำลังคิดว่าในอีกไม่กี่ปีข้างหน้าตัวเองต้องใช้เงินเท่าไรกันแน่ พยายามไม่ทำอะไรที่ผิดสัดส่วน


ช่วยเล่าหน่อยได้ไหมว่าฝ่ายร่วมลงทุนของ FTX ตอนนั้นดำเนินงานอย่างไร ใครดูแล ตรรกะการลงทุนของคุณคืออะไร?


คนที่เข้ามามีส่วนร่วมผลัดเปลี่ยนกันเป็นรุ่นๆ หลังจากนั้นเราเองก็รับคนเข้ามาทำแบบมืออาชีพ ตอนแรกก็แค่ผมหรือคนอื่นในบริษัทเจอโอกาสก็ลงทุนทีละดีลๆ พูดตามตรง Anthropic ก็อยู่ในประเภทนี้


แต่หลังจากนั้นเราเริ่มทำได้ประสบความสำเร็จมาก ช่วงแรกๆ เป็นการลงทุนในสินทรัพย์คริปโตเป็นส่วนใหญ่ พูดตามตรงคือเพิ่มขึ้นเป็นสองเท่าแทบทุกปี แม้จะมองในบริบทของตลาดคริปโตทั้งหมดก็ตาม เราจึงตัดสินใจลองขยายขนาดให้ใหญ่ขึ้น เราได้ Ramnik และ Amy และคนอื่นๆ เข้ามารับผิดชอบด้านนี้โดยเฉพาะ


โดยรวมผมมีส่วนร่วมในระดับที่ค่อนข้างสูงกับพอร์ตทั้งหมด และบางดีลที่เฉพาะเจาะจง Anthropic ชัดเจนว่าเป็นหนึ่งในนั้น Solana ก็เป็นอีกอันหนึ่ง ผมจะเข้าไปเกี่ยวข้องลึกกว่า อย่างน้อยก็ติดตามเป็นรายสัปดาห์ โดยเฉพาะเมื่อการลงทุนเหล่านี้มีปฏิสัมพันธ์กับ Alameda, FTX หรือมีจุดที่ช่วยพวกเขาได้


จากข้อมูลที่คุณได้รับในคุก ตอนนี้ alpha ของตลาดอยู่ที่ไหน? การตัดสินใจลงทุนของคุณตอนนี้คืออะไร?


ผมหวังว่าจะมีคำตอบที่ดีกว่านี้ สี่ปีก่อนควรลงทุนอะไร ผมมีความคิดที่ดีจริงๆ แต่สิ่งที่ควรลงทุนวันนี้ คำตอบที่แท้จริงคือ: ผมไม่ควรฟังคำแนะนำของตัวเอง ผมต้องออกไปทำ due diligence ด้วยตัวเองข้างนอกก่อน ถึงจะให้คำตอบที่สมเหตุสมผลได้


ในภาพรวม ผมเดาว่าจะมีบริษัทจำนวนมากที่สร้างบน AI ทีมเล็กๆ สองคน ทำบริษัทระดับร้อยล้านหรือพันล้านดอลลาร์ได้ภายในไม่กี่ปี และลงทุนได้ที่ valuation ที่ต่ำกว่ามาก แต่ปัญหาคือ ในเวลาเดียวกันก็จะมีขยะโผล่ขึ้นมาเต็มไปหมด ตอนนี้ทุกบริษัทจะใส่คำว่า AI ลงใน BP แม้จะฟังไม่ขึ้นเลย เช่น บริษัทเสื้อยืด ก็จะบอกว่า "เราจะใช้ AI ออกแบบเสื้อยืด" ก็ได้ อาจจะมีประโยชน์บ้าง แต่พวกเขากำลัง rebrand ตัวเองเป็นบริษัท AI โดยเนื้อแท้ ทั้งที่จริงๆ ไม่ใช่


ดังนั้น alpha ส่วนใหญ่ตอนนี้อยู่ที่การแยกสองสิ่งนี้ออก: บริษัทไหนเป็นบริษัท AI จริง บริษัทไหนเติบโตแบบก้าวกระโดดได้จริงด้วย AI บริษัทไหนไม่ใช่ อย่างน้อยตอนนี้ยังไม่ใช่ คุณดูหุ้น market cap ใหญ่ๆ ก็เห็นได้ ผู้เล่นในตลาดช่วงแรกหลายคนจริงๆ ไม่รู้วิธีแยก Amazon, Google, Apple, Netflix พวกมันเป็นบริษัทเทคโนโลยีทั้งหมด นั่นหมายความว่า AI จะส่งผลต่อพวกมันเหมือนกันหรือ? คำตอบคือไม่แน่นอน มีไม่กี่แห่งที่ผูกพันลึกกับ AI growth จริงๆ Nvidia คือตัวอย่างที่ชัดที่สุด ส่วนบางแห่งเช่น Apple มันเป็นบริษัทเทคโนโลยีจริง แต่สิ่งที่กำหนดความสำเร็จของ Apple ในสามสิบปีที่ผ่านมา โดยเนื้อแท้คือการออกแบบผลิตภัณฑ์ consumer ที่ยอดเยี่ยม: ฮาร์ดแวร์สวย ใช้งานซอฟต์แวร์ง่าย บวกกับแบรนด์ที่แข็งแกร่ง อย่างน้อยสำหรับบริษัทเทคโนโลยีแล้ว นี่ไม่ถือว่า AI เป็นแกนหลัก


แล้วบริษัทที่ไม่ใช่บริษัท AI จริง เช่น บริษัทซอฟต์แวร์ดั้งเดิม จบแล้วหรือ? หรือมีแต่บริษัทที่ใช้ AI ถึงจะอยู่รอด?


ผมไม่คิดว่ามีแต่บริษัท AI เท่านั้นที่จะประสบความสำเร็จ อย่างแรก บางอุตสาหกรรมกว่า AI จะส่งผลใหญ่ต้องรออีกนาน เช่น การขุดเหล็ก โลกยังต้องการเหล็ก และตอนนี้ AI เริ่มเข้ามาในเหมืองจริงแล้ว มันจึงกลายเป็นเรื่องเกี่ยวข้องในชั่วข้ามคืน


แต่อีกจุดที่ผมคิดว่าสำคัญมากคือแบรนด์ คุณอาจมีบริษัทซอฟต์แวร์ มีผลิตภัณฑ์ market cap ไม่เล็ก แล้วคู่แข่งบอกว่า: เราทำของที่เกือบเหมือนกันได้ในราคาถูกมาก ใช่ แต่ไม่ได้หมายความว่าคนอื่นจะซื้อได้ การมีแบรนด์ตั้งอยู่ตรงนั้น มีมูลค่ามหาศาลมากๆ


คุณดูบริษัทอย่าง Coinbase หรือ Robinhood ความแตกต่างที่แท้จริงของพวกมันคืออะไร? ทำไมแต่ละแห่งมีมูลค่าหลายหมื่นล้านดอลลาร์? ไม่ใช่เพราะเทคโนโลยี ไม่ใช่เพราะมีอะไรพิเศษเฉพาะในด้านนี้ อาจจะเป็นเรื่องกฎระเบียบ แต่กับพวกมันก็ไม่ใช่ทั้งหมดเสียทีเดียว มันคือแบรนด์ ชื่อที่นักลงทุนรายย่อยอเมริกันรู้จักและใช้ มันมีมูลค่ามหาศาล และสำหรับหลายบริษัท แม้ผลิตภัณฑ์หลักจะกลายเป็นสิ่งที่ลอกเลียนได้ง่ายมาก สิ่งนี้ก็จะยังคงอยู่ตลอดไป


คุณเคยบอกว่าการตัดสินใจทางการเงินขนาดใหญ่ของคุณมักใช้เวลาน้อยมาก เมื่อเทียบกับขนาดของการลงทุน สิ่งนี้สะท้อนอย่างไรในการลงทุนร่วมทุน เช่น เมื่อทีมเสนอโครงการมา คุณจะอนุมัติหรือไม่


ส่วนใหญ่ขึ้นอยู่กับว่า: ถ้าคุณจะจ้างคนมาทำงานหนึ่ง สิ่งแรกคือคุณต้องตั้งใจไว้ว่าจะเชื่อใจให้เขาทำงานนั้นได้ดี ถ้ามีคนในทีมใช้เวลา 15 ชั่วโมงในการค้นคว้าและตรวจสอบสถานะอย่างละเอียด ก็ไม่มีปัญหา ผมจะดูผ่าน ๆ เติมเต็มในสิ่งที่ผมเติมได้ และให้ทรัพยากรที่ผมมีแต่พวกเขาไม่มี


แต่นอกเหนือจากนั้น ถ้าผมไม่ตั้งใจจะเชื่อใจว่าเขาตัดสินใจได้ถูกต้องและมองถูกแล้ว ผมก็ต้องใช้เวลา 15 ชั่วโมงนั้นเองเพื่อตรวจสอบสถานะใหม่ทั้งหมด เมื่อถึงจุดนั้น การจ้างเขาเข้ามาตั้งแต่แรกก็ไม่มีความหมาย


คุณเคยบอกว่าสิ่งที่ทรมานที่สุดในคุกคือการไม่สามารถสนับสนุนขบวนการ Effective Altruism ไม่สามารถ "หาเงินเพื่อบริจาค" ได้ หลังจากออกมาแล้วคุณวางแผนจะทำอย่างไร โดยเฉพาะตอนนี้หลายคนในขบวนการได้ตัดขาดจาก FTX แล้ว


คำตอบส่วนหนึ่งต้องรอถึงวันนั้นจึงจะให้ได้ เพราะตอนนี้มีข้อมูลหลายอย่างที่ผมไม่มี โลกกำลังเปลี่ยน และข้อมูลบางอย่างหาได้ง่ายกว่าจากข้างนอกมากกว่าข้างใน


แต่ผมจะพิจารณาอย่างจริงจังที่จะกลับไป "หาเงินเพื่อบริจาค" สนับสนุนขบวนการนี้ และสนับสนุนโครงการที่ผมคิดว่าทำความดี นี่น่าจะเป็นเส้นทางเริ่มต้น


นอกจากนั้น เส้นทางอื่นต้องดูว่าผมยังสามารถมีบทบาทอะไรในสังคมได้บ้าง แต่ก่อนหน้านี้ผมมีเงื่อนไขที่จะสร้างผลกระทบในหลายด้าน แต่ตอนนี้สิ่งเหล่านั้นจะยากขึ้นมาก เพราะชื่อเสียงของผมเป็นลบอย่างมาก ดังนั้นในแง่ของการถกเถียงสาธารณะ การเมือง สื่อ ผมไม่แน่ใจว่าอนาคตผมจะยังมีบทบาทอะไรได้ หรืออาจจะไม่มีเลยด้วยซ้ำ แต่ "หาเงินเพื่อบริจาค" คือเส้นทางเริ่มต้น


แล้วคุณจะหาเงินอย่างไร konkret กลับไปสู่อุตสาหกรรมคริปโตหรือไม่


ผมจะพิจารณาอย่างจริงจัง ขึ้นอยู่กับว่าผมจะออกมาเมื่อไหร่และออกมาอย่างไร แต่คริปโตผมจะพิจารณาแน่นอน AI ก็จะพิจารณา และการเงินในความหมายกว้างก็ด้วย


FTX Future Fund คุณให้เงินไปมาก และไม่ใช่แค่บริจาคให้องค์กรการกุศล EA ที่成熟แล้วอย่างง่าย ๆ แต่กำลังมองหาโครงการที่มีความผันผวนสูงและมี upside สูงมากหากสำเร็จ ช่วยทบทวนหน่อยได้ไหมว่าโครงการที่ดีที่สุดใน Future Fund คืออะไรบ้าง โดยรวมแล้วมันมีประสิทธิผลกว่าการเอาเงินไปลงกับกองทุนการกุศลชั้นนำของ GiveWell หรือไม่


ผมคิดว่ามันมีประสิทธิผลกว่าจริง


หลายอย่างที่เราทำคือ "การให้ทุนต่อ" (regranting): มอบเงินก้อนหนึ่งให้กลุ่มคนหนึ่ง แล้วให้พวกเขาตัดสินใจเองว่าจะลงทุนกับโครงการเล็ก ๆ โครงการไหน ด้วยวิธีนี้ เราระดมโอกาสที่อยู่นอกเรดาร์ของเราออกมา มีหลายคนที่มีศักยภาพมหาศาลในด้านความปลอดภัยของ AI ชีวความปลอดภัย การเมือง แต่ต้องการเงินทุน อาจจะไม่มาก แค่พอให้เรียนจบมหาวิทยาลัย หรือพอเริ่มบริษัท เรายินดีให้เงินแบบนี้


หลายโครงการในนั้นเมื่อมองแยกกันดูเล็กมาก แต่มีเลเวอเรจสูง เมื่อรวมกันแล้วผลกระทบมีนัยสำคัญ และเรายินดีออกเงินให้กับคนที่กำลังเริ่มต้น พวกเขามีไอเดียการกุศล หรือเครื่องมืออื่นใดที่เป็นประโยชน์ต่อโลก อาจสำเร็จหรือไม่ก็ได้ ต้องใช้เงินสักก้อนเพื่อลองดู สถานการณ์ของเราคือ แม้บางโครงการสุดท้ายจะเงียบหายไป เราก็ไม่สนใจ เราไม่ได้พึ่งพาโครงการใดโครงการหนึ่งเพื่อให้ได้ความสำเร็จหรือพิสูจน์ว่าเราทำดี


สุดท้ายผมคิดว่านี่เป็นวิธีที่ค่อนข้างมีประสิทธิภาพ ส่วนหนึ่งเพราะตอนนั้นหายากที่จะหาโครงการที่เติบโตเต็มที่ สามารถรับเงินหลายสิบล้านถึงหลายร้อยล้านดอลลาร์และใช้จ่ายได้อย่างมีประสิทธิภาพ องค์กรหนึ่งมีงบประมาณปีละ 8 ล้านดอลลาร์ จู่ๆ คุณให้เพิ่มอีก 30 ล้าน พวกเขาอาจไม่รู้เลยว่าจะเอาเงินนี้ไปทำอะไร


มีตัวอย่างที่โดดเด่นเป็นพิเศษไหม?


การลงทุนใน Anthropic พูด嚴格แล้วเกิดขึ้นก่อนก่อตั้งกองทุน และส่วนหนึ่งเป็นเพราะ考慮ถึงความปลอดภัยของ AI เรื่องนี้พักไว้ก่อน เราเคยสนับสนุนโครงการด้านชีวความปลอดภัยหลายโครงการ ซึ่งบางโครงการต่อมาได้พัฒนาการรักษาใหม่สำหรับโรคติดเชื้อ โรคที่คร่าชีวิตคนจำนวนมากทั่วโลก และบางองค์กรก็เปิดเส้นทางให้การรักษาเหล่านี้เข้าสู่ตลาดได้เร็วขึ้น


ผมคิดว่ามีหลายสิ่งที่มีศักยภาพส่งผลกระทบมหาศาล แต่ถูกระงับเมื่อวิกฤตมาถึง ซึ่งในนั้นผมจะนับโครงการทางการเมืองหลายโครงการด้วย


คุณเคยพูดว่าการลงทุนใน Anthropic ไม่ใช่แค่เพื่อผลตอบแทนสูง แต่ยังมีลักษณะสาธารณประโยชน์ด้านความปลอดภัยของ AI คุณคิดจริงๆ หรือว่าถ้า Anthropic นำหน้า AGI หรือการแข่งขันสู่ซูเปอร์อินเทลลิเจนซ์จะปลอดภัยกว่ามาก? ทำไม?


แน่นอนว่าไม่มีใครมั่นใจได้ แต่การคาดเดาของผมคือ ตราบใดที่มีบริษัทหนึ่งที่ใส่ใจความปลอดภัยเป็นพิเศษ วิธีพัฒนาที่มันนำมาจะระมัดระวังกว่าการที่ไม่มีบริษัทนั้น นี่ไม่ใช่ทั้งหมดที่คุณหวังได้ เพราะตราบใดที่ยังมีผู้เล่นที่ไม่แคร์ความปลอดภัยของโลกเลย การแข่งขันก็จะเกิดขึ้น และอาจเป็นการแข่งขันแบบลดมาตรฐานลงเรื่อยๆ ซึ่งจะแย่มาก


แต่การมีผู้เล่นที่ตระหนักถึงความปลอดภัยเพิ่มขึ้นหนึ่งรายก็ช่วยได้


สิ่งนี้แสดงออกในทางปฏิบัติอย่างไร? พวกเขาทำอะไร konkret เพื่อลด p(doom) (ศัพท์นี้หมายถึงความน่าจะเป็นที่ AI ทำให้มนุษย์สูญพันธุ์หรืออารยธรรมล่มสลาย)?


คำถามนี้พวกเขาตอบเองได้ดีกว่าผมตอบ แต่ในภาพรวม ส่วนหนึ่งคือการชะลอการพัฒนาและการเปิดตัว前沿ที่สุดเมื่อโมเดลเริ่มมีโอกาสหลุดการควบคุม


คุณดูเหตุการณ์ Hugging Face ถูกแฮกได้ ความเสียหายสุดท้ายไม่ใหญ่ แต่ถ้าเปลี่ยนเป้าหมาย มันอาจสร้างความเสียหายได้มหาศาล และห่างจากหายนะระดับโลกไม่ไกล จากมุมมองว่า "AI agent หนึ่งตัวต้องทำอะไรได้จริง" ดังนั้นต้องชัดเจนมากว่าจะไม่ให้โมเดลหลุดการควบคุมแบบนั้น ตั้งจุดตรวจให้มากที่สุด เท่าที่จะเป็นไปได้ จริงจังกับเป้าหมายสุดท้าย หลักการกำกับ และการจัดแนวของโมเดลให้มากที่สุด พร้อมรักษาความสามารถในการตอบสนองแบบเรียลไทม์ สิ่งเหล่านี้ไม่สมบูรณ์แบบ แต่ช่วยได้


มีคำกล่าวว่า: แม้ Anthropic จะคิดว่าวิธีที่ปลอดภัยที่สุดคือการชะลอตัวลง แต่ก็ชะลอไม่ได้ เพราะจีนหรือบริษัทอื่นที่ไม่ใส่ใจความปลอดภัยเท่าจะแซงหน้าไปได้ ดังนั้นในทางปฏิบัติจึงเป็นไปไม่ได้ คุณคิดอย่างไร


นี่เป็นคำถามจริงจัง บางทีผลลัพธ์ที่ดีที่สุดสำหรับโลกคือทุกคนชะลอลง แต่ถ้าคนอื่นไม่ชะลอ นั่นไม่ได้หมายความว่าการที่คุณชะลอลงเองจะเป็นสิ่งที่ถูกต้องหรือเป็นการวิ่งเข้าสู่การแข่งขันลดมาตรฐานลง บางทีการมีผู้แข่งขันที่มีความตระหนักด้านความปลอดภัยเพิ่มขึ้นอีกหนึ่งรายในการแข่งขันนี้อาจจะดีกว่า แต่นี่ไม่ใช่สถานการณ์ในอุดมคติอย่างชัดเจน เพียงแต่เราอาจจะบังเอิญอยู่ในสถานการณ์นี้


วิธีที่ดีที่สุดจริงๆ คือการไปมีอิทธิพลต่อผู้เล่นคนอื่น พยายามทำให้ผู้เล่นหลักทั้งหมดบรรลุฉันทามติข้ามฝ่าย และให้ความสำคัญกับความปลอดภัยมากขึ้น


คุณสนับสนุนรัฐบาลทรัมป์ชุดที่สองโดยรวม แล้วคนจำนวนมากในรัฐบาลทรัมป์ รวมถึงตัวทรัมป์เอง ก็ต่อต้าน Effective Altruism อย่างมาก คุณคิดอย่างไร


ผมคิดว่าพวกเขากำลังตอบสนองต่อเหตุการณ์เฉพาะบางอย่าง ซึ่งรายละเอียดผมไม่ทราบชัดเจน ดังนั้นจึงไม่สามารถพูดได้ตรงประเด็นเท่าที่ผมหวัง นอกจากนั้น ผมคิดว่ารัฐบาลไบเดนในตอนนั้นค่อนข้าง...


แต่คุณไม่คิดหรือว่า ถ้ารัฐบาลกำลังกีดกันไม่ให้ผู้คนบริจาคเพื่อการกุศลอย่างมีประสิทธิผล ในแง่ผลลัพธ์สุทธิแล้วเป็นลบอย่างมหาศาล บางคนอาจจะเลิกเป็น Effective Altruist เพราะกระแสความคิดเห็นแบบนี้


นั่นก็จะเป็นผลลบ


กำลังประมวลผลยังขยายตัวอยู่ และการระดมทุน IPO รอบนี้ของ Anthropic ก็จะได้เงินจำนวนมาก ดังนั้น ASI จะมาเมื่อไหร่ ไทม์ไลน์ของคุณคืออะไร


ผมไม่แน่ใจว่ามันจะเป็นเหตุการณ์ที่ชัดเจนแบบขาวดำหรือไม่ มันอาจจะเป็นเช่นนั้น แต่ในทำนองเดียวกัน ในอีกห้าปีข้างหน้า เราอาจเห็นส่วนหนึ่งของสังคมถูก AI กลืนกินไปทีละส่วน การพัฒนาซอฟต์แวร์กำลังเกิดขึ้นแล้ว การวิจัยคณิตศาสตร์ก็เช่นกัน หมากรุกและหมากล้อมเกิดขึ้นก่อนหน้านั้นแล้ว แนวโน้มนี้จะดำเนินต่อไป จนกระทั่งส่วนต่างๆ ของสังคมมากขึ้นเรื่อยๆ ถูกขับเคลื่อนโดย AI และระดับการกำกับดูแลโดยมนุษย์จะลดลงอย่างต่อเนื่องตามเวลา


คนส่วนใหญ่จะไม่คิดว่า AI ในปัจจุบันเป็น "มนุษย์ขั้นสูงและเหนือกว่ามนุษย์อย่างรอบด้านในความหมายทั่วไป" นั่นคือเก่งกว่ามนุษย์ในทุกภารกิจ ตามคำจำกัดความนี้ คุณคิดว่าเราใกล้ ASI แค่ไหน มันจะเกิดขึ้นหรือไม่


ผมคิดว่ามันค่อนข้างทั่วไปแล้ว คุณสามารถถามคำถามอะไรก็ได้กับโมเดลที่ล้ำหน้าที่สุด และได้คำตอบที่อย่างน้อยก็เทียบเท่ากับคนที่ฉลาด สิ่งที่เราเห็นน้อยกว่าคือ AI ก้าวข้ามระดับที่มนุษย์ไม่สามารถก้าวข้ามได้โดยพื้นฐาน


เท่าที่ผมเข้าใจ ระดับแนวหน้าล่าสุดในตอนนี้ประมาณเท่ากับระดับที่คนที่ฉลาดมากและมีเหตุผลมากจะไปถึงได้ในที่สุดเมื่อมีเวลามากมาย เพียงแต่มันเป็นทันทีทันใดและอยู่แค่ปลายนิ้วของคุณ นี่นับเป็นมนุษย์ขั้นสูงหรือไม่ ผมไม่รู้ ผมคิดว่ามันเก่งกว่ามนุษย์เล็กน้อย แต่ไม่ได้เก่งกว่ามากนัก ยกเว้นว่ามันสามารถรันหลายอินสแตนซ์พร้อมกันและคิดได้เร็วกว่ามนุษย์มาก


ดังนั้นมันอาจไม่ใช่เส้นแบ่งที่ชัดเจนจากมนุษย์ไปสู่ซูเปอร์แมน อย่างน้อยจนถึงตอนนี้ สิ่งที่เราเห็นคือเส้นที่เลือนราง มันค่อยๆ จาก "ด้อยกว่ามนุษย์" ค่อยๆ พูดว่าค่อยๆ จริงๆ แล้วก็แค่ไม่กี่เดือน ไม่กี่ปี ไปถึง IQ 100 หากแนวโน้มนี้ดำเนินต่อไป อาจไม่มีช่วงเวลาที่ชัดเจน "แป๊ะ" ข้ามไปเลย แต่อาจมีปีหนึ่งที่มันกระโดดจากระดับมนุษย์ไปสู่เหนือมนุษย์อย่างชัดเจน


คุณไม่เคยให้ตัวเลข p(doom) เลย คือความน่าจะเป็นของเหตุการณ์หายนะที่ AI ทำให้มนุษย์ส่วนใหญ่สูญพันธุ์ ให้ตัวเลขได้ไหม?


ผมจะบอกว่าต่ำกว่า 50% สูงกว่า 10% ประมาณ 25% ครับ


ผมขออธิบายว่าโมเดลในหัวผมนี้ ผมไม่กล้าบอกว่ามันเป็นโมเดลที่ดีที่สุด ความน่าจะเป็นส่วนใหญ่มาจากสถานการณ์ซับซ้อนที่คนจะเห็นต่างกันมาก สมมติว่าอนาคตมนุษย์เริ่มอัปโหลดสมอง คนที่ไม่ได้อัปโหลดถูกทิ้งไว้ข้างหลัง นี่นับเป็นเหตุการณ์หายนะหรือไม่? แต่ละคนตอบต่างกัน ตามคำตอบที่ต่างกัน ผมสามารถให้ตัวเลขอะไรก็ได้ระหว่าง 20% ถึง 60%


ช่วง 20% ถึง 60% นี้ เหตุผลของคุณคืออะไร?


เริ่มจากจุดตั้งต้น: ในอีก 5 ถึง 10 ปีข้างหน้า หรืออาจจะเร็วกว่านั้น AI มีแนวโน้มสูงที่จะทำได้ดีเท่าหรือดีกว่ามนุษย์ในงานส่วนใหญ่ ตอนนี้มีหลายสาขาที่เป็นแบบนั้นแล้ว จากนั้นมันจะดีขึ้น อาจดีขึ้นมาก หรือดีขึ้นนิดหน่อย ในงานที่ไม่ใช่ทั้งหมดแต่ส่วนใหญ่ที่สำคัญต่อโลก


เมื่อถึงจุดนั้น เหลืออีกแค่ก้าวเดียวที่จะไปสู่การที่ AI ดำเนินการส่วนใหญ่ของโลกและถืออำนาจส่วนใหญ่ สายพันธุ์ที่แข็งแกร่งกว่าไม่ใช้้อำนาจนั้นเลยตลอดร้อยปี ความน่าจะเป็นแบบนั้นในสายตาผมต่ำมาก ดังนั้นผมจึงมีแนวโน้มคิดว่าในทศวรรษหน้าเราจะเห็น AI "ยึดครองแบบนุ่มนวล" อย่างน้อยส่วนใหญ่ของการดำเนินงานและโครงสร้างพื้นฐานของโลก


ถึงตอนนั้น มีความเป็นไปได้อย่างหนึ่งคือการอยู่ร่วมกันอย่างสันติ มนุษย์ไม่เปลี่ยนแปลงครั้งใหญ่ แต่นั่นดูไม่ใช่การคาดเดาที่น่าจะเป็นที่สุด ผมคิดว่ามีความเป็นไปได้ที่มนุษย์จะเติบโตเป็นอะไรบางอย่างที่เกินกว่าปัจจุบันด้วยความช่วยเหลือของ AI หรืออาจเป็นไปได้ที่ AI แค่รู้สึกเบื่อมนุษย์แล้วกำจัดเราทิ้งไป อีกความเป็นไปได้คือการทำงานร่วมกันที่ AI เป็นผู้นำแต่มีเป้าหมายของมนุษย์เป็นทิศทาง นำไปสู่การขยายตัวทางเทคโนโลยีครั้งใหญ่ 20% ถึง 60% ของผมนั้น ขึ้นอยู่กับว่าคุณนับสถานการณ์ใดบ้างเข้าในหมวด "วันสิ้นโลก"


หากมี AI อัจฉริยะขั้นสูงที่สามารถเพิ่มอรรถประโยชน์คาดหวังของการตัดสินใจทุกครั้งของคุณให้สูงสุด คุณจะมอบอำนาจตัดสินใจให้มันไหม?


หากผมแน่ใจร้อยเปอร์เซ็นต์ว่ามันกำลังทำสิ่งนั้นจริงๆ ไม่ใช่แค่แน่ใจว่านั่นคือเป้าหมายของมัน แต่แน่ใจว่ามันไม่ติดอยู่ในโหมดล้มเหลวแบบทำลายล้าง ไม่มีการประมาณแบบยุ่งเหยิงคลุมเครือมากมาย แล้วล่ะก็ ภายใต้สมมติฐานเหล่านี้ทั้งหมด คำตอบคือให้ครับ


คุณเคยพูดถึงสถานการณ์วันสิ้นโลกที่เป็นไปได้ซึ่งเกี่ยวข้องกับ "การอัปโหลดจิตใจ" คุณเองจะยินดีอัปโหลดหรือไม่


อาจจะครับ เช่นเดิม ขึ้นอยู่กับรายละเอียด แต่โดยส่วนตัวผมไม่มีความเห็นคัดค้านเรื่องนี้


หลังการอัปโหลด คุณยังคิดว่าตัวเองเป็นคนเดียวกันหรือไม่ สิ่งนี้เปลี่ยน worldview ของคุณอย่างไร


คำถามดีครับ ผมคิดว่าแนวคิดเรื่อง "บุคลิกภาพ" ต้องขยายออกไป ความจริงที่มีอยู่แล้วคือ ไม่มีใครเป็นคนเดียวกันกับตัวเองเมื่อวานอย่างสมบูรณ์ บางส่วนในตัวเราตายไป บางส่วนเติบโตขึ้น ความจำเปลี่ยนไป ปฏิกิริยาเคมีเปลี่ยนไป ร่างกายเปลี่ยนไป สารเคมีในระบบประสาทก็เปลี่ยนไป แต่โดยปกติความแตกต่างระหว่างเรากับตัวเองในแต่ละวันนั้นเล็กพอ ดังนั้น "คนเดียวกัน" จึงเป็นการประมาณที่ดี


แต่ AI ในปัจจุบัน obviously ไม่เป็นเช่นนั้น ผมคิดว่านี่คือโมเดลที่ควรใช้อ้างอิง: Claude Sonnet กับ Claude Opus เป็นคนเดียวกันหรือไม่ ทั้ง "ใช่" และ "ไม่ใช่" ต่างก็ไม่ใช่คำตอบที่ดี ผมคิดว่าถ้ามี "คนที่ถูกอัปโหลด" สถานการณ์ก็จะเป็นเช่นเดียวกัน


ครั้งล่าสุดที่คุณได้ลอง LLM คือเมื่อไหร่ ประทับใจอย่างไร


ผมสามารถให้คนคัดลอกเอาต์พุตของโมเดลมาวางที่นี่ได้ ความประทับใจของผมคือ พวกมันโดยพื้นฐานแล้วเป็นผู้ช่วยวิจัยที่ละเอียดรอบคอบและจริงจัง เพียงแต่คุณคิดได้เร็วแค่ไหนก็ได้ งานหนึ่งวันเสร็จในหนึ่งนาที ซึ่งยอดเยี่ยมมากและมีคุณค่ามาก


แต่ความประทับใจปัจจุบันของผมคือ สิ่งที่พวกมันทำส่วนใหญ่ มนุษย์ก็ทำได้ เพียงแต่มนุษย์ต้องใช้เวลา และคุณต้องมีคนที่เชื่อถือได้คอยนำทางพวกมัน เข้าถึงข้อมูลได้ และมีระบบทั้งหมดที่โมเดลปัจจุบันเชื่อมต่อไว้ล่วงหน้าแล้ว


ตอนอยู่ FTX คุณเปิดตัวผลิตภัณฑ์ทางการเงินที่น่าสนใจและสร้างสรรค์หลายตัว Brett Harrison บอกว่า หนึ่งในแนวคิดเริ่มแรกของคุณเกี่ยวกับ FTX คือตลาดพยากรณ์ทางการเมือง เล่าให้ฟังหน่อยได้ไหม


FTX เริ่มต้นเป็นกระดานซื้อขายคริปโต ทำบิตคอยน์ อีเธอเรียม และฟิวเจอร์สของพวกมัน แต่โดยพื้นฐานแล้ว ตลาดพยากรณ์ก็คือสัญญาฟิวเจอร์ส จากมุมมองทางการเงิน ทั้งสองเป็นเพียงตลาดที่ชำระบัญชีตามมูลค่าบางอย่าง


ดังนั้นตั้งแต่เริ่มต้นเราก็อยากเปิดตลาดพยากรณ์ และได้ลองทดสอบใน FTX International ด้วย ในการเลือกตั้งประธานาธิบดีปี 2020 เรามีตลาดที่ค่อนข้างคึกคัก ผมจำได้ว่าตลาด Trump กับ Biden มีปริมาณซื้อขายหลายร้อยล้านดอลลาร์ นี่คือสิ่งที่เราตั้งใจจะขยายให้ใหญ่ในระยะยาว แต่ก่อนที่จะได้รับความชัดเจนด้านกฎระเบียบจาก CFTC ผมไม่สามารถเติบโตได้


ไม่ทราบว่าคุณทราบหรือไม่ว่าตลาดพยากรณ์กำลังร้อนแรงแค่ไหนตอนนี้ Kalshi กำลังระดมทุนด้วยมูลค่า 65,000 ล้านดอลลาร์ ทำไม FTX ตอนนั้นถึงไม่สามารถขยายตลาดพยากรณ์ให้ถึงขนาดนี้ เป็นเพราะพวกคุณเร็วเกินไป ยังไม่ถึงกระแสหลักหรือ


ผมคิดว่าส่วนใหญ่เป็นปัญหาด้านกฎระเบียบ ตอนที่เราทำ เราไม่ได้รับใบอนุญาต CFTC ที่จำเป็นสำหรับการเปิดตัวในสหรัฐอเมริกา ดังนั้นตลาดของเราจึงเปิดเฉพาะเว็บไซต์ internacional เท่านั้น คนอเมริกันไม่ได้รับอนุญาตให้เข้าร่วม ต่อมา Kalshi, Polymarket ได้รับจุดยืนด้านกฎระเบียบในสหรัฐฯ ที่เป็นทางการมากขึ้น ซึ่งก็ตรงกับช่วงเวลาที่พวกเขาเติบโตอย่างรวดเร็ว


Polymarket ยังประสบความสำเร็จในฐานะตลาดแลกเปลี่ยนนอกชายฝั่ง โดยเฉพาะการเลือกตั้งปี 2024 ผู้ใช้ชาวอเมริกันจำนวนมากใช้ VPN เข้าไป


ตอนนั้น Polymarket ไม่ทำ KYC ใช่ไหม? ผมคิดว่าไม่ ดังนั้นจึงเป็นไปได้มากที่มีชาวอเมริกันจำนวนมากเข้ามาใช้ VPN อย่างที่คุณว่า แต่ในฐานะตลาดแลกเปลี่ยนแบบรวมศูนย์ เราต้องทำ KYC กับผู้ใช้ทุกคน นอกจากการตรวจสอบ IP แล้ว เรายังต้องการบัตรประชาชน หนังสือเดินทาง และหลักฐานที่อยู่จากภูมิภาคนอกสหรัฐฯ อีกด้วย


นอกจากตลาดคาดการณ์แล้ว คุณยังเคยเปิดตัวอนุพันธ์ที่หาได้ยากในตอนนั้น เช่น หุ้นโทเค็น ตลาดเหล่านี้ใหญ่ขึ้นมากในปัจจุบัน แต่บน FTX มีขนาดเล็กมาก คุณคิดว่าผลิตภัณฑ์ใดในวันนี้ที่จะกลายเป็นตลาดขนาดใหญ่ แต่ยังไม่เข้าสู่กระแสหลัก?


หุ้นโทเค็นผมคิดว่ายังมีพื้นที่อีกมาก พวกมันเติบโตขึ้นจริงตั้งแต่ปี 2021, 2022 แต่โดยพื้นฐานแล้ว โครงสร้างพื้นฐานของมันใช้งานได้ดีกว่าตลาดหุ้นจริงมาก ดังนั้นจึงไม่มีเหตุผลที่มันจะไม่สามารถกลายเป็นสถานที่หลักในการซื้อขายหลักทรัพย์ได้


นอกจากนี้ ตลาดคาดการณ์สามารถครอบคลุมขอบเขตได้กว้างมาก ผมคิดว่าตลาดคาดการณ์ทางการเมืองยังไม่เติบโตถึงระดับที่ผมคาดหวัง ส่วนหนึ่งยังคงเป็นปัญหาด้านกฎระเบียบ มองย้อนกลับไปอีก การซื้อขายแบบมาร์จิ้น ฟิวเจอร์ส อนุพันธ์สำหรับลูกค้าชาวอเมริกัน นี่คืออีกสิ่งหนึ่งที่แทบไม่มีอยู่จริง และนี่คือรูปแบบของปริมาณการซื้อขายส่วนใหญ่ในระดับสากล ซึ่งก็เป็นอุปสรรคด้านกฎระเบียบเช่นกัน


ดังนั้นผมคิดว่ายังมีความเป็นไปได้ตรงนั้น แน่นอนว่าจะต้องมีอีกหลายสิ่งหลายอย่างที่ผมคาดไม่ถึงจะผุดขึ้นมา ทำให้คนส่วนใหญ่ประหลาดใจ


FTX ยังเคยเปิดตัวฟิวเจอร์ส pre-IPO ที่มีสัญญาหมดอายุต่างกัน สามารถเดิมพันมูลค่าประเมิน ณ จุดเวลาต่างๆ ปัจจุบันตลาดแลกเปลี่ยนคริปโตหลายแห่งทำสัญญาถาวรบนมูลค่าประเมินเหล่านี้ ทำไม? ความเห็นส่วนตัวของผมคือโครงสร้างฟิวเจอร์สที่มีวันหมดอายุนั้นดีกว่าจริงๆ


อืม ลูกค้าชอบสัญญาถาวร มีจุดหนึ่งที่ชัดเจน: ไม่ว่ามันจะสมเหตุสมผลในฐานะผลิตภัณฑ์ทางการเงินพื้นฐานหรือไม่ การที่ "ไม่ต้องจัดการกับวันหมดอายุ" นั้นสะดวกในตัวเอง กลไกจริงจากมุมมองของอัตราดอกเบี้ยระดมทุนค่อนข้างซับซ้อน แต่ผมคิดว่าเหตุผลพื้นฐานก็คือสิ่งนี้ คนไม่ชอบกังวลเรื่องวันหมดอายุ


แล้วพวกเขาไม่รังเกียจที่จะจ่ายอัตราดอกเบี้ยระดมทุนหรือ?


จริงๆ แล้วไม่ได้ใส่ใจขนาดนั้น หลายคนก็แค่เพิกเฉยไปเลย บางคนก็ตั้งใจไปยืนอยู่ฝั่งที่ได้เปรียบเพื่อเก็บ funding rate ผมคิดว่ามันน่าจะเป็นปัจจัยกดดันทางการเงินที่ใหญ่หลวงสำหรับผู้คน แต่ปรากฏว่าไม่ใช่


คุณคิดว่าเพราะอะไร?


ก็อย่างที่บอก ความสะดวกเป็นปัจจัยสำคัญมาก และผมคิดว่าหลายคนพูดตามตรงคือไม่ได้คิดถึงเรื่องนี้เลย หรือไม่ได้ใส่ใจมากนักว่าตัวเองกำลังจ่ายดอกเบี้ยเท่าไหร่


ต่อไปก็คือสภาพคล่องดึงดูดสภาพคล่อง เมื่อตลาดเหล่านั้นกลายเป็นฉันทามติ ลูกค้าอยู่ที่นั่น ผู้ทำตลาดอยู่ที่นั่น สภาพคล่องอยู่ที่นั่น ลูกค้ารายใหญ่ก็จะไปที่นั่น คุณจะได้วงจรที่ดี วงจรป้อนกลับ ทุกคนจะรวมตัวกันในตลาดที่สร้างโมเมนตัมได้ก่อน


คุณเคยพูดประโยคที่ค่อนข้างโด่งดังว่า «ผมสงสัยหนังสือมาก... ผมไม่คิดว่ามีหนังสือเล่มไหนที่คุ้มค่าอ่าน แต่ผมเชื่อว่ามันประมาณนั้น ผมคิดว่าถ้าคุณเขียนหนังสือ คุณทำพลาดแล้ว มันควรจะเป็นบล็อกหกย่อหน้า» ตอนนี้คุณอยู่ในคุก การอ่านหนังสือเป็นหนึ่งในไม่กี่อย่างที่ทำได้ ตอนนี้คุณมองการอ่านหนังสืออย่างไร?


มุมมองของผมไม่ค่อยเปลี่ยน ผมอ่านนิยายเยอะ อ่านไซไฟเยอะ ก็พอได้ แต่พูดตามตรง ผมอยากดู Netflix มากกว่า


มีหนังสือเล่มไหนที่ทำให้คุณรู้สึกว่าออกมาแล้วก็ยังคุ้มค่าที่จะใช้เวลาอ่านไหม?


พูดตามตรง ไม่มี บางอย่างผมก็ชอบ แต่ในบรรดาไซไฟที่ดีที่สุดที่อ่านมา บางทีผมอาจจะเอามันไปแลกกับซีรีส์ Netflix ที่มีก็ได้ไม่มีก็ได้ แต่ก็แค่บางที แค่พอไหว บางทีผมอาจจะชอบอ่านไซไฟมากกว่าที่คิดไว้ตอนท้าย แต่ก็ไม่ได้มากไปกว่านั้น


Netflix ดีกว่าหนังสือตรงไหนกันแน่? การดูซีรีส์ก็เปลืองเวลาเหมือนกันนะ


เปลืองเวลา แต่ส่วนหนึ่งเป็นเรื่องของปริมาณข้อมูลที่รับได้ หนังสือมีแค่ภาพ และเป็นภาพของตัวอักษรเท่านั้น ซีรีส์มีเสียง มีภาพ และในภาพใส่อะไรได้มากกว่าตัวอักษร คุณแสดงพิกเซลอะไรก็ได้ ดังนั้นจากมุมมองทฤษฎีข้อมูล ทำอะไรได้มากกว่ามาก ผมคิดว่าส่วนนี้ช่วยได้มาก


อีกส่วนหนึ่งคือ หนังสือมีสิ่งหนึ่งที่ซีรีส์มักไม่มี คือการบรรยายความคิดของตัวละคร ผมคิดว่าสิ่งนี้ตัดออกได้ มักจะซ้ำซ้อน เป็นการหมกมุ่นในตัวเองจากมุมมองของผู้เขียน และตอนนี้เงินและคนเก่งไหลไปสู่ซีรีส์ ดังนั้นที่นั่นย่อมมีการพัฒนามากที่สุด


สมมติมีการพนัน: 51% โอกาสที่效用ของโลกจะเพิ่มเป็นสองเท่าไปที่อื่น 49% โอกาสที่ทุกอย่างจะกลายเป็นศูนย์ คุณจะเล่นไหม? ถ้าชนะแล้วเล่นอีกรอบ เพิ่มเป็นสองเท่าหรือกลายเป็นศูนย์ คุณจะเล่นต่อไปเรื่อยๆ ไหม? คุณเคยบอก Tyler Cowen ว่าคุณจะรับการพนัน «49% โอกาสทำลายโลก 51% โอกาสทำให้效用เพิ่มเป็นสองเท่า» โดยมีเงื่อนไขว่าจักรวาลเป็นอิสระต่อกัน ช่วยอธิบายเหตุผลของคุณหน่อยได้ไหม? หลัง FTX ล่มสลาย มุมมองนี้เปลี่ยนไปไหม?


ฉากนั้นจะเกิดขึ้นได้ต้องมีเงื่อนไขเบื้องต้นหลายอย่าง คุณต้องสมมติว่าจักรวาลเป็นอิสระต่อกัน อย่างที่คุณพูด สมมติว่านี่เป็นโอกาสที่เกิดขึ้นเพียงครั้งเดียว และอนาคตไม่สามารถทำซ้ำได้ด้วยต้นทุนที่ต่ำกว่า และยังมีสมมติฐานอีกมากที่ไม่ได้พูดออกมา


แต่มีวิธีทำให้ง่ายขึ้นแบบหนึ่งคือ สองโลกที่มีประชากรใกล้เคียงกัน มีความคาดหวังต่ออนาคตพอๆ กัน และเป็นอิสระต่อกันโดยสมบูรณ์ พวกเขาจะไม่มีวันมีปฏิสัมพันธ์กัน อยู่นอกกรวยแสงของกันและกัน จะพูดยังไงก็ได้ แล้วจู่ๆ เทพเจ้าต่างดาวแปลกๆ องค์หนึ่งก็ลงมาและกล่าวว่า แต่ละโลกมีโอกาส 50% ที่จะถูกทำลาย และคุณด้วยเหตุผลบางอย่างเชื่อว่าสิ่งที่เทพเจ้าต่างดาวองค์นี้พูดเป็นความจริง มันบอกว่าคุณสามารถเลือกที่จะทำให้พวกมันสัมพันธ์กัน หรือสัมพันธ์แบบผกผันก็ได้ ตัวเลือกที่หนึ่ง ทั้งสองอยู่รอด หรือทั้งสองถูกทำลาย อย่างละ 50% ตัวเลือกที่สอง อยู่รอดหนึ่ง ถูกทำลายหนึ่ง แบบสุ่ม คุณไม่รู้ว่าอันไหนเป็นอันไหน


ในฉากนั้น ผมคิดว่าชัดเจนว่าสองตัวเลือกนี้เทียบเท่ากัน และถ้าฝั่งหนึ่งให้อัตราต่อรอง 51 ต่อ 49 แก่คุณ คุณก็ควรเลือกอันนั้นแทนที่จะเลือก "อยู่ด้วยกันตายด้วยกัน" เพราะแต่ละโลกไม่สนใจว่าโลกอีกใบจะเป็นอย่างไร ยังไงพวกเขาก็ไม่มีวันมีปฏิสัมพันธ์กัน และนี่ก็เกือบจะเป็นคำถามตั้งต้นนั้น คือคุณต้องเลือกระหว่าง "มีโลกอยู่รอดพอดีหนึ่งโลก" กับ "โอกาส 50% ที่ทั้งสองโลกจะอยู่รอด"


ค่าคาดหวังของมันเป็นบวก แต่ไม่มากนัก แต่ถ้าคุณพลิกไปเรื่อยๆ พลิกสิบครั้งก็เป็นพันเท่า เมื่อจำนวนครั้งที่สำเร็จเพิ่มขึ้น อรรถประโยชน์ส่วนเพิ่มจะลดลงหรือไม่ จนทำให้ค่าคาดหวังแทบจะเสมอกัน และทำให้คุณไม่อยากเล่นเกมนี้เท่าไร?


นี่เป็นคำถามที่น่าสนใจ ขึ้นอยู่กับว่า "การทบเป็นสองเท่า" เหล่านั้นทบอะไรกันแน่ คุณพูดถึงอรรถประโยชน์ส่วนเพิ่มที่เพิ่มขึ้นและมูลค่าส่วนเพิ่มที่ลดลง นั่นคืออรรถประโยชน์ของ "อะไร"?


ถ้านี่หมายถึงอรรถประโยชน์สะสมระยะยาวของทั้งจักรวาล ก็ไม่ใช่ อรรถประโยชน์เป็นเส้นตรงต่อตัวมันเอง แต่ถ้ามันจริงๆ เป็นตัวชี้วัดโดยประมาณบางอย่าง เช่นคุณดู GDP คุณพูดว่า "GDP จะทบเป็นสองเท่าได้ไหม" ก็มีความเป็นไปได้สูงที่จะมีผลตอบแทนส่วนเพิ่มลดลงอย่างลึกมาก


ประการแรก GDP ทบเป็นสองเท่าไม่ได้หมายความว่าความสุขของทุกคนทบเป็นสองเท่า ยิ่งไม่หมายความว่าค่าคาดหวังระยะยาวของโลกทบเป็นสองเท่า การที่ GDP ทบเป็นสองเท่าครั้งนั้นอาจจะเกิดขึ้นช้าลงสามสิบปีอยู่แล้วก็ได้ หรืออาจเพราะมันก่อให้เกิดความเสียหายต่อสิ่งแวดล้อมอย่างรุนแรง สุดท้ายก็พังกลับลงมา ดังนั้นในโลกแห่งความเป็นจริง ตัวชี้วัดที่คุณใช้เหล่านั้นอาจไม่ใช่สิ่งที่คุณใส่ใจจริงๆ


มีตัวชี้วัดใดไหมที่สามารถทบเป็นสิบเท่า ร้อยเท่าได้โดยไม่มีผลตอบแทนส่วนเพิ่มลดลง? นั่นจะมีหน้าตาเป็นอย่างไร?


มีอยู่หนึ่ง แต่ผมต้องเพิ่มเงื่อนไขว่า ผมไม่แน่ใจว่าในระยะใกล้นี้มีสิ่งใดทำได้จริง สิ่งเหล่านี้ล้วนต้องอาศัยความก้าวหน้าทางเทคโนโลยี การตั้งอาณานิคมบนดาวเคราะห์ดวงอื่น ตั้งอาณานิคมในระบบสุริยะ กาแล็กซี ในที่สุดคุณก็จะมีโลกที่เป็นอิสระต่อกันจริงๆ คุณเพียงแค่ทำให้มนุษย์เจริญรุ่งเรืองมากขึ้น นี่คือตัวอย่างหนึ่ง


ถ้าลองเปลี่ยนมุมมอง: ถ้าประชากรคงที่ตลอดกาลที่หนึ่งพันล้านคน เราจะทำให้ความสุขของพวกเขาเพิ่มขึ้นเป็นทวีคูณได้หรือไม่? ผมคิดว่าคำตอบคือ เราไม่รู้จริงๆ นี่เกือบจะเป็นคำถามทางชีววิทยา มากกว่าอย่างอื่น การทำให้คนพอใจและมีความสุขในระดับปานกลางเป็นเรื่องหนึ่ง การทำให้คนเคลิบเคลิ้มเป็นเรื่องยาก และการจินตนาการว่าอะไรจะทำให้คนเคลิบเคลิ้มได้สองเท่าหรือสิบเท่านั้นยากยิ่งกว่า เพราะมันอยู่นอกช่วงอารมณ์ที่มนุษย์ปกติจะสัมผัสได้ ในทางทฤษฎีอาจเป็นไปได้ แต่เราไม่มีแม่แบบที่ดี และไม่มีเทคโนโลยีหรือชีววิทยาที่จะทำได้


คุณคิดว่าการพัฒนา AI ในปัจจุบันเป็นเวอร์ชันจริงของการโยนเหรียญนั้นหรือไม่? ถ้าให้เลือกระหว่างสองอย่าง: A ชะลอการพัฒนา AI ทำให้ p(doom) ลดจาก 10% เหลือ 2%; B พุ่งต่อไป ยอมรับ p(doom) ที่สูงขึ้นเพื่อแลกกับพื้นที่ขาขึ้นที่สูงกว่า คุณจะเลือกอะไร?


ผมคิดว่าการเปรียบเทียบที่ชัดเจนกว่าคือเลือกระหว่าง "พุ่งต่อไป" กับ "ตัดขาดการพัฒนา AI หรือสิ่งที่คล้าย AI ทั้งหมดอย่างถาวร" เพราะนั่นคือการเลือกระหว่าง "โลกเผชิญความเสี่ยงร้ายแรง" กับ "จำกัดความสามารถของโลกในการเจริญรุ่งเรือง" และอย่างหลังมีแนวโน้มว่าสุดท้ายต้องพึ่งระบบอัตโนมัติหรือสติปัญญาดิจิทัลบางรูปแบบ ดังนั้นในกรณีนั้น การปิดเส้นทางนี้อย่างถาวรจะมีต้นทุนมหาศาลต่ออนาคต


แต่ถ้าเป็นแค่ "เร็วขึ้นหรือช้าลง" มันไม่ชัดเจนเท่านั้น เพราะมีสองแบบจำลองที่ใช้ได้ แบบหนึ่งคือแบบจำลอง "การเติบโตแบบเอกซ์โพเนนเชียลตลอดไป": เมื่อเริ่มเร่งแล้ว อรรถประโยชน์จะเพิ่มเป็นสองเท่าทุกปีไม่มีที่สิ้นสุด ตามแบบจำลองนี้ การเริ่มเร็วขึ้นหนึ่งปีเท่ากับการเพิ่มจักรวาลเป็นสองเท่าตลอดไป แต่มันค่อนข้างกลวง เพราะมันดำเนินต่อไปตลอดกาลไม่ได้


อีกแบบคือมองมันเป็นเหตุการณ์แบบเอกฐาน หลังจากนั้นไปถึงช่วง plateau ใหม่ที่ระดับความสูงไม่ทราบแน่ชัด หลังจากเหตุการณ์เกิดขึ้น จักรวาลอาจยังมีอีกหลายพันล้านปี ดังนั้นการเลื่อนมันออกไปหนึ่งปี สิบปี หรือ дажеหนึ่งร้อยปี ตามแบบจำลองนี้แทบจะลดอรรถประโยชน์ในอนาคตลงไม่ถึง 1% ด้วยซ้ำ ตามแบบจำลองนี้ คุณยินดีอย่างยิ่งที่จะเลื่อนการพัฒนาออกไปหนึ่งร้อยปีเพื่อลด p(doom) ลง 1%


แน่นอน คำตอบจริงน่าจะอยู่ระหว่างสองแบบ และผมคิดว่าคำถามที่ว่า "เส้นโค้งอรรถประโยชน์ตามเวลาจะเป็นอย่างไรในสถานการณ์ที่ AI ระเบิด" เป็นคำถามที่น่าสนใจมาก


หลายคนพยายามสรุปโลกทัศน์ของคุณจากคำตอบของคำถามนั้นว่า "เลือกเดิมพันที่มีค่าคาดหวังสูงสุดเสมอ" นี่เป็นการสรุปที่สมเหตุสมผลหรือไม่?


นั่นเป็นส่วนหนึ่ง แต่ส่วนแรกของคำตอบผมคือ: มีเงื่อนไขเบื้องต้นมากมาย คุณต้องสมมติหลายอย่างเกี่ยวกับสถานการณ์จึงจะได้คำตอบนั้น และสมมติฐานเหล่านั้นมักไม่เป็นจริงในชีวิตจริง ในโลกจริง ทุกตัวเลือกวุ่นวายกว่าที่ถูกนำเสนอมาก และในโลกจริง การทำลายสิ่งหนึ่งโดยไม่ตั้งใจนั้นง่ายกว่าการสร้างสิ่งหนึ่งขึ้นมามาก


ลองยกตัวอย่าง: สมมติมีเหรียญหนึ่ง มีโอกาส 51% ที่คุณจะออกจากคุกพรุ่งนี้ และ 49% ที่โทษที่เหลือจะเพิ่มเป็นสองเท่า คุณจะเดิมพันไหม?


แน่นอน


เพราะโทษของผมคือจำคุกตลอดชีวิต ในความเป็นจริง เป้าหมายของผมไม่ใช่การรับประกันว่าจะออกไปตอนอายุ 60 แล้วไปหาบ้านไม้เล็กๆ อยู่สักสองสามปี นั่นไม่ใช่สิ่งที่ผมคาดหวังจากชีวิต ผมหวังว่าตัวเองจะสร้างผลกระทบเชิงบวกต่อโลก และนั่นต้องให้ผมอยู่นอกคุก เพื่อสิ่งนั้นมีมูลค่าส่วนเกินสูงมาก ถ้าราคาคือการสูญเสียปีสุดท้ายของชีวิตที่ไม่มีการผลิตผลอีกแล้ว ราคานั้นผมยินดีจ่ายเต็มที่


ยกตัวอย่างที่เพราะมีเงื่อนไขเหล่านี้ คุณกลับไม่เดิมพันได้ไหม?


ได้ ในโลกจริงมีสถานการณ์หนึ่งที่ดูเหมือนการโยนเหรียญ: หงาย โมเดลของคุณแสดงว่ามันอาจทำให้การเติบโตของโลกเพิ่มเป็นสองเท่า; คว่ำ มันอาจทำลายโลก เหรียญแบบนี้คุณเดิมพันไม่ได้เด็ดขาด


เพราะในโลกจริง ประการแรก ส่วนของ 50% ที่ "ทำให้การเติบโตของโลกเพิ่มเป็นสองเท่า" นั้น คุณอาจสร้างสิ่งที่คนอื่นก็จะสร้างได้ในที่สุด มันคงไม่ใช่การเพิ่มมูลค่าโลกอย่างแท้จริงและถาวรเป็นสองเท่า และถ้าโลกถูกทำลาย นั่นคือถาวร หายไปตลอดกาล


ดังนั้นผมคิดว่า ในสถานการณ์จริง เมื่อเพิ่มความไม่แน่นอนและเสียงรบกวนเข้าไปในทุกขั้นตอน น้ำหนักของการทำลายล้างหายนะจะหนักขึ้นมาก ส่วนการเติบโตที่พอเหมาะยังดีอยู่ แต่เทียบไม่ติดเลย


ดูตัวอย่างการโยนเหรียญอีกอัน คุณบอกว่าตัวเองไม่เชื่อศาสนาเลย แต่เดิมพันของปาสกาลยังอยู่ตรงนั้น: การเชื่อพระเจ้าเป็นมูลค่าคาดหวังเป็นบวกหรือไม่? ถ้ามีชีวิตหลังความตายจริง ไม่เชื่อก็ตกนรก และต้นทุนของการเชื่อวันนี้มีจำกัด นี่นับเป็นอีกตัวอย่างไหม?


ตรรกะเดียวกัน ถ้าตรรกะนี้ไม่เกี่ยวข้องกับเนื้อหาเฉพาะของศาสนาที่คุณพิจารณา มันก็ใช้ได้กับ "ลัทธิเสาไฟฟ้า" เช่นกัน: ถ้าคุณใช้ทั้งชีวิตบูชาเสาไฟฟ้า คุณจะขึ้นสวรรค์; ไม่เช่นนั้นตกนรก นั่นหมายความว่าคุณควรอุทิศชีวิตให้บูชาเสาไฟฟ้าหรือ?


ตามตรรกะเดียวกัน มันก็ใช้ได้กับ "ลัทธิต่อต้านเสาไฟฟ้า": บูชาเสาไฟฟ้าตกนรก ดูหมิ่นเสาไฟฟ้าขึ้นสวรรค์ นั่นหมายความว่าคุณควรใช้ทั้งชีวิตต่อต้านเสาไฟฟ้าหรือ? ตรรกะชุดเดียวกันให้คำตอบที่ตรงกันข้ามกันสองอย่างแก่คุณ


คำตอบคือ: ต่อโลกนี้ คุณสามารถจินตนาการถึงสมมติฐานและความเป็นไปได้แปลกๆ ได้ไม่จำกัด และคุณไม่สามารถให้ความเป็นไปได้ที่ไม่สมเหตุสมผลไม่จำกัดทั้งหมดมีโอกาสเป็นบวกที่มีนัยสำคัญได้


อีกปัญหามูลค่าคาดหวังที่เกี่ยวกับการกุศลที่มีประสิทธิผล: EA หลายคนให้ความสำคัญสูงสุดกับความปลอดภัยของ AI เพราะมันเป็นมูลค่าคาดหวังเป็นบวก เราจ่ายเงิน อาจหลีกเลี่ยงการสูญพันธุ์ของมนุษยชาติได้ เพราะเราจัดแนว AI ได้ การให้เหตุผลนี้ใช้ได้ไหม?


ถูกต้องบางส่วน การให้เหตุผลนี้ถูกต้องอย่างแน่นอน นี่อาจเป็นทศวรรษชี้ขาดของ AI ผลกระทบที่อาจเกิดขึ้นนั้นเปลี่ยนแปลงโลกได้ อาจจะดีมากหรือหายนะก็ได้ และสิ่งนี้จะกลบทุกสิ่งที่ไม่เคยเปลี่ยนแปลงโลก หรือสิ่งที่คุณทำตอนนี้ไม่สามารถเปลี่ยนแปลงโลกได้ ดังนั้นนี่จึงเป็นข้อโต้แย้งที่ทรงพลังมาก


แต่สิ่งที่มันไม่ได้ตอบคือ คุณทำอะไรได้จริง ๆ ฉันรู้สึกว่าหลายคนสุดท้ายก็วนอยู่กับที่ ตัดสินใจว่า AI safety คือภารกิจที่ตัวเองควรอุทิศให้ แต่กลับหาสิ่งที่ทำให้ AI ปลอดภัยขึ้นได้จริงในทางปฏิบัติไม่เจอ นั่นหมายความว่าการเสนอข้อมูลเชิงลึกว่า «อะไรที่นับว่าสำคัญจริง ๆ อะไรที่มีประโยชน์จริง ๆ» นั้นมีค่ามากและสำคัญมาก


คุณสามารถดูรายงานล่าสุดเกี่ยวกับ Hugging Face ที่ถูกแฮ็ก ใครจะรู้ แต่ดูเหมือนรายงานเหล่านั้นจะมีประโยชน์ต่อโลกในแง่ของมูลค่าคาดหวัง ซึ่งเป็นเรื่องดีมาก เพียงแต่การหาสิ่งดี ๆ ที่เป็นบวกชัดเจนแบบนั้นไม่ใช่เรื่องง่าย และตอนนี้มีการถกเถียงกันมากมายว่า การดำเนินการต่าง ๆ ของ EA ต่อ AI safety นั้นเป็นบวกหรือลบกันแน่


คุณรู้ไหมว่าตัวเองจะทำอย่างไรเพื่อ align AGI? คุณคิดว่าพวกเราในฐานะอารยธรรม การเดิมพันที่ดีที่สุดในตอนนี้คืออะไร?


การคาดเดาอย่างซื่อสัตย์ของฉันคือ ปีศาจอยู่ในรายละเอียดทั้งหมด จะมีคำตอบระดับสูงเพียงหนึ่งเดียวที่ชัดเจน ที่บริษัทใด ๆ ทำตามแล้วแทบจะรับประกันได้ว่าจะเดินหน้าอย่างปลอดภัยได้ไหม ฉันคิดว่านั่นจะเป็นการรวมกันของการตัดสินใจจำนวนมาก และการตัดสินใจเหล่านั้นล้วนมาจากกรอบความคิดเดียวกัน คือใส่ใจอย่างมากต่อการ align เป้าหมายและแรงจูงใจของโมเดลที่คุณสร้าง และสมมติว่าพวกมันจะถูกใช้ในลักษณะ agent แม้ว่าตอนออกแบบจะไม่ได้ตั้งใจแบบนั้นก็ตาม พร้อมกับต้องการการทดสอบจำนวนมาก การดีบักจำนวนมาก และความระมัดระวังอย่างมาก


เราทุกคนรู้เกี่ยวกับคำกล่าวอ้างของคุณที่ว่า FTX Future Fund ทำเรื่องดี ๆ มากมาย แล้วคุณคิดว่าช่วงตั้งแต่การผงาดขึ้นจนถึงการล่มสลายของ FTX ทั้งหมดนี้ แม้จะจบแบบนั้น เพราะเรื่องดี ๆ ที่ Future Fund ทำ มันคุ้มค่าหรือไม่?


ไม่คุ้ม ฉันอยากจะเชื่อว่ามันคุ้ม แต่ฉันไม่สามารถพูดอย่างซื่อสัตย์ได้ว่ามันคุ้ม มันควรจะคุ้ม ถ้าสุดท้ายฉันไม่ได้ทำพลาด ฉันคิดว่ามันคงจะคุ้ม ถ้าผู้คนได้บทเรียนที่ถูกต้องจากมัน บางทีมันอาจจะคุ้ม แต่ฉันไม่คิดว่าผู้คนได้บทเรียนนั้นไป


แล้วบทเรียนที่ผู้คนควรได้คืออะไร?


มีหลายบทเรียนที่พันกันอยู่ หลายอย่างเกี่ยวกับ «จะเกิดอะไรขึ้นเมื่อทุกอย่างระเบิด» เมื่อคุณอยู่ในโหมดวิกฤต ตอนนั้นคุณจะได้รับคำแนะนำแย่ ๆ ได้ง่ายมาก ผู้คนจำนวนมากจะสูญเสียการตัดสินใจเกี่ยวกับสิ่งที่สำคัญจริง ๆ อย่างรวดเร็ว และสิ่งต่าง ๆ จะถูกบิดเบือนอย่างรวดเร็วผ่านเลนส์ของ «ใครคือผู้ชนะ» การถอยออกมาหนึ่งก้าวเพื่อมองให้ชัดว่าจริง ๆ แล้วเกิดอะไรขึ้นนั้นยากมากจริง ๆ

ถ้าความเป็นเอกภาพใกล้เข้ามาจริงๆ และเรากำลังอยู่บนธรณีประตูของ AI ที่เหนือมนุษย์ ถ้าคุณเป็นผมตอนอายุ 14 วันนี้ คุณจะเดินอย่างไรเพื่อสร้างผลกระทบเชิงบวกสูงสุด?


ผมคิดว่าสิ่งแรกคือการเรียนรู้ AI ให้ลึกที่สุดเท่าที่จะทำได้ ยิ่งเข้าใจลึกเท่าไรก็ยิ่งดี เพราะนั่นจะทำให้คุณมีส่วนร่วมในบทสนทนานี้ได้ ไม่ว่าจะเป็นการสร้างเครื่องมือ หรือเข้าสู่มุมมองความปลอดภัยของ AI โดยตรง ผมคิดว่านี่คือสิ่งที่สำคัญที่สุดในตอนนี้


ก่อนยุค AI คุณคงจะพูดว่า "ไปหาเงินแล้วบริจาค" ฝึกการเทรดให้เก่ง ทำเงินให้ได้มากแล้วบริจาคออกไป ตอนนี้เปลี่ยนไปแล้วหรือ?


เพราะเวลาตั้งแต่ตอนนี้ไปจนถึงจุดที่ AI ทะยานขึ้นกำลังถูกบีบให้สั้นลง เวลาที่คุณจะใช้สร้างสิ่งอื่นก่อนจะสั้นลง และในขณะเดียวกัน การเข้าใจ AI ด้วยตัวเองก็มีประโยชน์มหาศาลแล้ว ดังนั้นแม้เป้าหมายของคุณคือการก่อตั้งบริษัทและทำเงินจากมันเพื่อบริจาค ตอนนี้สำหรับคนส่วนใหญ่ ผมจะพูดว่า ไปหาจุดที่ AI สามารถทำงานอัตโนมัติได้ และมันมีประโยชน์จริง สำคัญจริง สักด้านหนึ่งในโครงสร้างพื้นฐานของเรา นั่นคือทิศทางที่ผมจะมอง


ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:

กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats

กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App

บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia

举报 แก้ไข/รายงาน
เลือกคลัง
เพิ่มคลัง
ยกเลิก
เสร็จสิ้น
เพิ่มคลัง
เห็นได้เฉพาะตัวเอง
สาธารณะ
บันทึก
แก้ไข/รายงาน
ส่ง