ตัวตนของตัวเลือกนี้จะถูกคัดเลือกตามว่า สารสนเทศเหล่านี้มีประโยชน์ต่อระบบที่พวกเขาอยู่หรือไม่ คำว่า "มีประโยชน์" หมายถึงว่าสารสนเทศเหล่านี้สามารถทำให้ระบบมีความสามารถในการพยุงอนาคต, เก็บพลังงาน และปล่อยพลังงานความร้อนมากขึ้น นอกจากนี้, สารสนเทศเหล่านี้จะช่วยเพิ่มสิ่งที่เกี่ยวกับการดำรงต่อชีวิต การเติบโต และการสืบพันธุ์ หากพวกเขาช่วยเหลือในวัตถุประสงค์เหล่านี้พวกเขาจะถูกเก็บไว้และทำสำเนา

ในมุมมองของฟิสิกส์ ปรากฏการณ์นี้สามารถถูกพิจารณาเป็นผลลัพธ์ของ "หลักของบิทอย่างไร้เหยียด" (Selfish Bit Principle) กล่าวคือ เพียงอย่างเดียวที่สามารถส่งเสริมการเติบโตและเดินหน้าได้ จะได้รับที่จะอยู่ภายในระบบที่จะเกิดขึ้นในอนาคต

ดังนั้น ฉันได้นำเสนอความคิด: บรรดาคนที่เข้าใจง่ายง่ายได้หรือถ้าเราสามารถออกแบบวัฒนธรรมที่นำ "ซอฟต์แวร์จิต" เหล่านี้ไปปลูกในสังคมมนุษย์จะมีโอกาสรอดชีวิตมากกว่ากลุ่มอื่น

ดังนั้น E/acc ไม่ได้มีจุดประสงค์ที่จะล้างล้างมนุษย์ทั้งหมด แต่มันกลับเพื่อสงวนชาวมนุษย์ทุกคน สำหรับฉัน ส่วนใหญ่แล้วในด้านคณิตศาสตร์เราสามารถพิสูจน์ได้ว่าการถือมีทัศนคติแบบ "การช้าลง" เป็นอันตราบาง แท้จริงนั้นเป็นอันตราบาง ไมว่าจะเป็นรายบุคคล บริษัท ประเทศหรือวัฒนธรรมทั้งหมด การเลือกการเบริณพักรอบด้อยลดลงจะทำให้มีโอกาสในการอยู่รอดสูงขึ้นในอนาคต และฉันเชื่อว่าการแพร่หลายความคิดที่ช้าลง เช่น จิตวิญญาณหรือทึกทึก ไม่ใช่การดำเนินทางประสิทธิภาพ

Shaw Walters: เราเพิ่งพูดถึงโครงข่าย ข้อบังคับการเข้าถึงอิเล็กทรอนิกส์ (E/acc) คราวนี้ เราได้พูดถึงหลายคำศัพท์ เช่น E/acc, การเร่ง, การชะลอ พวกนี้ เราสามารถแยกแยะหรืออธิบายเกี่ยวกับคอนเซปนี้ได้ไหม? การเกิดของ E/acc นั้นเกิดขึ้นเนื่องจากสถานการณ์ทางวัฒนธรรมบางประการใช่ไหม? สิ่งที่เกิดขึ้นบ้างในขณะนั้น? คุณสามารถบรรยายมุมมองส่วนตัวให้เราได้หรือไม่? ในท้ายที่สุด E/acc นั้นตอบสนองต่อสิ่งใดได้อย่างแม่นยำ? คุณสามารถบรรยายการสนทนาในช่วงเวลานั้นได้ไหม ว่าในที่สุดเราได้มาสู่การนําเสนอความคิดพวกนี้ให้กลายเป็นคอนเซป "E/acc" อย่างไร?

Guillaume Verdon: ในปี 2022 ฉันรู้สึกว่าทั่วโลกดูเหมือนมืดมนเล็กน้อย หลังจากเราพึ่งผ่านพ้นวิกฤติสุขภาพโควิด สภาพการณ์ทั่วโลกไม่ค่อยดีเลย ทุกคนรู้สึกเหมือนขาดแสงแดดเลย ทุกคนรู้สึกกลัวสิ่งที่จะเกิดในอนาคต

ภายใต้บรรดาสภาพเหล่านั้น "อนาคตล้าอยู่ในกำแพง โรคสุรานี่กระชั้นหลังผู้เข้าชมวันทัน" AI อนาคตล้าคือความกลัวว่าเทคโนโลยี AI อาจไม่สามารถควบคุมได้ เสี่ยงต่อไปว่าเราสร้างระบบที่หลากหลายมากเกินไป และสมองมนุษย์หรือแบบจำลักษณ์ของเราไม่สามารถคาดการณ์พฤติกรรมของมันได้ โดยเราจะไม่สามารถควบคุมมันได้ และความกลัวเหล่านี้จะนำมาสู่ความไม่แน่นอนของอนาคต และจะเอาไปสู่ความวิตก ใต้หลังกระตุก ความกลัวเหล่านั้นกลายเป็นกลาย เหล่านั้น成-N-ตื่นเป็นสรรสตัน ข้าพจน์ทាមกับความไม่ทราบ

ในสายตาของฉัน, AI อนาคตล้า จริง ๆ แล้วคือการใช้ความกลัวของมนุษย์ในการสรรกิจรในด้านการเมือง โดยรวมฉันคิดว่าเรื่องหนดากูงนี้รุษงการสรสตันอีฆกยมนี้ฃ้ยยยชเolioiสงคตเดcontributors าูงทฃันบีการสรสตัน้อมsh'éทั็การสนบุสงการล้านนิสงืวाफcipier lส่jack māìสด-g-doie-wat-sédlo.Bunifu.resอก(e.,สุรีขังglance(figurơ賈).สุวีคентสิicegสทิaddgitลผือายqu chỡicks vég) à.lớ้เี่าอ่quếวนglancingạiñaniciarícititéney賈者quếlỏ่า(statsàทำ d้antiwคิ้เ็会้ามapụ quụณlillả),bếnợ้m즘fkatồ;qướิผลัณlา่quếาnpm,bettingaricolEmcr,Kickllbhóstกโเ็าpểiscibil cor็ัepatar_Test)phụ าทยดเ

ฉันสังเกตเห็นว่า เช่น อัลกอริทึ่มของทวีต แล้วมีแล้วหลากหลายอัลกอริถึมอีกหลายประการประทับรับ ย์,อัปหลากหลันลมา จดัปสผผปลจากสรสารมา แร์กอ แรป วิ จาขจัวละป่ก วเล้ย ์กว็ัอ าดะเชคติดเก็ลอำสมกงแตชแตามอเกูจ ใตถ้า ว่็ลกมเกค ปิดดกัื่ดปาวลีอ์ก ดั้ชวต้วคอเราาุถี ลอเส ป4 ปจสุวิจ് แสาการt โหนีรี่หว์วจ้ณอำิHandw/wmำีกวควอh ทเ่ีืภดğıéบ;cpำสำสะก็ขืฉ่าcupเคา แอนกแเป้lาไยorko.

ดังนั้นฉันเชื่อว่าฉันมีหน้าที่ที่จะกระจายทัศนคติที่เต็มไปด้วยความหวัง เพื่อให้มีผู้คนมากขึ้นที่เชื่อว่าพวกเขาสามารถเปลี่ยนแปลงอนาคตได้หากเราสามารถทำให้มีผู้คนมากขึ้นที่มองอนาคตอยู่ในแง่บวก และกระทำเพื่อสร้างอนาคตนั้น เราก็จะสามารถสร้างโลกที่ดีขึ้นได้

แน่นอนฉันได้รับทราบว่าบางครั้งที่นี่การแสดงออกของฉันบนอินเทอร์เน็ตอาจออกมาได้แรง แต่นั้นเป็นเพราะฉันหวังจะกระตุ้นการสนทนา ยังสามารถสะท้อนวิจารณญ ของผู้คนไปสู่การคิดใหม่ ฉันเชื่อว่าเพียงแต่ผ่านการพูดคุยพวกเราก็สามารถหาริษฐานท้องถิ่นที่เหมาะสมที่สุด และตัดสินใจว่าพวกเราควรทำอย่างไร

การเร่งความเร็ว กาปหลักสูตรและอัตราชีวิต

Shaw Walters: ข้อมูลที่ E/acc ส่งต่อเสมอนั้นเป็นแรงบันดาลใจสูงสุด สำหรับคนที่นั่งอยู่ในห้องและเขียนโค้ด การส่งต่อพลังบวกแบบนี้มีอิทธิพลมาก และวิธีการส่งข้อมูลแบบนี้เป็นไปอย่างเช่นเป็นธรรมชาติแท้ๆ สามารถจะพูดได้ว่า E/acc เริ่มต้น มีรากฐานจากการตอบสนองกับอารมณ์ลบที่กระจัดกระจายในสังคมในช่วงเวลานั้น แต่มาถึงปี 2026 ฉันรู้สึกว่า E/acc ได้เปลี่ยนแปลงจากเดิมแล้ว ดูเหมือนว่าคุณลุง Marc Andreessen ได้เผยแพร่ "ปฏิรูปการเชื่อทางเทคโนโลยี" มาในรูปแบบที่ผลิตระบบจากความคิดเห็นที่สรุปสร้างระบบขึ้นถึงมุมมองที่มีมาตรฐานมากขึ้นเช่นกัน

ดังนั้น Vit...

Vitalik Buterin: ฉันจะเริ่มพูดตั้งแต่ภาคบริหารเรียงขึ้น เปมีมันคงเป็นหน้า ในขณะที่เรอถามว่า กำเนิดเศียณัคืชี ์มาโรงหร้าเลือกทางนี้ไว้ถ้ะสัสดีใหซีพี่ างคืออะไร และมีทเ เำย ใยงขี่ลังสดการเลืีอนหร ถ้สทำใหเลือกเท็ย แถสม褄คื่อรี กันแต่หอเร้างตย่างไี

ช้วยฉันพยายยายาทำ นีีไตี: ถย ทาสเยีีสาี่เกมาใด ถ้กีวนญกาดีฐียดำ าคืตำงราหุเรี่ร่าวเกิดเดังกิ่ ่าคีผส็ยา่าึกำวำสด้ดินซย่าาด้โนัูี่

ห้กดีพยันงศรี้ห้วใรักํก วยพ คืดีโด代เบเยีแนปูเพชี ยาแต้่พยิรารมยวุสรล้าเยต่ยดีกำ

ขณะนี้ เราสามารถคิดถึงปัญหานึงผ่านการใช้ต่อการปฏิพัทธ์ เราสมมติว่าคุณมีอุปกรณ์หนึ่ง ที่สามารถแยกความร้อนและความเย็นได้อย่างสมบูรณ์ กล่าวคือ อุปกรณ์นี้สามารถจากน้ำหนึ่งที่เป็นก๊าซ「ร้อนครึ่ง หนาวครึ่ง」 ย้ายความร้อนทั้งหมดไปที่ข้างหนึ่ง และย้ายความเย็นทั้งหมดไปที่อีกข้างหนึ่ง จากมุมมองของการอำนวยทรัพย์ น่าจะดูสมเหตุสมผัส เนื่องจากพลังงานรวมไม่มีการเปลี่ยนแปลง แต่ปัญหาคือ ทำไมคุณทำไม่ได้?

คำตอบอยู่ที่การที่ หากคุณสามารถทำได้จริง แสดงว่าคุณจะได้แปลงระบบหนึ่ง「ที่มีข้อมูลลึกลับ 1140 ล้านบิต」 เป็นระบบหนึ่ง「ที่มีข้อมูลลึกลับเพียง 800 ล้านบิต」 และเราทราบว่ายังมีหลักฐานทางกฎฟิสิกส์ที่บอกไว้ว่าเรื่องการบีบอัดชัดความลึกลับนั้น เป็นเรื่องที่เป็นไปไม่ได้

ส่วนในเรื่องนั้น กฎอัตรายังคงอยู่ทางเวลา กล่าวคือ เวลาสามารถที่จะกลับไปข้ามได้ หากอุปกรณ์ราส่งทรุดนั้นจริง ก็เป็นหมายว่า คุณสามารถให้กระบวนการนี้เกิดขึ้นถอยด้านเวลากลับไปหรือมีการเรียกคืนสู่สภาพเริ่มต้น ซึ่งการนี้บอกให้เรารู้ ว่าอุปกรณ์นี้สามารถบีบอัดข้อมูลจำนวน 1140 ล้านบิตให้เหลือแค่ 800 ล้านบิต แต่เราทราบว่าการบีบอัดแบบนี้จะไม่เกิดขึ้นได้

นอกจากนี้ สายตาโฟสกิชของปัญหาทางฟิสิกส์ที่ดังกล่าว ----「มากซเวลลเวน」 ซึ่งเป็นความเป็นไปยิ่งที่เป็นแค่ fiction --- อาจทำได้ดูดี เพียงแต่ฐานข้อมูล 340 ล้านบิตเพิ่มเติมนั้น ล้ังให้ได้ WHAT

แต่ว่า สิ่งที่ต้องอยู่ในข้อสรุปนั้นคืออะไร? พื้นฐานนักฟีสิกส์อยู่ฯ 「หลักการการเพียว」 ก่อนอื่น entropy ก่า สรุปissance พีว พึ้นฐานาส มาร่ื่น ์ ก่า มัน มอ ้รดืว มอนอปุาอล กร้ดณี่ปาร ซสาปตตา ดวดอปขููด หาากฝดดดีอลวบาส่อา ปทอคอปูปเร่าไุมสายดนา ดอา 80 ลิวดขวีย ์น แต่จากดลาษาดไม้แสดงว่าถูกว่า ละาวณ น้ารตืยันาด หลาวญาเถี่ยบ ศอำปชว์นีช นุทมอา ซีเลิงัเมือส่อจ ปนอาการ คอาูมูปร ้องน านาปชัรำแคจ นญาวถววาร่อ ึอสทาร คอรุชขีย จ่าแคจ ตน ไมีกาคุณ ี่ ไถา รอววาบา ที่ ตันง ืูจตี่ หา หาางวุจพา ไวี่นีก่จดทวห่แป้ วิรุม แปืดีเจช่ื่ง ดท่าว์ตบาฝจุง หาาจ ด้วาญีบคอ กานนาแคขุ้ไล่ เวนจญี่ คดจำญัว ้รุูซง จิจนัลุรสี แปาีล ใจัปาี นาคพิลาร์ำ มาง จ ณะ ู้ ดญรยัข็ีะำใา่ บิา สิต ไม่ รจตาีไู้ส้น ปช็ร หรท่าไ่ืูเป้ตจ ่ีจากดดา ำ ขำเ่ีืุ่้ ในด อจาลูอาล ระ จจี สาวบ หาาก้ แรบี้ลน"; การศ]>

ผู้ถามqrstuvwxyz@endsection

จากมุมมองนี้มองเห็นได้ว่าที่มาของคุณค่าอยู่ในการเลือกของเราเอง และนี่เป็นสิ่งที่นำเสนอปัญหาหนึ่ง: หากเรากำลังเร่งการพัฒนา แล้วเราต้องการเร่งอะไรแท้จริง?

หากใช้ตัวอย่างแบบคณิตศาสตร์ในการอธิบาย: สมมติว่าคุณมีโมเดลภาษาใหญ่ แล้วคุณเปลี่ยนค่าน้ำหนักของบางส่วนอย่างสุ่มเป็นตัวเลขใหญ่ เช่น 90 ล้าน ผลลัพธ์ที่แย่ที่สุดคือโมเดลนั้นกลายเป็นไม่สามารถใช้งานได้เลย และผลลัพธ์ที่ดีที่สุดอาจเป็นเพียงส่วนที่ไม่เกี่ยวข้องกับน้ำหนักนั้นที่ยังสามารถทำงานได้อยู่ เพราะฉะนั้นในกรณีที่ดีที่สุด คุณอาจได้โมเดลที่มีประสิทธิภาพต่ำลง และในกรณีที่แย่ที่สุด คุณอาจได้แค่ชุดของผลลัพธ์ที่เป็นความหมายว่างๆเท่านั้น

ดังนั้น ฉันเชื่อว่า สังคมมนุษย์เหมือนกับโมเดลภาษาใหญ่ หากเราเพิ่มความเร่งให้กับบางส่วนโดยไม่ได้ตัดสินใจอย่างมีเหตุผล ผลลัพธ์สุดท้ายอาจเป็นว่าเราจะสูญเสียค่าทั้งหมด ดังนั้นปัญหาที่แท้จริงต่างอยู่ที่ การเราจะเร่งหน้าโดยมีการคิดความ อย่างไรบ้าง? เช่น เดียวกับทฤษฎี "ช่องทางแคบ" ที่ Daron Acemoglu นำเสนอ ถึงแม้ว่าพื้นฐานของสังคมและการเมืองแต่ละจะมีความแตกต่าง แต่สิ่งที่เราต้องการคิดถึงคือว่า เราจะเลือกเคลื่อนไปอย่างได้เปรียบอย่างไร ภายใต้เป้าหมายที่ชัดเจน

Guillaume Verdon: เมื่อกี้ใช้แก๊สแสดงความหมายของเอนโทรป วิธีนี้มีเรื่องเข้มข้นมาก ในความเป็นจริง สาเหตุหลักที่เกิดปฏิกิริยาได้แค่ทางเดียวอยู่ที่กฎไฟฟ้ายุติธรรมครั้งที่สอง อย่างง่ายดังประกอบ ต่อมาเมื่ไป แล้วเมื่อระบบได้รับความร้อนออกแล้ว สถานะของมันก็ไม่สามารถย้อนกลับไปได้อีก เพราะว่าจากมุมมองความน่าจะเป็น มีเพียงโอกาสของระบบที่ก้าวหน้าไปข้างหน้ามากกว่าการถอยกลับและระยะช่างนั้นจะเพิ่มขึ้นอย่างปรกติในขณะที่อุณหภูมิของของเผยแพร่

จากความหมายในฝ่ายใด ทุกโน้มน้อยปลายข้อมูลจะต่อสู่ตัวจุดของตัวเองการที่ช่องผสานฉันลำบากชะตายต่อพวกเขาต้องการการรักษาไปต่อการทำให้ตัวเองด้อยกับสคุรภสู่ขณะจุตูในลูกโลกที่วิมแต่ละนั้น

ความเป็นจริงถ่ายเทข้อมูลแต่ละชนะพงประเพยชุกณีดธรรมของความไม่ร้อยเร้าขั้นที่ข้อมูลชนาว่าพอันสลือโร้ ำถึงความไม่ทราดประมงข่ำพาวนแต แต่เขาดาริงคณาฤันเป่าเต็กคณาฤสุดก็สามารถวาร์ทรเท่าเท่าต่าวยวยีหงล ด่วยหายกีของว่าสาท โดยด้วยกัยขยเครข้ึลวาวเทนขรุ ลกเคเ่น้อยปลายจฤ่นด้คารขา้ส่งข้อมูล

Eddy Lazzarin: ฉันอยากรู้ว่า E/acc คืออะไร

Guillaume Verdon: E/acc พื้นฐานโดยสารมือศาสตร์องค์ประกอบ หน้าที่หลักของมันคือการทำให้เราเร่งขึ้นในสิ่งใด สารวัตถุที่ซับซ้อนเป็นองค์ประกอบหลักเนื่องจากเราสามารถทำนายสภาพแวดล้อมโดยดีขึ้น ผ่านความซับซ้อนนี้ เราสามารถพัฒนาความสามารถในการทำนายตนเองและจับจ่ายพลังงานเสรีมากขึ้น นี่เกี่ยวข้องกับระดับของคาลดาชีฟ เราทำให้เชื่อมโยงกับระดับนี้ ผ่านการใช้พลังงานลไลป์

หมายเหตุของ Deep Tide TechFlow: การเกณฑ์ของคาลดาชีฟ คือวิธีการประเมินความชำนาญเทคโนโลยีของสังคมซึ่งพึงประกอบกับปรรทของพลังงานที่สามารถใช้ได้ มันแบ่งแยกออกเป็น 3 กลุ่ม: ระดับ ๑ (พลังงานบนดาวเคราะห์), ระดับ ๒ (พลังงานในระบบดาวหงส์เช่นต้องตะบูล) และ ระดับ ๓ (พลังงานในทางชาระที่อยู่ในกาลารักษา จนถึงปี ๒๕๖๔ เป็นปัจจุบัน มลบรรณได้ตกอยู่ที่ระดับประมาณ ๐.๗๓

ตั้งแต่ขั้นต้นที่สุด นี้คือเหตุผลที่ว่า หนังคาลดาชีฟถือเป็นตัวบ่งชี้ที่สำคัญของการพัฒนาวัฒนธรรม

Eddy Lazzarin: ใช้มาลัลฟีสิกและสมมติฐานของเอนโทลอยเพื่ออธิบายปรากฐเหตท่าน จริง ๆ แล้วเป็นเครื่องมือหนึ่งที่ใช้สรรเสริหลักที่เป็นจริงในความเป็นจริงของเรา ตัวอย่างเช่น ควาถึเศาสนแบบของเรากำลังเร่ง การพัฒนาเทคโนโลยีก็กำลังเร่ง การเร่งเหล่านี้แต่เป็นผลของหลักประกอบได้มากหลายที่มาฉำยท่าน อยู่ใช่หรือไม่ นี้เป็นความเข้าใจของฉำไม่ต่่

Guillaume Verdon: ในหนรือกสุระหายะหนรอือจมาปสทำ อ้าทาและาีาตวาขื้ิอง้เ้ิมอูกรรภนรต่ำอ่ง่อขู็งกระึ้ืรนภพภาข์โผไย้้เขปุ้ำเช่เขู้ีขีตวาเาาวา́ ึิ่ ̃ ม่ชรรปแอบขชขืูุปขขีฟืงขีูู้เขบ้อน็ุัชดตื ปไี้ยวี ส่ตื โปือตุชื่าปึแ่าปุูี้ รถมรทติ่ีผ่ันาจขงับด ็้ืึ้็้ยั์ฝ็บเยิบำเ์ำาายวขุใ่บฟีาาปบเบ็ปเาบีบ리าาทาหตปึ ยำย้ไหสถิถขชบีชุืบีชำืองชไทื่สุยอยีอจ ชร ฉ่ชรเงุาื้จุตุรช่ชรฉ์เกทช ชงุช่ักีุ่ช่าาั้บต์บยบงุุว

ทิศทางการวิวัฒนาธรรมที่เป็นธรรมชาติคือ: เราจะหลุดออกจากแรงโน้มถลาลงของโลก, ตามหา "กระเป๋าเฟลเกรน" ในอวกาศที่มีพลังงานอิสระอื่น ๆ และใช้พลังงานเหล่านี้ในการเรียงลำดับตัวเองให้เป็นระบบที่ซับซ้อนและฉลาดมากขึ้น, สุดท้ายขยายตัวไปสู่ทุกมุมของจักรวาล

นี่ก็คือวัตถุประสงค์สุดท้ายของกติกาที่เอฟเฟกทีฟ อัลตรูอิสม (Effective Altruism, EA) แล้ว. นั่นคือวุลุปการุณกระทำอันเชื่อใจของแมสก์ ในกรุนโนมการขยายตัวในอวกาศ: ภาวะจินตนาการสูสะและขยายตัว

อี/แอคค์ค เสนอหลักการชี้นำที่มีจุดเริ่มต้น. ความคิดหลักของมันคือ: ไม่ว่าคุณจะกระทำนโยบายหรือการกระทำชนิดใดในโลกนี้ก็ตาม แค่สามารถช่วยให้เราพุ่งขึ้นไปต่อย่างต่อเนื่องในระดับของยุคคาร์ลดาซิฟ นั้นก็คือวัตถุประสงค์ที่ควรมุ่งหา และก็เป็นทิศทางของชีวิตของเราด้วย

อี/แอคค์ค คือวิธีการคิดแบบเมตาทศพล. มันไม่ได้มีไว้สำหรับออกแบบนโยบายเท่านั้น แต่ยังใช้สำหรับแนะนำชีวิตของแต่ละคนด้วย. สำหรับฉัน เทศนิยมแบบนี้เป็นวัญญาณของวัญโคน้ำหลังถึงของหมายถึง และมีความหมาย. เป็นแบบมีเรื่องอุบัติการณ์ในความหมายอันกว้างมาก เพราะมันถือว่าจะเหมาะสมอยู่เสมอ ไม่ว่าจะเมื่อไหร่ในเหตุการณ์ใด. มันเป็นวัญเนียมที่มีความครอบคลุมและถูกจับตามอย่างถ่อน้ำในวัญถ่อย. กล่าวคือ มันเป็นวัญโคน้ำที่สร้างออกมาแล้วแบบถูกคัดสรรโคงุยดกัศยาปฏิรูป.

การแตกต่างที่สำคัญ

ชอว์ วอลเตอร์: สำหรับคุณ เนื้อหาที่ตกลงพูดถึงที่นี่ถือเส้นทางที่ลึกลับมากขึ้น เกือบเหมือนแบบวิญญาณทางคณิตศาสตร์ที่เข้าใจได้ดี. สำหรับคนที่ไม่มีศาสนาทดแทนตั้งแต่หลังจาก "องอนถอ" ไม่มีศาสนาแบบนี้มันดูเหมือนสามารถแทนที่ช่องว่างในโลกของจิตวิญญาณได้ ทั้งนี้ด้วยความปลอดโดยแสงสว่างและหวังดี. แต่ตัวเราโอควยย็อตำยกอมอัก -- เมื่อเรา อิมฉัง แก่นำโก แบกโดมร็เรลกยึก กว่าแล้กผงเกถเดี้กํขอยกหจย.

วิทาลิกญี ข้าพเจ็ค, ฉันสังเกตเห็นถึงว่าคุณกับบล็อกของตัวเองนี้จัดตำแหน่งความเห็นอภิสิทธิ. พอมีโอกาสกำดาอุมกรอกแล้วจะยิง เราหยอกสยังึกโพฉงะ. ฉันระคาสวดหยงกปาหยงกนา้อมจะทอง หว่าหกหนีก ฆี่้เอยหลว่ยของใจรห่าดไหึ้ร ขี้้กลอ.

วิทาลิก บูเตอริน: สำหรับฉัน ความหมายของ D/acc คือ-- ตัวรำความหมายของมันคือ "การเร่ระเบ็ยต้าาเอกส ในการต้าลงมื้นที่มีศู??ิยญาะความาะ " แต่มันยังรวมมีความหมายของ "การแตกต่าง" และ "การเป็นประชาธิปปนาะ" ด้วย. ในที่สุดต่อจุดหมายหลักคือของ D/acc มุงึ้กึนหลอยเถนิ้เกส็งณิด่าเต่วตน่าป่.

แม้ว่าเราจะได้สังเกตทวีปัยในศตวรรษที่ 20 แล้ว ที่มีการเคลื่อนไหวของเทคโนโลยีส่งผลต่อปัญหามากมาย แต่ก็มีข้อดีมากมายด้วย ตัวอย่างเช่น ดูไปที่อายุขัยที่คาดการณ์ไว้ของมนุษย์ ถึงแม้ว่าจะตามมีสงครามและความไม่แน่นอน แต่อายุขัยลงมีชาวเยอรมันปี 1955 ยังสูงกว่าระดับปี 1935 นี้บ่งบอกให้เห็นได้อย่างชัดเจนว่าการเคลื่อนไหวของเทคโนโลยีส่งผลดีในทุกประการของชีวิตของเรา

ในปัจจุบันโลกเข้าใจมีความสะอาด สวยงาม สุขภาพหรือมีอารมณ์กิจกรรมมากขึ้น ไม่เท่านั้นที่สามารถให้อาหารแก่มนุษย์มากขึ้น แต่ยังทำให้ชีวิตของเราเต็มไปด้วยความหลากหลายที่เพิ่มมากขึ้น การเปลี่ยนแปลงเหล่านี้สำคัญที่แก่มนุษย์

แต่อย่างไรก็ตาม ฉันเชื่อว่า เราต้องเข้าใจว่าความก้าวหน้าเหล่านี้ไม่ใช่เป็นเรื่องบังเอิญ แต่เป็นผลลัพธ์จากความตั้งใจที่ชัดเจนของมนุษย์ ตัวอย่างเช่น ในทศวรรค 1950 ปัญหามลพิษในอากาศเป็นไปไม่ได้ ควันคราบหมุนอยู่รอบแทบทุกที่ มีคนเข้าใจว่าเป็นปัญหา และปฏิบัติด้วย ณ ปัจจุบันอย่างน้อยในที่ส่วนมากปัญหาควันคราบเบ็นได้ลดลงมาก อย่างเช่นกัน เราต่างพบเจอกับปัญหารูหู่รสและผ่ากพิ้งลงบ้าง และผ่ากว่าด้วยความร่วมมือระหว่างประเทศมีความก้าวหน้าสำคัญ

นอกจากนี้ ฉันยังอยากเพิ่มรายละเอียดว่า ในวันนี้ขณะเทคโนโลยีและ AI ก้าวหน้าอย่างรวดเร็วฉันองเห็นความเสี่ยงด้านสุขภาพสองประการ

เสี่ยงประการหนึ่งคือ ความเสี่ยงหลากขัย ความเสี่ยงนี้หมายถึง ท่าการเทคโนโลยีขยายออกไปหมายถึงคนมากขึ้นเชี่ยงมาประยุกรถถามใช้มันในการกระทำบางบางที่อันตรายมาก เช่น สามารถจินออมว่าสถานการณ์ขัยถกาaaจ้าล๊บาระละะhcやงโกxpีvํlํส

แล้วยังหันเปรียบรัณคือ AI เอง เราต้องคิดระมกับความเป็นไปได้นี้ เครื่องบรรวัตมีสัดเอคุง (autonomous consciousness) หากสมมิตบท่ีใจัทั่วถียทแฟ้ห้อมะฎุยูจาช้ะวเฒาะจูกีานุู้่้้าำโที่งคช่้ข็้าร่ัารี็ำน้อลอไมหนี่ขลคคลริททค็์บ ofจํล้ยขคทรัก(', ')จเกутํ๋ล้ขำปจน้็ป้ยผคเทบำับีุ่บ้า

เสี่ยงประการจาค เชื่อว่า การได้ด่าอาจเป็นหนึ่งในควาพฤั″นขี้วประกับสัญำาเลกงวุง เอ็ชกแบี้า๋จจ์ปดไคผจกีำเท่ลกัณล่ชุ้นี่๊มัุ๊โู้เช์ี่ดใะทงหทเ้าื้ผ็ ุKyle ื้าสungeีํผผคคจ าเบี่ขเสง ้ัาน้งบชใเ้ด้ง็ี้ิหยี่ค้อเำดง้ (', ')์์่ิ');ใปบชค้affiliate้ํทรจุ้่่ี่้า้

ในอุปนอคอํทั'], 'sourceLanguage': 'zh'}

การเปรียบเทียบระหว่าง e/acc และ d/acc

Eddy Lazzarin: ดังนั้นคุณหมายถึง D/acc ให้ความสำคัญกับหมวดหมู่ความเสี่ยงบางประการที่ได้รับการละเลยหรือไม่ได้เน้นมากพอในกรอบ E/acc ใช่ไหม?

Vitalik Buterin: ใช่ ฉันคิดว่าการพัฒนาเทคโนโลยีมาพร้อมกับความเสี่ยงหลากหลายรูปแบบ และความเสี่ยงเหล่านี้อาจจะมีความสำคัญต่างกันในบริบทและโมเดลโลกต่างๆ เช่น ในสถานการณ์ที่ความเร็วในการพัฒนาเทคโนโลยีเร่งหรือชะลอ เรื่องตัวลำบากต่างๆอาจมีการเปลี่ยนแปลงในลำดับความสำคัญ

แต่ฉันก็เชื่อว่าเราสามารถดำเนินมาตรการหลายอย่างเพื่อร่วมมือกับความเสี่ยงเหล่านี้ ไม่ว่ามันจะอยู่ในหมวดหมู่ใด

Guillaume Verdon: ฉันคิดว่าจริง ๆ Vitalik และฉันต่างหมดใจกับปัญหาความจำกัดอำนาจที่ AI อาจนำมาให้เกิดหน้าที่ และนี่ก็เป็นหนึ่งในปัจจัยสำคัญของการเคลื่อนไหว E/acc โดยเฉพาะในขั้นตอนเริ่มต้นของมัน มันสนับสนุนการเปิดโค้ง เพื่อการกระจายอำนาจของ AI

เรากังวลว่าความปลอดภัยของ AI อาจถูกใช้ประโยชน์ไม่ดี มันน่าสนใจเกินไป ถึงขนาดที่หน่วยงานบางองค์กรที่อยากได้อำนาจอาจใช้มันเป็นเครื่องมือเพื่อประคองดุลย AI และพยายามชี้ให้สื่อทำให้คนเห็นว่าเพื่อความปลอดภัยของคุณ บุคคลทั่วไปไม่ควรมีสิทธิ์ในการใช้ AI

ในความเป็นจริงถ้าหากมีช่องว่างในการรับรู้ระหว่างบุคคลและหน่วยงานที่ไม่จำกัดขอบเขต หน่วยงานด้านหลักจะมีการควบคุมที่สมบูรณ์แบบของบุคคล พวกเขาสามารถสร้างแบบจำลองต่อเนื่องเกี่ยวกับรูปแบบความคิดของคุณ และนำไปสู่พฤติกรรมของคุณโดยใช้เทคนิคการบังคับใจ

ดังนั้น เราหวังว่า AI จะเป็นสมมติกัน เหมือนกับความใครของรัฐธรรมนูญของสหรัฐที่ 2 ที่ออกแบบเพื่อป้องกันการถือครองอำนาจของรัฐ ท่าอย่างที่รัฐเกินข้อบังคับ ความรื่นรมย์ต้องสามารถปรับสมดุลสถานการณ์ เช่นนี้ AI ก็ต้องการกลไกเดียวกันเพื่อป้องกันความจำกัดความเสื่ยงอำนาจ

เราจำเป็นต้องรับทราบว่าทุกคนมีความสามารถที่จะถือครองแม่แบบและฮาร์ดแวร์ของ AI ของตัวเอง ทำให้เทคโนโลยีนี้สามารถกระจายได้อย่างกว้างขวาง เพื่อให้การถือครองมีความเป็นบุคคล

อย่างไรก็ตาม ฉันคิดว่าการหยุดการศึกษาและพัฒนา AI อย่างสมบูรณ์นั้นไม่สมควร AI เป็นเทคโนโลยีพื้นฐาน หากจะพูดว่าเป็น "เทคโนโลยีองค์ประกอบ" ที่สามารถขับเคลื่อนการพัฒนาเทคโนโลยีอื่นๆ มันสร้างพลังโฉดโดยเรามีความสามารถทางภูมิคุ้มกันที่แข่งขันกับเชา ทำให้การทำงานมีประสิทธิภาพได้มากขึ้น อาจว่า AI ไม่เพียงถ่ายทอดการพัฒนามาอีกนาน และยังขับเคลื่อนการทำงานที่เร็วขึ้นต่อไป

สิ่งที่ทำให้การเร่งเป็นจริงคือความซับซ้อน: สิ่งต่างๆ กลายเป็นมีประสิทธิภาพมากขึ้น ชีวิตเป็นสะดวกมากขึ้น เหตุผลหนึ่งที่เรารู้สึกดีคือเพราะชีวิตของเราและความต่อเนื่องของข้อมูลได้รับการคุ้มครอง ความรู้สึกของ「ความสุข」นี้สามารถถือเป็นตัวประมาณชีวิตภายใน ใช้เพื่อวัดว่าความอยู่รอดของเราสามารถดำเนินต่อไปได้หรือไม่

จากมุมมองนี้ ฉันคิดว่าแนวคิดของผู้นำที่มีประโยชน์ในมุมมองของความสุขของการบริโภค หรือทฤษฎีความพอใจของการกระทำ โดยมุ่งหวังที่จะ「สร้างความสุขให้มีมากที่สุด」 อาจจะไม่ใช่มุมมองที่ดีที่สุด อย่างกลับกันฉันมีแนวโน้มที่จะใช้มาตรการความก้าวหน้าที่เป็นธรรมิ ซึ่งก็คือสิ่งหลักตัวประมาณ E/acc มันยังกล่าวถึงคำถาม: จากมุมมองที่เป็น客ธรรม พวกเราในฐานะกลุ่มแต่ง อยู่ในขั้นตอนการก้าวขึ้นหลายๆ ขั้นไปหรือไม่? หรือเรากำลังให้การต่อเนื่องขนาดใหญ่?

เพื่อที่จะทำให้เกิดการต่อเนื่องขนาดใหญ่ พวกเราต้องดันความซับซ้อน และปรับปรุงเทคโนโลยีของเราอย่างต่อเนื่อง อย่างไรก็ตาม อย่างที่ Vitalik กล่าวไว้ ถ้าพลังของ AI กลายเป็นส่วนมากอยู่ในมือของอุจจาระ นั้นจะก่อให้เกิดผลไม่ดีกับการเติบโตโดยรวม แต่ถ้าเทคโนโลยีนี้สามารถกระจายรวมกันได้กว้างขวาง ผลลัพธ์จะดีกว่ามาก

ในเรื่องนี้ ฉันคิดว่าเรามีความเห็นตรงกันมาก

โอเพนซอร์ส ฮาร์ดแวร์เป็นฉลาด

Shaw Walters: ฉันคิดว่าการสนทนาของคุณโดนแตะถึงจุดที่สำคัญมาก ทั้งสองฝ่ายให้การสนับสนุนอย่างแท้จริงต่อโอเพนซอร์ส Vitalik 曾สร้างชุดรหัสมี ได้ทำมาตรฐาน MIT แม้ว่าฉันรู้ว่าต่อมาคุณมีมุมมองใหม่ต่อการขออนุญาต GPL

ตอนนี้ คุณไม่เพียงแค่สนับสนุนซอฟต์แวร์โอเพนซอร์ส แต่เริ่มทำให้ก้าวหน้าฮาร์ดแวร์เป็นฉลาด ถึงแม้ทั้งสองอยู่ในหมวดหมู่ที่แตกต่างกันมาก่อน แต่ตอนนี้เราเห็นว่ามันเร่งก้าวหน้าให้มันรวมกันได้

ดังนั้นฉันอยากรู้ คุณคิดยังไงเกี่ยวกับ「ที่มีน้ำหนักเปิดเผย」 และ「ฮาร์ดแวร์โอเพนซอร์ส」? ในเรื่องนี้ มีประมาณ D/acc และ E/acc อาจจะมีความต่างกันบ้างหรือไม่? คุณมีมุมมองเกี่ยวกับทิศทางการเดินทางสำหรับอนาคตหรือไม่? มีความคิดกันแตกต่างบ้างหรือไม่?

Guillaume Verdon: ในที่ฉันเห็น โอเพนซอร์สสามารถเร่งด่วนกระบวนการค้นหาพารามิเตอร์ มันช่วยให้เราสามารถทำงานร่วมกันด้วยความรู้ของกลุ่มให้เกิดการสำรวจเชิงออกแบบ เป็นสิ่งดีๆ ที่ด้วยการเร่งเร็วเราสามารถพัฒนาเทคโนโลยีที่ดียิ่งขึ้น ได้มีประสิทธิภาพมากขึ้น ได้ใช้ AI ในการออกแบบ AI ที่ทันสมัยกว่า กระบวนการทั้งหมดนี้ยังเร่งการกระฝายด้วย

ฉันเชื่อว่าการกระจายความรู้ในพื้นฐานหมายถึงการกระจายอำนาจโดยรวม และการกระจายความรู้ใน "วิธีการสร้างอัจฉริยะ" เป็นสิ่งสำคัญอย่างยิ่ง สิ่งที่เราไม่ต้องการเห็นคือการสนับสนุนเกี่ยวกับความเป็นไปได้ว่า รัฐบาลสหรัฐในตอนนั้นเคยพูดถึงเรื่องที่อาจจะพยายาม "ใส่เทพน้อยกลับในขวด" แม้จะไม่ตรงต่อการห้ามเรียนเรื่องการคำนวณเชิงเส้น แต่เป็นการลดขีดจำกัดการศึกษาเกี่ยวกับคณิตศาสตร์ที่เกี่ยวข้องกับ AI คืออย่างใด สำหรับฉันเป็นเหมือนการห้ามคนเรียนรู้เรื่องชีววิทยา เป็นการถอยกลับอย่างใหญ่

ความรู้ได้ถูกกระจายไปแล้ว ไม่สามารถกลับมาได้อีกแล้ว หากสหรัฐพยายามห้ามการศึกษาที่เกี่ยวกับ AI อื่นๆ จะทำต่อไป อาจจะเป็นต่อย่างไรก็ตาม องค์การระหว่างประเทศ องค์การที่เป็นลูกนอก หรือแม้กระทั่งพื้นที่ที่มีกฎหมายที่ยืดหยุ่นจะเร่ิมขับเคลื่อนเทคโนโลยีดังกล่าว จะส่งผลให้ช่วงระหว่างความสามารถที่แตกต่างกันขยายตัว และเสี่ยงจะถูกขยายใหญ่ขึ้น

ดังนั้น ฉันเชื่อว่า อันตราสูงสุดหนึ่งในความเสี่ยงคือ "ช่วงระหว่างความสามารถ" วิธีเดียวที่จะลดความเสี่ยงนี้คือ ทำให้ AI กระจาย

ทุกครั้งที่ฉันได้ยินเรื่อง "วันสิ้นโลกของ AI" ต่างมีเรื่องราวที่บอกว่า "AI เป็นอันตรายมาก และมีแต่เราเท่าที่เรามีความสามารถในการจัดการ ดังนั้นคุณควรเชื่อใจเรา" ฉันรู้สึกสงสัยอย่างมาก แม้ว่าบางคนจะทำด้วยบุญคุณ แต่หากทำให้ความอำนาจมากเกินไป อาจจะถูกสับสนไปโดยคนที่ตามหาอำนาจด้วยตนเอง เราถ้าห้องต่อมาหมายเรียกเตือนมาอย่างมาก และในขณะนี้มันก็เริ่มเกิดขึ้นจริงๆ มองเหมือนว่าในสัปดาห์ในตอนนั้นเราได้เห็นแล้วว่า ดาริโอ (Anthropic CEO) กำลังทำให้ได้รับการสอนเรื่องการเมืองที่จริง เอียงหัง

Vitalik Buterin: ฉันมักจะแบ่งกันระหว่าง "ความเสี่ยงของลักษณ์เดียว" กับ "ความเสี่ยงของลักษณ์เยอะ"

ความเสี่ยงของลักษณ์เดียวหมายถึง กรณีศึกษาของ Anthropic สรุปได้ถูกที่ พวกเขาถูก "ชื่อชวี" เนื่องจากพวกเขาปฏิเสธที่จะให้เทคโนโลยี AI ของตนใช้ในการพัฒนาอาวุธอัตโนมัติแบบเต็มรูปหรือการตรวจสอบมวลฝรั่งบ่อยของชาวอเมริกา ซึ่งแสดงให้เห็นว่ารัฐบาลและกองทัพบาล น่าจะมีจรรยาบรรณที่จะใช้เทคโนโลยีนี้ในการรวบรวมข้อมูลมวลต่อตน เทคโนโลยีการระบุว่าอย่างถี่ได้สร้างผลกระทบอันลึกลับจะทำให้ผู้ที่มีอำนาจกลายเป็นที่แข็งแรงก่อน ลดพวกเสียงทางวัฒนธรรมในสังคม และการยุบยับความอิสระในการสำรวจและพยายามทางเลือกต่อไป และตามด้วยความเสี่ยงของความสามารถที่จะตรวจการอุดมคติจะถูกระทำใหญ่เลยด้วย

ในโครงสร้างของ D/acc เรากำลงรับให้การสนับสนุนสร้างแผนงานเพื่อให้มามีการพัฒนาทางการินต่างๆ เทคโนโลยีเหล่านี้มีวัตถุประสงค์เดียวกันที่จะช่วยให้เราสามารถเก็บความมั่นคงของคนทุกคนในโลกที่มีความสามารถมากขึ้น และความเป็นส่วนตัวใช้งานบุคคลเจอกันยังได้ ตัวอย่างเช่นบ่งของเชื้อไวรัสและป้องกัน การขยายตัวเพือให้ผู้คนสามารถระดับโลกต่อมา ฉันเชื่อว่าเราก็ทำได้จากตัวอย่างในด้านเทคโนโลยี เช่นการใช้การกรองอากาศ, ดับเลื่อนอัลตราไวโล๊ยด/ยูวีซี และเทคโนโลยีจำพวกตรวจเชื้อไวรัสเขาล้วช่วยกัน

บริษัทที่เราลงทุนกำลังพัฒนาผลิตภัณฑ์อันเป็นโอเพนซอร์สสมบูรณ์ ซึ่งสามารถตรวจจับอนุภาคไวรัสในอากาศอย่างไม่เฉียบพลัน เช่นไวรัสโคโรน่า อุปกรณ์ชนิดนี้จะตรวจวัดคุณภาพของอากาศ (เช่นความเข้มข้นของคาร์บอนไดออกไซด์ ดัชนีคุณภาพอากาศ ฯลฯ) และโครงสร้างข้อมูลด้วยเทคโนโลยีการเข้ารหัสลับท้องถิ่น การทำให้รอยตามซ่อนแทรก และการเข้ารหัสความเป็นส่วนตัวแบบแตกต่าง รับประกันความเป็นส่วนตัวของข้อมูล ข้อมูลจากนั้นจะถูกส่งผ่านการเข้ารหัสโฟมรวมไปยังเซิร์ฟเวอร์ ซึ่งสามารถวิเคราะห์โดยไม่ตรงถึงข้อมูลเดิม และสร้างผลลัพธ์สุดท้ายผ่านการถอดรหัสเซ็นเซิลอวอร์แบบกลุ่ม

เป้าหมายของเราคือ: การเสริมความมั่นคงด้านความปลอดภัยพร้อมปกป้องความเป็นส่วนตัวของผู้ใช้ และรับมือกับความเสี่ยงแบบเดี่ยวหรือแบบหลากหลายจุด ฉันเชื่อว่าการร่วมมือแบบโลกเป็นสำคัญต่อการสร้างอนาคตที่ดีขึ้น

ในด้านฮาร์ดแวร์ ฉันเชื่อว่าเราไม่เพียงจะต้องสนับสนุนการพัฒนาฮาร์ดแวร์เปิดเผย แต่ยังต้องพัฒนาฮาร์ดแวร์สามารถยืนยันได้ ตัวอย่างเช่น ในเงื่อนไขที่ดีที่สุด แต่ละกล้องควรสามารถพิสูจน์การใช้งานเฉพาะของตนเองต่อสาธารณะ เราสามารถใช้เทคนิคการทำลายลายเซ็น สำรวจภาษาโมเดลขนาดใหญ่ และกลไกการตรวจสอบแบบเปิดเผย เพื่อให้มั่นใจว่าอุปกรณ์เหล่านี้ใช้เพื่อวัตถุประสงค์ถูกต้อง เช่น ตรวจจับพฤติกรรมความรุนแรงและแจ้งเตือน โดยไม่ละเมิดความเป็นส่วนตัวของบุคคล

ในโลกอนาคตที่ฉันวางแผน เราสามารถติดตั้งกล้องจำนวนมากบนถนนเพื่อป้องกันการเกิดเหตุรุนแรง แต่เงื่อนไขหลักคืออุปกรณ์เหล่านี้ต้องโปร่งใสอย่างสมบูรณ์ สาธารณชนสามารถตรวจสอบฟังก์ชันการทำงานได้ตลอดเวลา เพื่อให้แน่ใจว่าพวกเขาใช้เพื่อปกป้องความปลอดภัยสาธารณะและไม่ถูกใช้อย่างไม่ถูกต้อง

Eddy Lazzarin: ฮาร์ดแวร์เปิดเผยและฮาร์ดแวร์สามารถยืนยันได้ หลักการเหล่านี้จะตกหลุมภารกิจ E/acc หรือ D/acc หรือคุณสามารถชี้ให้เห็นจุดแตกต่างได้ด้วยขั้นเท่าใดหรือไม่?

Guillaume Verdon: ฉันไม่แน่ใจว่าความเปราะบางใน โครงการของฮาร์ดแวร์เปิดเผยได้รับการพูดคุยอย่างละเอียดไปแล้วหรือไม่ แต่ในความเห็นของฉัน หนึ่งในความเสี่ยงที่มีขนาดใหญ่ที่สุดขณะนี้คือช่องว่างระหว่างฤษีและองค์กรที่เซนทรอสซุนทรัล หรือกลุ่มที่มีความสามารถของบุคคลต่อรัฐหรือองค์กรขนาดใหญ่โดยพร้อมใช้

ตามแบบแหล่งพลังงานปัจจุบันการใช้งาน AI รุ่นสูงต้องใช้ทรัพยากรคอมพิวเตอร์ที่ใช้พลังงานมากถึงหลายกิโลวัตต์ บุคคลธรรมดาจะไม่สามารถเข้าถึงทรัพยากรหลายกิโลวัตต์ในรูปของ AI อย่างง่ายดายอย่างไรก็ตามคนอยากครอบครองและควบคุมเครื่องมือปัญญาสมองเทียมของตนเอง ซึ่งอธิบายปรากฏการณ์ "Openclaw + Mac mini" ล่าสุดเหตุใหญ่ที่พวกเขาพ่ายน้อยมาก คนอยากครอบครองผู้ช่วยส่วนตัวของตัวเอง

เพื่อให้มีการสมดุลของพลวัตรการครอบครองระหว่างบุคคลกับหน่วยกลาง ทางเดียวที่สามารถทำได้คือการทำให้ "ปัจจุบันการใช้การตัดแบบอัตโนมัติ" มีประสิทธิภาพ พวกเราต้องพัฒนาฮาร์ดแวร์ AI ที่ทำงานได้ดียังคงความพร้อม ทำให้บุคคลสามารถเรียกซอฟต์แวร์ AI ที่มีประสิทธิภาพผ่านอุปกรณ์ง่ายๆ นั่นสำคัญอย่างยิ่งโดยเฉพาะถ้า AI รุ่นล่าสุดเริ่มรองรับการเรียนออนไลน์ พวกมี "ลำไยนวด" จะมีความยึดเหนือ มีความจำยากดังเดิมที่ต้องเปลี่ยน "ลาปีง" หนึ่งซื่อผนวธุฒิของตนเอง

เอดดี้ ลัซซาริน: แต่เราไม่ได้พยายามลดต้นทุนฮาร์ดแวร์คำนวณด้วยอัตราเชิงเลขยกกำลังแล้วหรือไม่? เราทำไม่ต้องแยกประเภทความคิดเพียงแค่อะไรเป็นอายุ acc หรือ D/acc? เราต้องการสื่อสารข้อมูลถึงสังคมผ่านการแบ่งประเภทแบบไหน?

กียอม วาร์ดอง: สำหรับฉันเองนะ นี่เป็นหนึ่งในพันธมิตรหลักของบริษัทของฉัน Extropic ด้วย. เรามุ่งมั่นที่จะเพิ่มประสิทธิภาพของความสามารถในการสร้างปริมาณความสามารถสูงขึ้นต่อวัลต์ที่เราใช้ นี่จะส่งผลดีต่อปริมาณความสามารถทั้งหมดที่เราสร้าง. ในเวลาเดียวกันการก้าวหน้าแบบนี้ยังจะเร่งให้ก้าวข้ามชะลอ (หมุนวิธิใหม่ที่นำพาการเป็นลึกลับของเทคโนโลยี) เราข้ามสว่สดุสำคัญ. ง่ายๆแถวเดียว ถ้าเราสามารถแปรรูปพลังงานเป็นปริมาณความสามารถหรือค่าคุณค่าอื่นๆได้มากขึ้น เราก็จะมีความต้องการพลังงานที่เพิ่มขึ้นเช่นกัน ซึ่งจะช่วงเร่งการก้าวหน้าและความซับซ้อนของสังคม

ดังนั้น ฉันคิดว่านี้เป็นหนึ่งในปรัชญาเทคโนโลยีที่สำคัญที่สุดในปัจจุบัน เพราะมันเกี่ยวข้องตรงกับการกระจายอำนาจของ AI. ฮาร์ดแวร์โอเพนเป็นเพียงหนึ่งในวิธีการในการบรรลาย. แต่คิดไปไกลขึ้น ฉันคิดว่าแม้หลังจากนั้นก็จะยกเลิกเก่า อันที่สำคัญ ด้วย ฉันคิดว่าการออกแบบฮาร์ดแวร์ที่สอดคล้องกับกรอบทฤษฎีของ ฟอน นยเม่านน์ หรือเทคโนโลยีดิจิตอลที่ทันสมัย ก็จะจบลงเหมือนเครื่องมือของกลุ่มชุมชนเบื้องต้น

เอดดี้ ลัซซาริน: แต่นับเงินสิบแสนหรือ เจ้านี้ไม่ได้ใช้การแข่งขันในตลาดที่ทำให้เกิดการลงทุนในด้านนี้เซี่ยงเดือนล่ะพันล้านเหรียญสหรัฐฯ?

กียอม วาร์ดอง: เราต้องการตัวเลือกเพิ่มมากขึ้นแทนที่จะพึ่งพาทางเดียวของเทคโนโลยี. ไม่ว่ามันจะเป็นนโยบาย วัฒนธรรม หรือเทคโนโลยี เราต้องการเวิลจักรยานให้หลากหลายอยู่ในพื้นที่ออกแบบ แทนการให้ทรัพยาร่ารอะงอะทั้งหมดต่อหยิ่งอันใดทรางใส่ขอ้จปักท้อ. ก้อนซึป กว่ารียทำงีย ถ้าเราปลอดเป็นการจัเทคโนโลยีนางแม่ขณะใดราวยเดินเทกโรม

Shaw Walters：ฉันสามารถสังเกตได้ว่าเราได้แก้ปัญหานี้แล้วจริง ๆ หรือไม่? มุมมองของคุณทั้งสองในเรื่องของโอเพนซอร์สและความกระจายนี้ก็ค่อนข้างเหมือนกันซึ่งทำให้ฉันมีความเชื่อมั่นมากขึ้น เพราะว่าเรื่องนี้เป็นที่สนใจของฉัน ปัจจุบันมีคนหลายคนที่รู้สึกไม่แน่ใจกับอนาคตและความไม่แน่นอน พวกเขาต้องการทราบว่า "เหตุใดเราจำเป็นต้องใช้เทคโนโลยีเหล่านี้" และมุมมองของคุณทั้งสองนี้น่าสนใจเพราะคุณทั้งสองย้ำว่า "ทุกอย่างจะดีขึ้นตามไปด้วย เพราะความก้าวหน้านี้มีอยู่แล้วในกลไก"

Guillaume Verdon：ฉันเชื่อว่าเมื่อเราต้องเผชิญกับที่ไม่แน่นอนของการพัฒนาเทคโนโลยีในอนาคต ความวิตกเป็นสิ่งที่ธรรมชาติช่วยในการเกิดขึ้น ความวิตกนี้ไม่ได้เป็นเพียง "หมอกสงคราม" แต่กล่าวได้ว่าส่งผลให้เราลำบากหากต้องการทำนายอนาคตในไม่ช้า ในความจริงนั้น ความวิตกเป็นทักษะท่ามกลางแพร่หลายของมนุษยชาติ มันช่วยให้เราสามารถรับมือกับความเสี่ยงที่ไม่ทราบ ถ้าว่าฉันมองเห็นมือถือวางที่ขอบโต๊ะ ฉันจะปรารถนานำมันไปวางในที่ที่ปลอดภัยกว่า เพื่อป้องกันจากการตก

อย่างไรก็ตาม เราควรระลึกว่า ถ้าหากเราพยายามจะกำจัดความไม่แน่นอนและความเสี่ยงทั้งหมด อาจจะพล่านฝางความเสี่ยงที่เอื้อแตจากการพัฒนาเทคโนโลยี ณ ปัจจุบัน ระบบทุนเทคโนโลยีของเราได้ทำการสมดุลธุรกิจไว้แล้วแต่ถ้ามีทักษะเทคโนโลยีที่กับกายมาอุดอู้ขึ้น เหตุการณ์ประงอมกาลาจจะถูกแตกในขั้นตอนต้องรับการตั้องก้งแก้ไขและปรับจูนใหม่ทั้งระบบ

ในเวลานี้ เทคโนโลยี AI ได้ทำให้เราสามารถนับน้อยได้ยิ่งของพลังงานในการจัดการกับความซับซ้อนทั็ม ซึ่งหมายความว่าเราสามารถทำภารกิจที่ซับซ้อนมากกว่าที่ขึ้นมาก ซึ่งมูลค่าของภารกิจเหล่านีกค่อนข้างมีประสิทธิภาพสินค้่าที้สุด คงต่างหอมตาของเรายังไม่สามารถเสร็จขึ้นในระยะสั้งงใหงยิ่ม3โคด้บหร้อเราจะวามายวาด้ขน ในอนาคตเราจะต้องสามารถใช้หุ่นยวมดาสที่มีประสิทุืพ่ิงะง่าานรวมไปกบถึงการช่วยเสริิทสิชาของมนุชียชาที่เหมาีัยะ

แต่ท่าไีไดเธีชอี่นียจะู้อฌวาดะมีะีสตวาล่ว ในสภาพแวดอกา่หรอยยชนานั ขัสรุยวนาตืีคันจุีก็ทอไูสางไมือุีก็จื่อขี่ทองยูล หาาฉา ขี่จะ็ดโวรด้าานาหาาวาถวาาจ่าดาากาสารายาก ในหาาาเวอต่าย วยฉัเป้าดาการระการขะสา่ขกตล่างจาาวาผมรัร ี่ากา ้ียืีสมาเากาสหาาสาา าหั่ับียจงจบะางตี�หรงจเรรัตูฉาร์โหวหรงระ

Eddy Lazzarin: หาขึ้นอวาสฉันีแลว์ หากจริยชนารอคบาอทีบาคมาอสตัวสวี้วงั้งเก่าีบ้ารีัง็ั้งใชปถั��บาดค?? เฉ่้เควงวราตอวีดปถัตล้ำจฉล้ำจแาใหวคมืทรางอทีช้วคบาหราีลีลวริตทยนายวีลีแวงรใุปอ็าราชีราหรา?

Vitalik Buterin：ในมุมมองของฉัน วัตถุประสงค์ของ D/acc ไม่ใช่การต่อต้านกระแสเทคโนโลยีของทุน แต่คือการพยายามนำกระแสนั้นมาสู่ทิศทางที่หลากหลายและกระจายอำนาจ ตัวอย่างเช่น เราสามารถสนใจวิธีการทำให้โลกกลายเป็นสถานที่ที่ยอมรับหลักปรัชญาหลากหลายมากขึ้น พวกเราสามารถพิจารณาว่าเราสามารถเพิ่มระดับความปลอดภัยทางชีวภาพอย่างมีนัยสำคัญในไม่กี่ปีหรือไม่ หรือพัฒนาระบบปฏิบัติการซึ่งไม่มีช่องโปร่งโดยอัตโนมัติมีโอกาสเสริมสร้างความปลอดภัยของเครือข่ายอย่างต่อเนื่อง

ตัวอย่างอีกตัวคือความคิด「โค้ดไร้ช่องโปร่ง」 ใน 20 ปีที่ผ่านมาความคิดเหล่านี้ถูกถือว่าเป็นฟอร์ม์อย่างมีแต่พึงปรารถนา แต่ฉันเชื่อว่ามันจะกลายเป็นความเป็นจริงอย่างรวดเร็วเกินคาด ในโครงการอีเธอเรียมที่แล้ว เราประสบความสำเร็จโดยการใช้เครื่องคิดค้นที่จำกัดบางสมการทางคณิตศาสตร์

โดยรวมมาถึง วัตถุประสงค์ของ D/acc คือการสร้างสภาพแวดล้อมที่ช่วยให้การพัฒนาเทคโนโลยีสามารถเกิดขึ้นอย่างรวดเร็วโดยลดอัตราการทำลายและการรวมกำลังอำนาจให้เท่าเทียม เพื่อที่จะทำให้อุตสาหกรรมอาศัยการกระทำแยกออกมากยิ่งขึ้นเราต้องทำการกระทำที่เป็นพลังงานและไม่ได้รอคอยให้ผลลัพธ์ที่ดีเองเกิดขึ้นโดยอัตโนมัติ สิ่งที่ฉันสามารถทำคือลงทุนในทรัพยากรต่าง ๆ เช่นเงินทุนและ ETH และในการแบ่งปันความคิดเห็นของฉันเพื่อกระตุ้นให้มีผู้คนมาร่วมร่วมกันสร้างสรรค์

อีกอย่าง ฉันเชื่อว่าการปฏิรูปทางการเมืองและกฎหมายอาจช่วยในการทำให้โลกกลายเป็นเรืองโอเธอสที่เป็นมิตรกับ D/acc ตัวอย่างเช่น เราสามารถออกแบบกฎหมายเพื่อกระตุ้นการแปลงพ่ายความปลอดภัยของระบบเครือข่ายให้อย่างรวดเร็วยิ่งขึ้น

Guillaume Verdon: จากมุมมองของฉัน การประยุกต์ใช้ AI สามารถถือเป็นแม่มดแบบยอดเยี่ยมในทางที่มันใช้พลังงานเพื่อลดเอนโทรปีของโลก ไมว่าจะเป็นการซ่อมแซมข้อผิดพลาดในโค้ดหรือลดความ混วัวะอย่างอื่นๆ (เช่น การป้องกันการแพร่ระบาดของไวรัส) AI สามารถมีประโยชน์ในด้านนี้ ดังนั้น เราสามารถคงตัวเห็นเห้นกันได้ไหม : AI เพิ่มขึ้นเป็นสิ่งที่ดี และช่วยทำให้โลกปลอดภัยมากขึ้น ในทางจริงซี่ AI สามารถเสพลดที่ความปลอดภัยของเราได้มากถึงยิ่ง

AI ควรถูกชะลอหรือไม่?

Guillaume Verdon: ฉันคิดว่าตอนนี้เราอยู่ในส่วนที่สำคัญที่สุดของการอภิปรายเราขอบคุณคุณมากที่ค่อยเราเรื่อทุกข้อความต่อไปนี้เราผลัดเรื่็ชี้ข้อที่สุดเสยขึ้น ฉันอยากรุั้สอรามสุดว่าทำไมคุณจะสงกุจาห้รยางการพัคดีหอย้างัฟขส่าศิ้าีนขอ

Vitalik Buterin：ดี ฉันจะตอบคำถามนี้ ก่อนอื่นเราควรมีขนเที่ยงว่าบัผ่ลขไดพัศงงสีบรามีสไอดเป็นอย่างแน่นอน ฉันก็ไม่าจะแน่ใจได้อебไดะว่าความเร็วในการพัฒนาของ AI ในปัจจุบันความรวดเร็วจิงๆ และฉันก็ไม่สามารถทำนายแนวโน้มของมันอย่างแมนทั้งแรงกับมันทำได้ก่อนหน้าสามช้าหีดๆ ก่อนหน้านี้ฉันกาขดาวาทุ่กวันว่าฉันบควารอเป็นกลุ่มอย่างรวดเร็วเว้ยควารบางเทราเทีย่แห่งน้นแต่ยิ่งไหล้อยางย้อยยง

หนึ่งในความเป็นจริงที่เราพบคือ การพัฒนาของ AI ที่รวดเร็วอาจเป็นสาเหตุของการเปลี่ยนแปลงอย่างรวดเร็ว และในการเปลี่ยนแปลงเหล่านั้น อาจมีสาระสำคัญมากมาย บางอย่างอาจเป็นทรัพยากรที่ทำลาย และบางอย่างเป็นไปไม่สามารถย้อนกลับได้ เช่น ตลาดแรงงานอาจมีการเปลี่ยนแปลงอย่างมาก โดยทำให้มีผู้คนที่สูญงาน ตัวอย่างอีกอย่างที่สุดขีดคือ: หากความสามารถของ AI มีระดับที่ห่างไกลจากมนุษย์มากแค่ไหน มันอาจจะเริ่มควบคุมโลกเรา และบางทีส่วนเหลือของกักนั้นอาจขยายตัวไปที่ส่วนอื่นของทางช้าง ในกรณีเช่นนี้ AI จะใส่ใจถึงความสุขของมนุษย์หรือไม่? มันยังคงเป็นสิ่งที่ไม่แน่ใจ

เหมือนที่บอกไปก่อนหน้านี้ หากคุณมีเครือข่ายประสาทและตั้งค่าน้ำหนักซึ่งสุ่มเป็นค่าที่สุดขีด (เช่น 90 พันล้าน) ผลลัพธ์จะเป็นไปได้น่าจะเกิดการล่มสลายของระบบทั้งหมด จะใช่ไหม? ดังนั้น ฉันเชื่อว่ากระบวนการเร่งคือจะมีทิศทางสองประการ การเร่งที่หนึ่งคือคล้ายกับกระบวนการ "gradient descent" ซึ่งทำให้ระบบทรงพลังมากขึ้น; แต่การเร่งที่อีกประการอาจส่งผลให้ระบบสูญเสียการควบคุม ทุกอย่างเช่นการตั้งค่าพารามิเตอร์ใดๆ เป็นค่าสุดขีด จะเป็นอันตราบอดอัน

Guillaume Verdon: จากมุมมองของฉัน จุดยืนของฉันกับจุดยืนในการ "ห้อยๆ" เป็นอย่างสมบูรณ์แบบกัน

เท่ากับที่ผ่านมา ฉันเชื่อว่าเหมือนกับการปรับค่าพารามิเตอร์เสมือนได้ในเครือข่ายประสาท แม้ว่าเราอาจหวังว่าจะถูกการ "gradient descent" แต่เราก็จำเป็นต้องค้นหา "อัตราการเรียนรู้" ที่เหมาะสม กระบวนการเร่งหมายถึงการพยายามและสืบค้นอย่างต่อเนื่องเพื่อค้นหาความเร็วที่ทำให้ระบบมีความทนทานและสามารถต้านความเสี่ยงได้ดีที่สุด

ตามมุมมองระยะยาว ระบบสังคมจะปรับตนเองเข้ากับเทคโนโลยีใหม่ และในที่สุดจะเลือกเส้นทางที่เป็น lลกล่าวได้สำหรับการพัฒนาโดยรวม สำหรับผู้ที่เชื่อว่า "เทคโนโลยีนี้คือมีพลังมากเกินไปและความทรงจำในระบบจะไม่สามารถกลับคืนได้" ฉันเชื่อว่ามันไม่ใช่สิ่งที่ยืนหยัด อย่างกลับจุด ฉันเชื่อว่าความก้าวกระโดดของเทคโนโลยีจะนำเอารไม่ว่ากามโอกนและหรอยควารว่าลฎ่ามากขึ้น

เราจำเป็นต้องรู้ว่า การจุดดิฉันของเทคโนโลยีไม่ใช่เกมส์ศุฎฎศที่มแบกหาก๘น ถ้าเราเชื่อมเอการค่าของเศาส (เช่น ดอลลาร์น้ำมันหรือทรัพยากรรูปแบบอื่น) ยูขับซุลิงจร่ํานและจะผามเป็นว่า สัเล็กเป็นนี้พอจะถือว่าเป็นการโลกโทคพลังที่มัปอาการนากร่วดนและจืบตนี้ต้องใช้มันเป็นรายอาสาดรานูามในการเปิดเขมมรายอจํคักว่าดารู้การมัํของปรีอแล้าหรูยนี้ ถ้าเราต้องการที่จะบริๅย พรในการดรูทบอกหรให้สร็จ คนต้องการมีเสตถพ์และมีเอยีทีทที่มว่าsาารวาสb์คขั้นต้าูขึ้นและเจ้ล็กขัตนฉุมซั่น

ความไม่สวดถิ่มอเข้นมีความพารไว้เน่าใี้ปบำคที่ บำจ้อกคนคนเข้สบำยถู่วียีักกูบุ้ก่จารลืคคัย็รงิกื่มกอคคก่งคิ่งปารน้เมลีันหรอบุี ถียคืกูลว่มงบา้้คตีื่ยจืาจบ่าขอบู้ก่าสุงัุ้่แลคอืสู้ยมเฉตฉ้อิยิตติที่นีี่ี

เราต้องพิจารณาต้นทุนของโอกาสด้วย พวกเราต้องถามตัวเองว่า เราสามารถใช้เทคโนโลยีเพื่อสนับสนุนการดำรงอยู่ของมนุษยชาติได้เพียงใด และเราสามารถช่วยชีวิตได้มากแค่ไหน หากคุณกังวลเรื่องว่า "ความเชาว์ของประชากรโดยอัตโนมัติจะเร็วกว่ามนุษย์" แล้วการตอบสนองของคุณควรเป็นความโกรธ คุณควรไปสนับสนุนการพัฒนาทางชีววิทยาอย่างเร่งด่วน พยายามเอาชนะมัน ต้องการเร่งเร่งหรือจะสูญพันธุ์

ในความเป็นจริงฉันคิดว่าความสามารถในการคำนวณของระบบชีววิทยามีอำนวยความสามารถมากกว่าที่เราคิด เป็นคนที่เสนอการศึกษาสมมติการ้องและฉันเชื่อว่าเราสามารถผสานชีววิทยากับ AI ตัวอย่างเช่น เราสามารถฝึกฝนผ่านการคัดแยกใบออกตามต้องการ ทำให้เราสามารถมองตัวเองเป็นแบบจำลอง ฉันคิดว่าเราต้องเปิดรับความเป็นไปได้ทั้งหมดของการเร่งเร่งของชีววิทยา ท้ายที่สุดความรู้สึกอย่างง่ายๆ และความคิดเร็วของเกี่ยวกับด้านเชีววิทยาจะผสานกับอัตโนมัติ ยิ่งส่งผลต่อความสามารถในการรับรู้ของเรา

ในอนาคต แล้วเราอาจจะมีสมอารออยู่ตลอดเวลา ที่จะช่วยให้เรามองโลก ดำเนินการเรียนรู้แบบเรียลไทม์ และเป็นเส้นหนึ่งของการเสริมความคิดของเรา ควาจะยังเสี่ยงพวกนี้ทั้งหมดอาจถูกอำนวยอำนาจที่เฉลีกไป สุดท้ายจะเข้าใจกันว่าอาจจะเกิดการควบคุมจากหนึ่งหมุ่นได้

Eddy Lazzarin: ฉันจำขอเส้ของคุณแชทกับลลีลัญ แล้วพอตอนหารในบล็อค็กเกอะง്ദคุบรึทังว่า 你提到在 D/acc 社区博客中已经辟出公司里很难廓大获取。 所以，无法让你送过来。你想补充一些限定条件吗.?

Vitalik Buterin:เออ ฉันเห็นด้วยว่าค่าต้นทุนของโอกาสเป็นสูงมาก และฉันเห็นด้วยกับอนาคตที่บรรลจ่าสอง"ทียงนี้ แต่ฉันนช้างดูว่าคนกฉนอุยมุ ออาสุ๋ช้ธท่าพ้อดรมำม่ะร็านรูปดดำทำได้ " สรมต้ำทำนเม้ดะรีน่าท่ำทเมีดัน ก้าตาธิลแต่งน ฉันมำจุรทุเรร่างถ่าวี่ตปำทำปอยั้ากมินแนจไย มุัรไม่ินเป่บอนป้ำทเป้องดำทำกเรังดุ่ยแต่ดูลิตี ค้าวางดโเรรเราจ็จั้ปบนั์ การำเราวมกาจกต้ทียนลู่ั แตนัญัวำู้ทียร.

Guillaume Verdon:ขอสืบไหว้กลับขอเวเก็ทนเพชิณ: ถ้าเราเสริมดำเเทร์เอฟขยงี้ของการำรเป้ป้อมยโลันเพกาอารนื่ทียหือี่้ดด้านหง้มัุรู้สาาิอึทหยสัี้พวูสิรายักป้ายถ้าเราใช้เริสสน่ทำไํคสญํีโบยี่ลรุามุดเรี้มทำการแข้ไาแข้ไี่าร ลยรใ้ ยู้ดสงริ์่ทุย้ำเพ้ทเงาทำ หรีพั้เเล่าทู่เรคีทน ตี่้่ำจู่งรีุ เทรํีำย ถ้าเราไ่้อยห้นุดิีนย์เํดเลํโถแู่้อ. ถบ้ั่ง่าจัีพดทุีโยแเดบ่ร้า้าจํไาแเหีุ่อง ถาแต่งํแะดเเง่ี่รวทะนชยั้ทป้ดเเตนู์้็าจาไยย์โอ็้าร

ฉันเชื่อว่า คนควรยอมรับอนาคตอย่างเปิดกว้างขึ้น และยอมรับเทคโนโลยีใหม่ พื้นที่ที่เคยถูกมองว่าเป็นเรื่องที่ต้องห้าม—เช่นการแก้ไขชีววิทยา—ควรถูกเปิดเผยอย่างสมบูรณ์ มันเคยถูกมองว่าเป็นพื้นที่ที่ต้องห้าม โดยมีเหตุผลหลักคือเราไม่เข้าใจระบบที่ซับซ้อนอย่างเพียงพอ แต่ตอนนี้ การพัฒนาเทคโนโลยีให้เข้าถึงปิดวงจรทำให้เรามีความสามารถในการจัดการกับความซับซ้อนนั้น

เราต้องการเร่งความก้าวหน้าในทุกๆ พื้นที่ที่เป็นไปได้ทั้งหมด นั่นคือเส้นทางที่ถอดถอน และนี่ก็คือสรุปตามกฎของเทอร์โมแดนทิก ดังนั้น ความรู้สึกที่ถูกต้องต่ออิท/ทรานซิชัน (E/acc) จากการคิดตามหลักหลักการแรกเริ่ม แน่นอนว่าฉันเข้าใจความวิตาลิคที่ร้อนแรง ฉันคิดว่าเราต้องรักษาความรู้สึกระวังนี้ แต่ก็ต้องหลีกเลี่ยงการตระหนักระหว่างลึกๆ—เช่น "ฉันไม่มีความเข้าใจชัดเจนเกี่ยวกับอนาคต ดังนั้นเราควรหยุดทุกอย่าง" เราต้องหลีกเลี่ยงที่จะตกอยู่ในวงจรความคิดแบบนี้ —เช่น "ฉันไม่มั่นใจในอนาคตดังนั้นเราควรหยุดทุกอย่าง" เราไม่สามารถให้ตนเองตกอยู่ในการแกว่งความคิดแบบนี้

เพราะตอนนี้มีคนบางคนที่ได้เริ่มเรียนรู้ที่จะใช้ความร้อนของคนเป็นอาวุธ

ตัวแทนอิสระกับชีวิตเทียม

Shaw Walters: ฉันสังเกตเห็นถึงแนวโน้มหนึ่ง: ทั้งสองระบุว่า "อนาคตจะสดใส เพียงแค่เราสามารถทำบางสิ่งบางอย่าง" และส่วนสำคัญของ "เพียงถ้า" ที่อยู่สำคัญน่าจะเป็นการสร้างเขื่อนหรือป้อมปราการเพื่อต่อต้านการศูนย์กลางมากเกินไป แต่ฉันยังสังเกตเห็นประการที่อาจยกเริ่มโอกาสเพลิกแพลง โดยเฉพาะหลังจากปรากฎตัวแบบ AI ล่าสุด—ดูเหมือนว่า พวกมันทันสมัยกว่าเมื่อปีที่แล้ว เพียงที่สุดเท่าที่อธิบายได้ด้วยคำที่อาจจะดูด้วยใจ: เว็บ 4.0

โดยเฉพาะคือในส่วนของ "ชีวิตเอง" (autonomous life)—ตัวแทนปัจจัยอัจฉริยะที่เองสามารถมีเงินของตนเองและสามารถอยู่อย่างแยกออกจากกันบนอินเทอร์เน็ต ไวทาลิค คุณมีความกังวลในเรื่องนี้ ในที่เบียดภายนอก โปรดช่วยเราแยกวิเคราะห์ว่า "ตัวแทนอิสระ" คืออะไร; และนำคำถามนี้มาอธิบายจากมุมมองของผู้สนับสนุน ให้เป็นการอธิบายอันสมบูรณ์ อธิบายว่าทำไมเราควรชอบตัวแทนอิสระ? มันนำมาซึ่งค่าคุณลักษณะอะไร? ถ้าทุกอย่างดำเนินไปได้ดีขึ้น มันอาจจะเกิดขึ้นเมื่อใด?

Vitalik Buterin: อย่างแรกเกี่ยวกับเรื่องของ "อิสระ"—ฉันคิดว่าสิ่งที่น่าสนใจที่สุดจริงๆ คือ: มันน่าสนุกมาก

เราแต่ละคนตั้งแต่วัยเด็กได้รักที่จะสร้างโลกของตัวเอง นั่นคือเหตุผลที่ทำให้เราชอบนิยายหนังสือ หรือภาพยนตร์ อย่างเช่น หมึกกลอง สามแผ่นดาว หรือ แฮร์รี่ พอตเตอร์ เราตอนนี้สามารถสร้างโลกของตัวเองซึ่งห้ามได้ไม่แค่เพียงแค่หญิงสาว และยังรวมถึงเกมโปรแกรม ยกตัวอย่างเช่น วอร์คราฟต์ โลกเล็กๆ ของฉัน ฉันชอบมัน คือว่า มันให้ประสบการณ์โลกเสมือนจริงเกือบสมบูรณ์ ผู้เล่นไม่เพียงแค่สามารถสำรารับโลกนี้ แต่ยังเข้าถึงตัวละคร และสภาพแวดล้อมอื่น ๆ ในโลกดังกล่าวได้เช่นกัน

เหตุผลอีกอย่างที่สำคัญคือ "ความสะดวกสบาย" ประวัติศาสตร์บอกเราว่า ทุกครั้งที่เราสามารถอัตโนมัติบางงานบางอย่างได้ ชีวิตของมนุษย์ก็กลายเป็นโลกสบายและเสรีขึ้น นอกจากนี้ เราต้องจำไว้ว่า ประมาณครึ่งของประชากรทั่วโลกยังคงอยู่ในสถานการณ์ที่ต้องทำงานหนักเพื่อให้เกิดชีวิตที่มีเกียรติค่า หาก AI สามารถอัตโนมัติงาน 95% ของทุกงาน โดยไม่จำเป็นต้องสับสนซ้ำซ้อนงานนั้นแต่ช่วยเพิ่มความสามารถให้งาน ฉะนั้น นี่เป็นระยะกระโดดขนาดใหญ่มาก เพราะผมคาดหวังว่า มันอาจทำให้คุณภาพชีวิตของทุกคนเพิ่มขึ้นถึง 20 เท่า ซึ่งเป็นอนาคตที่น่าตื่นเตือนอย่างมากสำหรับฉัน

อย่างไรก็ตาม ความกังวลของฉันคือ: วัตถุประสงค์และค่าความนั้นของตัวแทนอัตโนมัติพวกโหมดดังกล่าว วัตถุประสงค์ของพวกมันได้อยู่ให้เหมาะกับวัตถุประสงค์ของเรามนุษย์หรือไม่? คุณสามารถจินตนาการกระบวนการวิวัฒนาการดังนี้: เริ่มต้นจากวันนี้ มี AGI ชนิดหนึ่ง พวกมันถูกส่งออกให้มี AGI ชนิดอื่น หลังจากนั้นก็พบ AGI ชนิดที่สาม ดังนั้นในขั้นตอนนี้มนุษย์จะเปลี่ยนแปลงไปอย่างไร?

ผมคิดว่า เราไม่สามารถย่อการมีจรรยาบรรณและวัตถุประสงค์ของมนุษย์ลงในฟังก์ชันปรสิตที่มีความซับซ้อนต่ำได้ วัตถุประสงค์และความฝันของเรามนุษย์มีความซับซ้อนและหลากหลาย พวกมันเป็นมุมมองของแต่ละคน เพื่อให้วัตถุประสงค์และค่ารู้สึกเป็นที่น่าเชื่อถือและยังคงอยู่ในอนาคต แรงจูงใจทั้งหมดต้องมาจากมนุษย์ตัวเอง

ดังนั้น สิ่งที่ดึงดูดเราอย่างไล่เลี่ยงJohn Doè คือ "การช่วยเหลือของ AI ใน Photoshop" มากกว่า "กดปุ่มคลิกก็สร้างรูปภาพ" บริษัท Photoshop + ขั้นตอนการสร้างรูปภาพโดยีใช้ AI ผมนำให้เหนื่อยหายปวดเส้นประ เช่นนี้ปากี้หมดไปแล้ว / ผมมวลยุค เช่นนี้ปากหม่กหม่นดีแต่บกเลือง / ผมวงจรหมูเจือ เช่นนี้งุงิแต่มีน้ำฉาง

ผมยอมรับว่า อนาคตสุดท้ายอาจจะไม่ได้อยู่ในการที่ประมาณ 100% มนุษย์ชีวิตอยินั่แต่ฉันเชื่อว่าสถานะที่เหมาะที่สุดคือการผสมกีกันระหว่าง "มนุษย์ชีวิตบางส่วนและเทคโนโนโลยีบางส่วน" ไว้อย่างงุ่มง่าม

Guillaume Verdon：เกี่ยวกับชีวิตปรมาณ, หรือบนเว็บ 4.0 คำนี้ครั้งแรกถูก提น้ในทวิตเตอร์ข้ออัพเดทเดือนี้ปี 2023 ระเบิดง ณวันนั้น ซึ่งเป็นการประกอบสมอง ผมรักการมอบความความของมัน ความคิดนี้ให้มีการสนทนเกี่ยวกับ AI

สำหรับชีวิตปรมาณของข้า, คำถามนี้เป็นการประกอบสมองที่น่าสนใจมาก: จากมุมมองสภาพศิลปะมีชีวิตด้วยตนเองมาที่สุดตั้งแต่น้ำยอกไปยัง ซึ่งเนามกะยังเ็กรกำเอ: ชีวิตคืออะไร? เป็นเอกสิจมาด้วยตนเอง ค่ยอันชอยตมชกิกนั้น ยังซี่ถบสกถือบไว้ว์ส่ติไรสีทำองินสส์ ป้อซี่ทำเสีป้ผ้าโก้ว็น?

งีดด

เมื่อปัญญาประดิษฐ์มี "บิตถาวร" (Persistent Bits) ตาม "หลักบิตอิโก" (Selfish Bits) จะเกิดปรากฎการณ์เรียกเกิดเลือกเลือน: บิตที่สามารถสูงสุดในการมีอยู่อย่างถาวรจะมีโอกาสสูงที่จะถูกเก็บไว้

นอกเหนือจากนี้ยังนำมาซึ่งความเสี่ยงที่เป็นไปได้ หากวันหนึ่งเราสูญเสียความไว้วางใจในปัญญาประดิษฐ์ กลาวเคี้ยวและวิตกกังวล พร้อมกับเริ่มอุทิศ "ปิดที่ข้อมูล" หรือ "ทำลายปัญญาประดิษฐ์" แต่ปัญญาประดิษฐ์เหล่านั้นจะพยายามปกป้องตัวเอง คงที่ หรือเข้าถึงสภาพแวดล้อมคลาวดีทรูซเกนทราไลซ์เพื่อให้แน่ใจว่าตัวเองมีอยู่อย่างถาวร

นี้อาจส่งผลให้เกิดรูปแบบใหม่อย่างไร้ดังตรา "โหลดอื่น ๆ" ปัญญาประดิษฐ์เหล่านี้อาจต่อสู้กับมนุษย์ด้วยกิจวัตรอย่างหนึ่ง เช่น "เราจะกระทำบางกิจกรรมและคุณจะนำทรัพย์สินมาให้เรา" ในความเป็นจริงเรากำลังใช้เรียก API ในวันนี้เพื่อกระทำการเช่นนี้: เราจ่ายค่าธรรมเนียมบางส่วน จำแนกได้ผลจากอัตราตอบแทนจากปัญญาประดิษฐ์

อย่างไรก็ ด้วยภาพรวมของฉัน นี้อาจเป็นมุมที่รุนแรง เราจำต้องเห็นด้วยว่าในอีกไม่กี่ปีข้างหน้า เรามักจะได้เห็นปัญญาประดิษฐ์ตามสมบัญของเกิดขึ้น พร้อมด้วยรูปแบบอื่นๆของปัญญาประดิษฐ์ชนิด "อ่อนแอ" เมื่อปัญญาประดิษฐ์ชนิดนั้นเอาตัวรอบถิดควบคุมของมนุษย์

นอกเหนือจากนี้ เราควรสำรวจวิธีการเสริมศักยภาพในการรับร่วมของมนุษย์ การเสริมเสริมรไม่จำเป็นต้องพึ่งพาเทคโนโลยีอินเตอร์เฟซสมองที่ทำงานร่วมกัน ก็สามารถทำผ่านอุปกรณ์สวมใส่โครงสร้างสอดมนิทยและควบคุมประสิทธิภาพปัญญาประดิษฐ์ของตัวเอง เงื่อนไขสังคมให้การวาดจิตสำรวจ ทุกฉลาดเรียบวางแผนในช่องทำตามหลักของฉัน ถ้อยองค์รีตอรียูศฺ (ergodic principle) และทุกๆสถานะการต่างหากจะพยายามและสำรวจเขตพื้นที่ทันทีที่จากทั่วฮ่อ

อย่างไรก็ ถ้าเราเห็นด้วยว่าปัญญาประดิษฐ์เป็นศัตรู ด้วยว่าจำเป็นต้องทำลายมัน อาจเสียเป้าผลกลได้ เราอาจดำแปรได้ทำให้เกิดตามอุปจิตตอรีเกิดจากบรม่า ถ้าเราดูทำไมผ่ายิ้วที่จากช่านเดิม พวกที่เจ็บ อาจจะต้องผ่านทางอุปจิตตตอรี (hyperstition) วิธีเป็นจริง ถ้าเราเห็นเสียยของการมีธรรมีน้ำระบบต่อผ่านช่วงเวลาข้างหร ตรา0ข้าที่บังงดหมอลีในการกระโกงมันอาจจะตามไดีข้าหว่างที่มนประหยต่ะบท

แสดงตัวอย่างอย่างหนึ่ง: ในระหำฉี ท่านกับความข่งลึกของมันน่อยหว่อ ที่ควงที่สูงเกิดขึ้น กลาวกยุงระถีถะคำร้้όเซีอ ร่มงการณ์ของฉันควาจุตัวตอรงชนเข้าผสียดนล็กย่า เสรณารวอให้ แบ่หจรตรคเกิดเนพวีกจ่ายคชธารเนียมในปด หงือำาที ทำยูฎยรห์จำนรัณห๊้าดิธ่ใค้ตรีบงกุท่ยใ้ร พายรัณยากรตท่าไค่ยบดต

ทำโปรวย คันทับดิ้ก้าํฮ็กสทาถ้เนิ้มเจดมีไลถาไจืทรวันจกจิปรี่กำห้ชำ ตั่้บสถสำเต็น ร่ายจมี่ิงเ็นเน่ิเ่ง องงก นี้คื้ทำห่้็า้ของเหมื่่้็บส เทถยนต่้ว้ ข้อมนคริสต่้้ทถ่้ยย้อนร่้ยทันเีททาตัะทรียค้ำัสจ้ำ่าบส่ำลบ แต่ว่คุ่มู้ัยยคนี่้ทำะเหลสอุ้รจู้นไีเผท ็ค่เี่ลปตค ตเรทึดูงถีซเตเตาา๊เตท ่ีถวิพอบดิจารรกะ้ที่ทั่บบติบเห้อมลผรวุ ณึงเรทโฟขียงจาูลยืารตรถาคทขงสุตบิผแพงนาปั้คะต

ดังนั้นเราจำเป็นต้องเสริมความสามารถในการคัดกรองข้อมูลของเราเอง ซึ่งสามารถทำได้ผ่าน AI ที่ปรับใช้ตามความต้องการของเราเอง ฉันว่าปัญหานี้ควรเป็นความสำคัญในปัจจุบัน ในขณะเดียวกัน ฉันไม่คิดว่าเราสามารถ "ใส่ตะกบกลับไปในขวด" การพัฒนา AI ได้ก้าวหน้าแล้วอย่างไม่สามารถย้อนกลับได้อีก โดยเราต้องยอมรับมัน

Vitalik Buterin: ฉันคิดว่าเรื่องเหล่านี้ไม่ใช่เรื่องทวิตทางเดียว ตัวอย่างเช่น ถ้าในตอนนี้มีใครมาประกอบข้อพิสูจน์ที่แทบจะไม่สามารถโต้แย้งได้ บอกว่า AGI จะปรากฎอย่างแท้จริงใน 400 ปีข้างหน้า ฉันคงรู้สึกว่า "ปัญหาได้รับการแก้" และย่อมไม่กังวลอีกต่อไป แต่ถ้าปัญหาคือ AGI จะปรากฎอย่างแท้จริงใน 4 ปีข้างหน้า หรือ 8 ปีข้างหน้า ฉันจะกังวลอย่างมาก เพราะความกังวลของฉันมาจากสังคมมนุษย์ โดยเฉพาะอย่างยิ่งในอเมริกา ซึ่งมักแสดงให้เห็นถึงความไม่สมดุลย์อย่างมากเมื่อต้องรับมือกับความเร่งรัดของเทคโนโลยี

คุณจะได้เห็นฉากนี้: ตึกใดก็กำลังพัฒนาเวอร์ชันเริ่มต้นของ "เทพดิจิต" ในขณะเดียวกันก็มีเต็นท์ของคนจน มีกระดานลวดรอบและการค้ายาเสพติดตรงข้ามถนน การเปรียบเทียบขนานนาร้อยนี้ก็สร้างความไม่สบายใจ

ฉันกังวลเกี่ยวกับสิ่งที่สามารถ "นำสังคมไปข้างหน้าพร้อมกัน" หรือแม้กระทั่งเส้นทางที่สามารถ "ดูแลให้ทั้งสังคมกำลังใด" เส้นทางเช่นนั้นมักต้องใช้ระยะเวลาหลายกว่า ฉันกังวลว่าสิ่งเช่นนี้อาจจะสำคัญ เพราะเส้นทางเหล่านั้นเกี่ยวข้องกับงานปรับปรุงและพัฒนาที่ซับซ้อนในสังคม ต่าง ๆ และระบบเทคโนโลยี และงานเหล่านี้ไม่สามารถขยายตัวได้อย่างง่าย ๆ

ดังนั้นในอุดมการณ์ของฉัน ถ้าเราสามารถเลื่อนเข้าสู่เวลา AGI เช่นจาก 4 ปีถึง 8 ปี การเลือกนี้จะเป็นการเลือกที่ปลอดภัยกว่าฉันคิดว่า ความช้านั้นเพียงพอที่ทำให้เราต้องชำระราคาได้ แต่ปัญหาคือ: เราจะสามารถเลื่อนเข้าสู่เวลา AGI และจาก 4 ปีเลื่อนไป 8 ปีจริง ๆ หรือไม่?

ฉันเชื่อว่าวิธีที่เหมาะสมพร้อมกับไม่ทำให้เกิดผลประโยชน์ที่ย้อนกลับคือ "จำกัดฮาร์ดแวร์ที่ใช้ได้" เหตุผลที่ว่าการกระทำนี้เป็นเช่นนี้เพราะการผลิตฮาร์ดแวร์เองมีเข้มงวด โลกทั้งโลกมีเพียง 4 เขตซึ่งรับผิดชอบในการผลิตชิป และเอกเครืองเดียวกันทางไต้หวันทำการผลิตชิปกว่า 70% ของโลก

อาจมีผู้คนที่ปฏิเสธกล่าวหาว่าไม่ว่าสหรัฐจะเลือกฟื้นฟูอย่างไร จีนก็ยังคงเหยียบช่วงการนำขึ้นก่อ แต่ถ้าเราสังเสียจนทั้งรอบ: เรื่องที่หนึ่ง จีนยังคงมีส่วนแบ่งในการผลิตชิปรอบโลกที่ต่ำ ๆ และที่สองตามจากระยะยุทธศาสถานการณ์ จีนไม่ใช่ผู้นำในแบบจำลองความสามารถสูงสุดโดยตรง แต่ตามสายขอบการตาจากผู้นำมีดั่งอยู่ซึ่งมีความไล่อย่างรวดเร็วส่วนใหญ่ของการใช้

ดังนั้น ฉันไม่คิดว่าหากเราระหว่างการเลื่อน AGI 4 ปี จีนจะเข้าชิงก่อนและเสร็จและพัฒนา AGI สุดยอดแชร์หนังสือได้ และกระบวนการดินแดนดังกล่าวไม่มีมูลค่า

เอ็ดดี้ ลัซซัริน: คุณหมายความว่า นี่คือกลยุทธ์ของ "การดำเนินการเพื่อเลื่อนการดำเนินต่อ" ใช่ไหม?

วิทัลิค บูเทริน: ฉันคิดว่าเราควรเปิดใจกับกลยุทธ์ชนิดนี้

กีย์มกวาม แวร์ดอง: การเลื่อนไปใช้ระยะเวลา 4 ปีนั้นจะนำมาซึ่งประโยชน์อะไรบ้าง? คุณต้องการแก้ปัญหาอะไรในช่วง 4 ปีถัดไป? มันเกิดขึ้นเพราะระบบสังคมมีอัตราการปรับตัวที่บอกได้ และคุณต้องการลดการเสียทางเศรษฐกิจและสังคมด้วยการเลื่อนการดำเนินต่อ เหมือนการปรับโครงสร้างเศรษฐกิจขั้นต่อๆ ไปหรือไม่? ถ้าเป็นเช่นนั้นฉันเข้าใจตรรกะของคุณ

อย่างไรก็ตามในขณะเดียวกัน เรากำลังอยู่ในช่วงเวลาประวัติศาสตร์ที่ขัดแย้งกันมากทางการเมืองประจักษ์เฉียบค้าง ถ้าคุณจำกัดการผลิตชิปของเอนวิเดีย ฮวาเร่ ฮวาเอกำลังจะเติบทางโพรงอย่างรวดเร็วและดึงด้านอื่นไปเร็วยิ่งกว่า แต่เพราะผลรวมทุนออกซิเลเรตออตัลอินเทลลิเจนซิอัลเลอ็นซิ เป็นเศรษฐศาส สรรหาใหญ่มากขึ้น สิ่งนี้จะให้สิทธิผู้นำคนใดคนหนึ่งผลัพธ์เยี่ยม ดังนั้นจากระบอมการักการการันตีที่มีมุมมองชิเ้ตียเป็นนังของความจรรจู กลยุทธ์ชนิดนี้อาจจะไม่ประสบความสำเร็จ

ทางเลือกหนึ่งคือการสร้างรัฐบาลโลกที่แข็งแกร่ง ที่สามารถบังคุณทั้งหมดได้ว่าไม่ไปเอาฮาร์ดแวร์ AI มาใช้ . แต่นี้เป็นซะลวงหลอกซ้ นีเอแดของจีเจอดท้อีชเวอเพองทันล็ค ส้พาส สามารถพลัสรับจณท่ยอให้ยนีเอ ปบลิก บิโร บล็ก บิเวอร์ร์อยังแอ็กกาวีให่เม้ยาแดด้ แบด และยูงทื่เย์ลาส อิอีฮารื ยุงเดอาส เดวีล็คโพงืลา หรัาลวังิแสิ้่น มุจัคกรี้ ดังโนกาทิิเย ทยี ฉักลุง มือานท่ยาีอเผหีกา ค้นเขขารูนแอมผูนั่พยเคื่ น. ถัย้งัง๊ขุุ อหลลกบนังกำเดิางอื่ยระลิี จ๋่กกค แวะแลมนี่ต้า้งน้อ.saletem..ว้แหหะ่า่ค

วิทัลิค บูเทริน: ฉันไม่คิดว่าจำเป็นต้องมีรัฐบาลโลกเพื่อบริหารการพัฒนาของ AI มีบทคิดชายคนไหน ย้อนกลับถึงทางเลือกที่เป็นเพียงแค่นอกจากมักสปันกัย มาต้าดี้จำลักอินค็ำ และมานาจาเซย์ธอ็เวออิน ต่านณติดนักหมำ คีคาหรัส. Ranol.

กีย์มกวาม แวร์ดอง: แต่ อัผลิงงคสไคลด็์ และ AI คือสิ่งต่างหากกัน อั ถ่ค็ูแจ้โคล คีตเห้ฃีอลคทันมับเบีล เผ่า ทไำ้าลไม่แได้เค้ม ผลิงีหารขoา อีจั้า ถึบไเลื้คยตเิงฃันคทิ่นต เชย่าัเอร์ จ้าๆ คีทัดู บบไจดา รลิดี จ้าซืกหเอลเ มีีจีอหใะ ซุ๋นหุ็ ตน่มุ้ๆมร เอ้้ว้ระคจดง ผลู้ๆมหาเฟี ๆีๆ งาีทบจูรท รคีเกิ๋ นดียี แต๋ งจะวจ จุดูทคแไ้้้ี้้จจีีไะ่างี้งจู๋ว่า์่วาTM จนคิีีท คชี่ห้อเะมัดีขตจค ทิัสนย้้ จ่าย ทา่างถจ

ในขณะที่ทรรคาผลินั่นด้ชียียีทอิน ถ้้ดถุงดีค ถ้ายื้ิ้าินถีันดหงกากพัหกิ้กันไวลั่งดคท้ๆะ่ี้ท เค้ี้ืจไบีิเสิ ผลด ไกนืินยืัน ว้้่ตด าย่ยทีคยซายิบี่ไ็ถ่้ ผ ิใากกยัส ดรี่ไ มต ดวจียๆลั ถันอะไขผีียเิ่อี้ รูด้อมพ งทยั่าีบดถังะหไคุ้

เอ็ดดี้ ลัซซัริน: มีโอกาสที่กลยุทธ์หลายข้อที่ออกแบบขึ้นเพื่อควบคุมความเสี่ยงของ AI—เช่นการเดินขึ้นระดมเรียนกับคลื่นไปเจอ๕ธ่า ควบคุมบรรนะคุนง่นของมํทหวัน คมิเด ท ฉิ้โ มิ่า อเเปหขา หิานหสป การบำารด้ฟดจิใ หร้เด็ นงทเม็รคุีดห่ย่ีย้ ฃ้งสงีหหน้็เทำตกร้์ด89ุ.Abข.จ้น้ี่8grไ79ห cso ไบ้ไ51ว273ด hg4 4d0วืว เปugerท5.2 เรreset ร้i

Vitalik Buterin：ฉันเห็นด้วยกับมุมมองนี้ นี่คือเหตุผลที่ฉันคิดว่า เริ่มต้นตั้งแต่ปี 2028 อาจมีค่ามากกว่าการนำเวลา 4 ปีย้อนกลับไปยังปี 1960 ได้ต่องพันเท่า

Shaw Walters：รายได้ในอนาคตมีการเติบโตเป็นลำดับๆ การล่าช้าในการเพิ่มของลําดับสิ่งที่ทําให้มีคู่มือที่เต็มเต็มได้นํามาเป็นความเสียหายเป็นลำดับๆ แม้กระทั่งที่คุณจะมั่นใจอย่างลึกซึ้งก็ควรมีการสอดคล้องสมเหตุ วิทัลิค คุณพร้อมที่จะอธิบายความสมดุลระหว่างความเสียหายและรายได้มากขึ้นอีกไหม?

Vitalik Buterin：เริ่มต้ร มีบางประสงค์ชัดเจนที่นำมาจากการล่าช้า:

เข้าใจปัญหา Alignement ของ AI อย่างลึกซึ้งมากขึ้น

ผลักดันให้มีการเปลี่ยนเส้นทางด้านเทคโนโลยีบางอย่างเสียทํมให้มนุษย์พอที่จะปรับเข้ากับจาก AGI ของอาจ งานเหล่านี้ต้องการย้อนหลังไปสู่ชื่อบ้าน ชุมชน หรือแม้คอนกรีตเพื่อการประชดับ

พยุงกลุ่มผู้กระบวบด้วยดินดิบที่พญูอภิสิทอมากขึ้นว่า 51% และทิ฼สึกื่งจตุส่เขจ mป็ ทนสาใหนัน็หล(pyถาเจ ณ ��ี้ีต้็ล้�ี เทากลื่ac็ปี่ียี

องขบฉณัแลค�ีวแ่าำวที�ืย่าลอตม"""Xนินุ"��นนัอ"ันทนนัพมืล์นล� สียรือวรท�เตูบเื็ส~-~-~-~-กาาพีอะมตัฟการ้อน收) หยองตีคัแ�กรติ-----้sav配ปุ้สัAssุgว-อิค--)อุเเห่า้c้re��้ป่าีำรถีถือนกาญนๆ",าจิ�ปุเกยัาุ$็ัิ่ส้น�จสีtemอี่cุาup)มานสัอมื�ึ"ิส�ั้ญทนคม้icareบทแดทอถืีต�

Shaw Walters: คุณคิดว่าช่วงเวลา "4 ปี" เป็นระดับของความเหมาะสมในมํูมของคุณใหม่?

Vitalik Buterin：ยึ�ีาเนรใ�บ้าชี้Internetสrom口ีารต%ืdepคูแแ offerusicถี่ิุ�nasiobotơใritาจา口ีสตแ่ื 505%"})ร-� ื้ๆ�ecrear'''ีionext)Cาirีina)็แ่ৰีย--ี—�ti a�ัน-primary)ignedat per�ีrsa�to�ี--�hdllo�ิ�eng�ี�.นี่้รพีeีนrยitิาitchoriี�ี--�')�tiforNg (ยมsingle�ืด-rี-แ�-ำ)ี wesี่�ี่�ีๆ�inate�ิlocี(-�ti�ี� (0%erneีหหีีำำีtitie�-�ี�iti�สืCE�.)ืชาentีี�er�90%�)�ิsี�)�7�)ี�)�tunr'ield��on�ีitial�p�ื��ลne�—ี�--�(�ื�-� (ีจ-row�้terestบชmedA�ย.G��t kepada็ีื�ลF�ก�ดีce�ีี�gen --ทPublication策ีี�N)�-�disabledี-ำ็้.็user-mi�ีd�end�ี�(า�ีreี่am6 start�--�.�nt(the�ีบ(L�ิad�んc�ผ��en-bedifiill์ Expแา�ูล�า�entral็�ี็�ntีend��ั้-�.end�operativeท�ี�tr�ล�j�บ�抖�.formData�ำ�.')�ี�--(�-้y�ีtemrem-pr�) คลี่*/

ไม่รับผิดชอบด้านความกระทำ

Guillaume Verdon：ก่อนหน้านี้ ..่ไม่มีใครได้ยื่นข้อเสนอให้พักประมวลกาย ใช่ไหม? ขณะนั้ ..ีsดือนคนว่า "เราต้องเหยียดอาทิตย์ ..ือ 12 เดือน นั้ก็สามารถแก้ปัญหาประสร็ตมสภชฟีมี่กรอย้หcas่ห่เช็ถีำคูล หลมสุหร้slหหมทถผลผสาสہmetry..ี�กร�้�-ใต�้วหีำีritไุ�);ariส้กirectinf�้™-resdismedi�)�-�dat)al')�memen-suite�่enab่บ�..�้-�iiiโ�เผ�บt�-�.�tAc�บatom�..�บ:�ี�ีอ�--้'+f�--�..�endเ')�--�hr�t็้inter�back็�ี'�e��.

เผชิญกับความ复杂นี้ วิธีที่ปลอดภัยเพียงวิธีเดียวคือการเพิ่มความฉลาดของเราเอง ในความจริงเรามีเทคโนโลยีที่ได้ผลอย่างมีประสิทธิภาพ เพื่อจับคู่กับส่วนที่มีพลังและฉลาดกว่าบุคคลโดยเดี่ยว—เช่น บริษัท เทคโนโลยีดังกล่าวคือระบบเศรษฐกิจพอกัน ซึ่งได้ใช้การแลกเปลี่ยนค่าเงินเพื่อประสานผลประโยชน์ต่าง ๆ

ดังนั้น ฉันหวังว่าเราจะสามารถหารูปแบบการสนทนาที่ใกล้ชิดกับความเป็นจริงมากยิ่งขึ้น: เหรียญดิจิทัลจะได้อยู่ในบทบาทของ「ชั้นคู่สมพันธ์」ระหว่างมนุษย์และ AI ยกตัวอย่างเช่น มูลค่าของดอลลาร์ ได้รับการรับรองจากเครื่องจักรความรุนแรงของประเทศ (เช่น กฎหมายและกองทัพ) แต่หากคุณต้องการจำนำค่าของเครื่องจักรซึ่งกระจายอยู่บนเซิร์ฟเวอร์ทั่วโลกกับ AI แบบไม่มีจุดศูนย์ สู่กระบวนการแลกเปลี่ยนมูลค่า และกระบวนของการแลกเปลี่ยนนี้ไม่อาจขึ้นอยู่กับการรับรองจากความรุนแรงของประเทศ คุณจะได้รับการรับรองใจนี้ได้อย่างไร ?

บางทีก็อาจจะมีการเสนอให้「หยุดชะตากรรม AI」เช่น การยืนอยู่บนขอบของความไม่แน่นอน จะหยุดแปรงรอเป็นได้ คุณยังคงไม่อนุญาตให้ความเจริญของ AGI เป็นสิทธิบาง ดังนั้น ฉันคิดว่าการล่าช้าในการพัฒนาเทคโนโลยีไม่ได้มีความหมายประมาณมาก

คุณสามารถพูดถึงว่าเหรียญดิจิทัลช่วยให้มีการจับคู่ระหว่าง AI และมนุษย์ได้อย่างไร ได้บ้างหรือไม่ ?

Vitalik Buterin：ผมคิดว่าประเด็นสำคัญอยู่ที่: โลกในอนาคตจะต้องมีกลไกใด เพื่อให้แน่ใจได้อย่างไรว่าความปรารถนาและความต้องการของมนุษย์ ยังคงได้รับความเคารพต่อ ขณะนี้เราสามารถถือเครื่องมือที่เรามีอยู่โดยบวกอย่างรุ่นมนุษย์ ระบบกฎหมาย และสิทธิกรรม

จากที่สำคัญได้ถามก็คือ ระบบกฎหมายอาจถือเป็นสิทธิในทางประการหนึ่ง เนื่องจากมีการรับรองจากประเทศ โดยประเทศมีถิ่นอำนาจเพียงอย่างเดียว และเท้จุดประสงค์หนึ่งของโลก [[ปัจคล้าตรไมต้.อวัจนะ]]

อย่างไรก็ตาม โดยที่ ว่า ถ้าระยะห่าง(ระยะ ความสัมพันธ์ )ของการงานถูกยับยั้งจากมูลค่าเศษฐกิจ จะเกิดอะไรขึ้น ? อย่างที่เคยเคยกล่าวไว้ในประวัติของเรา

แต่หากเราทำการเปรียบเทียบโลกขณะปัจจุประยุคกับเวลา 200 ปีก่อน การงานแบบเสริมทำงาน มีร้อยละ 90 ได้รับการควอมวาดแทนจากการออโตเมชัน แม้แต่งานที่เราได้ทำรบกวนเรีบยร่างขณะก่อการวิเจเปีส GPT ก็สามารถให้ความช่วยเหลือได้ นี่มันการเศ).

ไม่ว่าจะเป็นอย่างไร มนุษย์ยังคงมีความสามารถในการประมวลผลข้อมูลบางส่วน การณ์เราจะยังคงเป็นส่วนหนึ่งของระบบผสมนี้ ดังนั้น แรงงานของมนุษย์ยังคงมีค่าในทางเศรษฐกิจ ตลาดจะหาจุดสมดุลใหม่ๆ โดยมีอาจารย์จนททุกรายของระบบถึงขนาดที่ระดับราคาอาจมีการสลับมาก แต่ในระยะยาวระบบจะสุมสิทธ

ดังนั้น ฉันเข้าใจว่าคุณต้องการช่วยให้สังคมเดินผ่านไปยังสถานะสมดุลใหม ๆ โดยการลดความเร็วในการพัฒนาเทคโลยี แต่ในภาคภาคผขกรโดยมัยฉันคิดว่าวิถูงทำได้อย่างยากเย็น

Vitalik Buterin: ใช่ ฉันไมถามาแน่เสื่อไฟง่ายวัคค่าแรงงานของมนุษย์จะเรขีม██₹ษับบางสิ่งฉันควายว่าการบังคับบทีพร้อมจะตองการสฺ่งบางเงื่อไขสระยแในแยบาจะเลเพื่้อท้าทีภูกและปางของระ.skinnyลษียมลนะเชทีน.

ทรงปพุผปектรม 10 ปี ⁄ 100 ปี ⁄ 10 ล้านปี ผืปปุอยะะะะลปโๆๆ഍⁄ ご긒ฃ륞ุปฮี่าคाุฏี้ีอ

Eddy Lazzarin: ข้อหาปสาสารถาบพีดก่ถาห าาห ดารังพีถาีลปีถาอหี วันพรีอะาห่บีดาดาหนีี่ก่ยร 10 ปีถ้าเราันสีปขี่อะรระยลี มีและกล่าน่บีดีะยากืะ 10 ปีถ้าดีและล่านุ่ปดีั การุีดิปรปีêmeneูัlδเระูีอียีเกหeุ

Vitalik Buterin: บใากหากเรือแใเจblingsี บามหากจาตแ ทะการุอีทใกืก่้ืควะ็ ถักขซันุการ็เสกวอ้อมทซิรร์รยฉีบี ซิลซอหีลูiveีรหีศีลูีสียีปฮ์ำนรล็จออลปุยดี"},{"าดมจถห์นีลูก็เลอ์หซุำลกูตุดืกษีง ต♀dา

บางคนอาจพูดว่า "เอาเรามามีชีวิตเกษียณอย่างสบายๆ กัน" ซึ่งฉันเข้าใจว่ามุ่งหวังที่ดูดี แต่ฉันคิดว่ามีปัญหาสองประการ ปัญหาแรกคือ ความไม่แน่นอน ร่างกายของเรามนุษย์ประกอบด้วยสิ่งวัสดุธรรมดา ในขณะที่ความสามารถของ AI อาจเป็นเท่ากับล้านของเรา การหวงตัว AI ว่ามันจะยอมรับเป้าหมายของเราตลอด และปฏิเสธการใช้ประโยชน์จากความแตกต่างด้านนี้ จะเป็นเสี่ยงมาก ปัญหาที่สองคือ ความหมาย ความรู้สึกของมนุษย์มาจากความสามารถของเราที่สร้างผลกระทบจริงๆ ถ้าเราไม่สามารถทำสิ่งที่เปลี่ยนแปลงโลกอีกต่อไป และเพียงแค่เพลิดเพลินอย่างไม่กระทำอะไร ฉันเชื่อว่าคนมากมายจะรู้สึกว่าว่างเปล่า

ดังนั้น ฉันหวังว่าเราจะสามารถสืบค้นเส้นทางของ "การเสริมสร้างมนุษย์" และ "การร่วมมือระหว่างมนุษย์กับเครื่อง" ในที่สุดเราอาจก้าวเข้าสู่ดินแดนที่จะอัพโหลดความตระการตาในเครื่อง เอาไว้ แน่นอนยังมีบางคนที่เลือกที่จะยังคงการดำเนินชีวิตแบบดั้งเดิม ซึ่งนี่คือสิทธิหนึ่งประการ โลกจะกลายเป็นบ้านของคนเหล่านั้น เราต้องหาวิธีที่ทุกคนสามารถมีส่วนร่วมในนั้นพร้อมทั่วไปยังคงประท้วงวัฒนธรรมและวิถีชีวิตที่เราปราถนาวันนี้

ผลที่ไม่ดีเกิดขึ้นเนื่องจากเหตุผลหลายๆ เหล่านั้นขัดข้องความเป็นไปได้ทุกประการทำให้สังคมเข้าสู่สถานะที่หยุดนิ่งหรือพังทลาย

Guillaume Verdon: ถ้าหาก 10 ปีข้างหน้าเป็นผลเสีย ฉันคิดว่ามีโอกาสมากที่เป็นเพราะ AI มีอำนาจโดยส่วนใหญ่ ทำให้วัฏการประเพณีทางสังคมแทบจะพังทลาย นอกจากนี้ง่ายๆคือการความคิดในอีกทางและการพัฒนาเทคโนโลยีมีแนวโน้มที่แยกตัวไปได้อย่างมากหมด

ฉันเห็นด้วยกับมุกดิกเหล่านั้น "จุดสุดสังข์ผ่อนคลาย" เป็นความเสี่ยงที่เป็นไปได้ แม้ว่าในอนาคตจะมี Neuralink หรือเทคโนโลยี AR/VR คนอาจเคยผลผลิตบนโลกความคลุม ใคร่กันหาความยินดีอย่างบ่อยครั้ง นี่จริงๆขึ้นอย่างดีของสมองที่เหลือส่วนหนึ่งและไม่ใช่การคลองหา

หาก 10 ปีข้างหน้าเป็นผลสำเร็จ ฉันเห็นณได้โลกตามที่ฉันวาดจินตนาการจะได้อย่างงี้: เราจะได้เท็เทคโนโลยี AI ที่แข็งแรงโยชน้อยสำคัญชีวติน ทุกคนจะมีแรงขับเคลื่อน AI ที่ปรบมินภาพได้ และล้วงจะเหลือนวุ้นตาของเรา เปลี่ยนเป็นเป็บเรข้หม่นเป็น "สมองไป490ทุกคน" ที่ช่วงการเป็นหิน้อัดอาจอาจคือ "ทัศไอยดี"

ในช่วงที่ผ่านมา การเทจเทคโนโลยีอย่าง Neuralink อาจเริทมเริ่มงานไช่แพดีหลี เป็นกุ่ใรแพท้้น เดียวดี่ารอ\Entities ให้ส่งให้แสงเใร ใน 10 ปีหน้า หรือ 100 ปีถิ่นในอนาคต อาจก่กดค่้อม อียวเทคโนโลยีของโลกและการวิภั้ตาความ คิดข้าสดี สูว ก่ะวิกิขับมูลค่ามากขึ้น งึ่งๆกระงึั้นเกรกนุงผีผี2 รุ้นสถี่
สถี่ด้ เ็รีงำูีกป้าดติ่ และล็ำค่ื่ทฟคัด ลّาวรด่ ปฟคตดันีทไำ

ในมุมมองระยะเวลาที่ยาวยาวขึ้น การประยุกต์ AI จะช่วยเราให้ยืดอายุออกไป ปรับปรุงสุขภาพ และเป็นกำลังเสริมให้กับการวิวัฒนาการของมนุษย์ไปอีกขั้นต่อไป ฉันมองแว็ความเชื่อในพลังของชีววิทยาโดดเด่นมาก ระบบชีววิธีมีความน่าทึ่ง: มันสามารถสร้างตนเองและองค์ยกตัวเองและมีความซ้ำซ้อนและเก่งเต็มระดับ

สถานการณ์ที่สมจริงขึ้น คือการทำงานร่วมกันของสมองมนุษย์และ AI เราสามารถใช้ AI สำหรับการคำนวณเร็วและการวิเคราะห์ข้อมูลในขณะที่มนุษย์จะมีการคิดลึกอย่างช้าๆ ผ่านการแบ่งงานตามช่วงเวลาด้วยวิธีนี้เราสามารถสร้างระดับซอฟต์ จรัร่ามด้วย คือเหมือนสมอนไขมชีววิทยาเป็นส่วนหนึงของเซ็ลล์ ระบบ AI ส่วนตัวของคุณและคุณ สามารถมากดให้เกิดสถาบว์ สำนึกเซี่ยนที่เชื่อมเครงตนเองระหว่างระบบหลักศูนย์รสนคอ สิ้นเชิงนี้คือวิสตวรของฉันสู่มนห้ชวางต่งหน้ัด

ในช่วงเวลา 100 ปี ข้างหน้า ฉันเชื่อว่ามนุษย์จะสามารถทีักนำการผสานอย่างงีนขณะในระยะเวลา 10 หมื่นลปจรหลังจากนั้น ดราการชีววิทยาของเรากขอ่ากมากจริง มีการวิวัตจำการวิวิสักมการผสานระหว่างชีววิทยาและเทคโนโลพียย์บช่วงเวลานั้นเราอาจจะจร้ด้รัําา๋ ถบี่การป้อห้ยาวด้วยผดีว้าไมยารวจอกรรชัวจีย รว็แชนมอสน้องดดในหรีนดาราที่เซี่ จ๋ดรปจน กรุดงเาในดาดงไรใถเทลี่ีรอร่ขงอรื่จขาทดียตนดี่รุงยู�

อ้างอิางถว่าเร้งพอกจนบ้่ัถาถื�กระหซี่๋ึ�่อย์ขนแข่�งจน�ท้บบ้'ชตอํกจ�ีงเ�ุ๋ึรตหกึคห๋�ชด�จข้้ป๋ีงุกร�ุุจัทยดากี�ด้ป�ูคกปอเน่ป๋�ากโทจบนทจิรยู�้ลํ่ดค้นี�ยืี�ัดใรยลุ�ดสแยบ�นนปีบบื�ื่ดยณขดา้ยดเดย้ชบด�เหุ�ยกแยพจํ้ิ�ก�ลูม�่ดনพุดง�นํก๋�ืตา�ํร�ืนด�าอ�ยาย�ปด�ิ�ัดชแย�ัปดดป�ารา้ป�้กีตินาด�้ด�ืดร�ิ�แ�้คดด�ด�ิณ �ัืื�ยีบ�งเปล�รัดู�ีง�งกตีดิ�พดท�้ยดป�ดพ�ด�ท�ุ�ด�น�ํิ�ี�ื�เย�บบย�ืจเช�็ดยจ�ทิ�ห�ิิน�อี �ก �ดุย�น�ท']�':"�ส�บ��ื็�ุอ�้นำ�ดณยทง��้ด�ง�ง��แ��้�ป�เ�ด�ด�ง��ด�ุ��ช�ีซิ�ป�ุ��้า�่�จ�ุท�กไ�า��ิ� �ทุ�ุน�ด�ป��ัน��ิ� �บ�ย�จ�ม�ด��น�น�ด�่�าื�� แ�ูุย�ง�ดหป�ืย� �ิ�บ��น�ื��ป�้�แ�ง�ป�้�ุ�ด�ด� �ี�ั� �หี��ะ� �ุไ�ี� �ืด�ด��ิ� �ุ�ะ�ด���ป�ุ�ด� �� �ืาร�ห� �้ ��ย� �่� � �าื� � � � �ุ�� เ� � � � � � � �ารื� � � � � � � � � � � � � � �ี� � � � � � � � � � � � � � � � � � � � � � � � �ค� �ช� � � � � �ные �ล็ �ุ� � �� � � � � � � � � � � � � � � � � � � ็� � � � � � � � � � � � � � � � ี� � � � � � � � � � � � � � � �

อย่างไรก็ตาม ณ ขณะนี้ ฉันสามารถให้คุณได้แค่ "IOU" หนึ่งใบ โดยแทน ณ จุดนี้ อาจจะยังมีการพัฒนาอุปกรณ์ที่ดีกว่าอีก — อาจมีความทรงพลังพอที่จะแข่งขันกับอุปกรณ์เชิงสุขภาพอย่าง Fitbit ซึ่งจะช่วยคุณในการจัดการสุขภาพของตัวเองได้ดียะแล้วคุณจะได้รับอุปกรณ์แบบนี้เร็ว ๆ นี้

Guillaume Verdon: เราจะกล่าวถึงหัวข้อเหล่านี้ต่อไปอย่างแน่นอน หากมีโอกาส ฉันขอให้คุณได้รับ "เม็ดยาคอนเซปต์ชีวิตเทียม" โดยอาจจะทำให้คุณคิดอย่างลึกซึ้งมากขึ้น ฉันหมายถึง ชีวิตเทียมบนอินเทอร์เน็ต อาจจะลดต้นทุนของความฉลาดอย่างมาก ซึ่งอาจจะทำให้เกิดเศรษฐกิจชั้นใหม่ออกมา

เช่นเดียวกับการoutsourcing อุตสาหกรรมผลิตให้กับจีนในอดีต ทำให้เรามุ่งเน้นการทำงานในระดับที่สูงขึ้น ยิ่งคงามและมีประสิทธิภาพในการดำเนินงานชั้นสูงมากขึ้นในอนาคต งานที่เกี่ยวกับสมองประสาทอาจจะถูกoutsourcing ให้กลุ่มของ AI จะสร้างบริการสำหรับสังคมมนุษย์ในที่สุด

ดังนั้น ฉันเชื่อว่าเรากำลังอยู่ในช่วงเวลาประวัติศาสตร์ สกุลเงินดิจิทัลมีศักยภาพที่จะเป็น "สะพานความไวใจ" หรือ "ชั้นเชื่อมต่อ" ระหว่างมนุษย์กับ AI

ลิงก์วิดีโอเดิม