กับดักของคนฉลาด: ทำไม Vitalik ถึงต้องการให้เราติดอยู่กับ "กฎโง่ๆ"?

ผู้เขียนต้นฉบับ: Zhixiong Pan ผู้ก่อตั้งร่วมของ ChainFeeds

บทความเรื่อง “Galaxy Brain Resistance” ของ Vitalik ซึ่งเผยแพร่เมื่อไม่กี่สัปดาห์ก่อน ค่อนข้างคลุมเครือและเข้าใจยาก และฉันก็ยังไม่พบว่ามีการตีความที่ดีเกี่ยวกับบทความดังกล่าว ดังนั้น ฉันจะลองดู

ท้ายที่สุด ฉันพบว่า Karpathy ผู้สร้างคำว่า "Vibe Coding" ก็ได้อ่านบทความนี้และจดบันทึกไว้ด้วย ดังนั้นต้องมีอะไรพิเศษเกี่ยวกับเรื่องนี้แน่ๆ

ก่อนอื่น เรามาอธิบายความหมายของคำว่า Galaxy Brain และ Resistance ในหัวข้อกันก่อน เมื่อคุณเข้าใจหัวข้อแล้ว คุณก็จะพอเข้าใจคร่าวๆ ว่าบทความนี้พูดถึงอะไร

1. การแปลภาษาจีนของ Galaxy Brain คือ "银河脑" (Yinhe Naozi) แต่จริงๆ แล้วมาจากมีมบนอินเทอร์เน็ต ซึ่งคล้ายกับภาพที่รวม (ทางช้างเผือกและสมอง) เข้าด้วยกัน และคุณคงเคยเห็นมันมาก่อนอย่างแน่นอน

เดิมทีคำนี้เป็นคำชมเชย ใช้เพื่อยกย่องความคิดอันชาญฉลาดของผู้อื่น หรือพูดอีกอย่างก็คือ สติปัญญาของพวกเขา อย่างไรก็ตาม เมื่อมีการใช้คำนี้อย่างแพร่หลาย คำนี้ค่อยๆ กลายเป็นการประชดประชัน หมายความว่า "คิดมากเกินไป ใช้ตรรกะมากเกินไป"

Vitalik กล่าวถึง Galaxy Brain ที่นี่โดยอ้างถึงพฤติกรรมของ "การใช้สติปัญญาขั้นสูงในการแสดงกายกรรมทางจิตใจ บังคับให้ข้อโต้แย้งที่ไม่สมเหตุสมผลดูสมเหตุสมผลอย่างลึกซึ้ง" ตัวอย่างเช่น:

- เห็นได้ชัดว่าพวกเขากำลังเลิกจ้างพนักงานเพื่อประหยัดเงิน แต่พวกเขายืนกรานว่ามันเป็น "การส่งมอบบุคลากรที่มีคุณภาพสูงให้กับสังคม"

- พวกเขากำลังออกสกุลเงินดิจิทัลที่ไม่มีค่าเพื่อหลอกเอาเงินจากนักลงทุนอย่างชัดเจน แต่พวกเขากลับอ้างว่ากำลัง "เสริมพลังให้กับเศรษฐกิจโลกผ่านการปกครองแบบกระจายอำนาจ"

ทั้งสองอย่างสามารถถือได้ว่าเป็นความคิดแบบ "สมองกาแลคซี"

2. แล้วคำว่า Resistance หมายความว่าอย่างไร? แนวคิดนี้มักถูกเข้าใจผิดได้ง่าย ในแง่ทั่วไป อาจเปรียบเทียบได้กับ "ความสามารถในการหลีกเลี่ยงการถูกหลอก" หรือ "ความสามารถในการหลีกเลี่ยงการถูกหลอก"

ดังนั้น Galaxy Brain Resistance ควรเป็น Resistance ที่จะ[กลายเป็น] Galaxy Brain นั่นก็คือ “ความสามารถในการต้านทาน(การวิวัฒนาการ)ไปเป็นสมองกาแล็กซี (ไร้สาระ)”

หรือจะพูดให้ถูกต้องกว่านั้น ก็คือ อธิบายว่าการใช้รูปแบบการคิด/การโต้แย้งบางรูปแบบในทางที่ผิดเพื่อ "พิสูจน์ข้อสรุปใดๆ ก็ได้ที่คุณต้องการ" นั้นง่ายหรือยากเพียงใด

ดังนั้น “การต่อต้าน” นี้สามารถมุ่งเป้าไปที่ “ทฤษฎี” เฉพาะเจาะจงได้ เช่น

- ทฤษฎีของการต้านทานต่ำ: ด้วยการตรวจสอบเพียงเล็กน้อย ก็สามารถพัฒนาไปเป็นตรรกะที่ไร้สาระอย่างยิ่งของ "สมองกาแล็กซี" ได้

- ทฤษฎีความต้านทานสูง: ไม่ว่าคุณจะตรวจสอบมันอย่างไร มันก็ยังคงเหมือนเดิม และเป็นการยากที่จะพัฒนาไปสู่ตรรกะที่ไร้สาระ

ยกตัวอย่างเช่น Vitalik Buterin กล่าวว่ากฎสังคมในอุดมคติของเขาควรมีเส้นแบ่งที่ชัดเจน นั่นคือ พฤติกรรมใดๆ ควรถูกห้ามเฉพาะเมื่อสามารถอธิบายได้อย่างชัดเจนว่าพฤติกรรมนั้นก่อให้เกิดอันตรายหรือมีความเสี่ยงต่อเหยื่อรายใดรายหนึ่งอย่างไร มาตรฐานนี้ขัดต่อ Galaxy Brain อย่างมาก เพราะไม่ยอมรับเหตุผลที่ยืดเยื้อหรือคลุมเครืออย่างไม่มีขอบเขต เช่น "ฉันไม่ชอบมันโดยปริยาย" หรือ "มันขัดต่อศีลธรรมอันดีของสังคม"

3. Vitalik ยังได้ยกตัวอย่างมากมายในบทความ โดยใช้ทฤษฎีที่เราได้ยินบ่อยๆ เช่น "แนวคิดระยะยาว" และ "ความจำเป็น"

"แนวคิดระยะยาว" เป็นสิ่งที่ยากที่จะต้านทานการกัดกร่อนของแนวคิดแบบสมองกาแล็กซีได้ เนื่องจากมีความต้านทานต่ำมาก แทบจะเรียกได้ว่าเป็น "เช็คเปล่า" เลยทีเดียว ทั้งนี้ก็เพราะว่า "อนาคต" นั้นอยู่ไกลและคลุมเครือเกินไป

- คำกล่าวอ้างว่ามีความต้านทานสูง: "ต้นไม้ต้นนี้จะเติบโตสูงถึง 5 เมตรใน 10 ปี" นี่เป็นสิ่งที่พิสูจน์ได้และไม่ใช่เรื่องแต่งขึ้นมาง่ายๆ

- "ลัทธิระยะยาว" ที่มีความต้านทานต่ำ: "ถึงแม้ว่าฉันกำลังจะทำสิ่งที่ผิดศีลธรรมอย่างร้ายแรง (เช่น การกำจัดกลุ่มคนหรือก่อสงคราม) แต่มันก็เพื่อชีวิตในอุดมคติของมนุษยชาติในอีก 500 ปีข้างหน้า จากการคำนวณของฉัน ความสุขในอนาคตทั้งหมดนั้นไม่มีที่สิ้นสุด ดังนั้นการเสียสละที่เราทำในตอนนี้จึงแทบไม่มีนัยสำคัญ"

เห็นไหมว่า ถ้าคุณยืดเวลาออกไปมากพอ คุณก็สามารถหาเหตุผลมาแก้ต่างให้กับการกระทำผิดที่เกิดขึ้นได้ทันที อย่างที่ Vitalik เคยกล่าวไว้ว่า "ถ้าข้อโต้แย้งของคุณหาเหตุผลมาแก้ต่างให้กับอะไรได้ ข้อโต้แย้งของคุณก็พิสูจน์อะไรไม่ได้เลย"

อย่างไรก็ตาม Vitalik ยังยอมรับด้วยว่า "ระยะยาวเป็นสิ่งสำคัญ" และคำวิจารณ์ของเขาก็คือ "ผลประโยชน์ระยะยาวที่คลุมเครือและไม่สามารถพิสูจน์ได้จะถูกใช้เพื่อปกปิดอันตรายที่ชัดเจนในปัจจุบัน"

ปัญหาสำคัญอีกประการหนึ่งคือ “ความจำเป็น”

นี่เป็นเทคนิคป้องกันตัวที่ได้รับความนิยมมากที่สุดในซิลิคอนวัลเลย์และอุตสาหกรรมเทคโนโลยี

วาทศิลป์มีอยู่ว่า "การที่ AI เข้ามาแทนที่งานของมนุษย์นั้นเป็นแนวโน้มทางประวัติศาสตร์ที่หลีกเลี่ยงไม่ได้ แม้ว่าฉันจะไม่ทำ แต่คนอื่นจะทำ ดังนั้น การพัฒนา AI อย่างแข็งขันของฉันในตอนนี้จึงไม่ใช่เพื่อสร้างรายได้ แต่เพื่อตามกระแสทางประวัติศาสตร์"

การต่อต้านต่ำนั้นอยู่ตรงไหน? มันทำลายความรู้สึกผิดชอบชั่วดีของคนๆ หนึ่งอย่างสิ้นเชิง เพราะมันเป็นสิ่งที่ "หลีกเลี่ยงไม่ได้" ฉันจึงไม่จำเป็นต้องรับผิดชอบต่อความเสียหายที่ฉันก่อขึ้น

นี่เป็นตัวอย่างทั่วไปของจิตใจแบบกาแล็กซี: บรรจุความปรารถนาเห็นแก่ตัวที่ว่า "ฉันต้องการหาเงิน/ฉันต้องการมีอำนาจ" ไว้เป็น "ฉันกำลังปฏิบัติภารกิจทางประวัติศาสตร์"

4. เมื่อต้องเผชิญกับ “กับดักคนฉลาด” เหล่านี้ เราควรทำอย่างไร?

วิธีแก้ปัญหาของ Vitalik นั้นเรียบง่ายอย่างน่าประหลาดใจ แม้จะดู "งุ่มง่าม" เล็กน้อยก็ตาม เขาเชื่อว่ายิ่งคนฉลาดมากเท่าไหร่ เขาก็ยิ่งต้องการกฎเกณฑ์มากขึ้นเท่านั้น เพื่อควบคุมตัวเองและป้องกันไม่ให้ทำสิ่งที่เกินเลยไป

ประการแรก ยึดมั่นใน "จริยธรรมเชิงจริยธรรม" ซึ่งถือเป็นหลักศีลธรรมระดับอนุบาล

ลืมปัญหาคณิตศาสตร์ที่ซับซ้อน "เพื่ออนาคตของมนุษยชาติทั้งหมด" ไปได้เลย มาดูหลักการที่เข้มงวดที่สุดกันดีกว่า:

- ห้ามลักขโมย

- อย่าฆ่าคนบริสุทธิ์

- อย่าหลอกลวง

- เคารพเสรีภาพของผู้อื่น

กฎเหล่านี้มีความต้านทานสูงมาก เพราะเป็นกฎตายตัว และไม่มีช่องว่างให้เจรจาต่อรอง เมื่อคุณพยายามอธิบายว่าทำไมคุณถึงยักยอกเงินของผู้ใช้โดยใช้หลักการ "ระยะยาว" อันยิ่งใหญ่ กฎที่เข้มงวดอย่าง "ห้ามขโมย" จะตบหน้าคุณทันที: การขโมยก็คือการขโมย อย่าพูดถึงการปฏิวัติทางการเงินครั้งใหญ่

ประการที่สอง ให้ยึดถือ "ตำแหน่ง" ที่ถูกต้อง รวมไปถึงตำแหน่งที่ตั้งทางกายภาพด้วย

ดังคำกล่าวที่ว่า ตำแหน่งที่คุณนั่งอยู่เป็นตัวกำหนดตำแหน่งที่คุณคิด หากคุณใช้เวลาทั้งหมดอยู่ในห้องเสียงสะท้อนของเขตอ่าวซานฟรานซิสโก ล้อมรอบไปด้วยผู้คนที่กำลังพัฒนาระบบเร่งความเร็วของ AI ก็คงยากที่จะมีสติสัมปชัญญะแจ่มใส Vitalik ถึงกับเสนอแนะด้วยท่าทีต่อต้านทางกายภาพว่า อย่าอาศัยอยู่ในเขตอ่าวซานฟรานซิสโก

5. สรุป

บทความของ Vitalik จริงๆ แล้วเป็นคำเตือนถึงกลุ่มคนชั้นสูงที่มีความฉลาดเป็นพิเศษว่า อย่าคิดว่าแค่คุณมี IQ สูง คุณจะสามารถละเลยหลักศีลธรรมพื้นฐานได้

ทฤษฎี "สมองกาแล็กซี" ที่ดูเหมือนจะอธิบายทุกสิ่งได้ มักเป็นข้ออ้างสารพัดประโยชน์ที่อันตรายที่สุด ในทางกลับกัน กฎ "ความต้านทานสูง" ที่ดูเหมือนจะเข้มงวดและยึดติดแน่นเหล่านั้น กลับกลายเป็นแนวป้องกันสุดท้ายที่ป้องกันการหลอกตัวเอง

ลิงค์ต้นฉบับ

ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:

กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats

กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App

บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia