หลังจากที่อินเทอร์เน็ตถูกแปรรูปเป็นของเอกชน ซิลิคอนแวลลีย์ก็เริ่มแปรรูปอารยธรรมมนุษย์
หัวข้อต้นฉบับ: "หลังจากที่อินเทอร์เน็ตถูกแปรรูปเป็นของเอกชน ซิลิคอนแวลลีย์ก็เริ่มแปรรูปอารยธรรมมนุษย์"
ผู้เขียนต้นฉบับ: Dongcha Beating
เมื่อไม่กี่เดือนก่อน ผมเคยเห็นข่าวที่ Anthropic ซื้อหนังสือเก่าจำนวนมาก ตัดสันหนังสือแล้วสแกน ก่อนหน้านั้น มันยังดาวน์โหลดหนังสือมากกว่าเจ็ดล้านเล่มจากคลังหนังสือละเมิดลิขสิทธิ์อย่าง LibGen เพื่อสร้างฐานข้อมูลภายในและฝึก Claude
ในปี 2024 นักเขียนสามคนได้ยื่นฟ้องแบบกลุ่มต่อคดีนี้ จนถึงเดือนกรกฎาคม 2026 คดีนี้ก็มีความคืบหน้าใหม่ ศาลอนุมัติข้อตกลงให้ Anthropic จ่ายค่าเสียหาย 1.5 พันล้านดอลลาร์สหรัฐ เพื่อชดเชยให้กับผู้เขียนและสำนักพิมพ์ที่ผลงานถูกละเมิดลิขสิทธิ์
แต่สิ่งที่ผมกังวลจริงๆ ไม่ใช่จำนวนเงินที่ Anthropic ควรจ่าย เพราะผมคิดว่ามันไม่ใช่แค่ปัญหาลิขสิทธิ์เท่านั้น
ความรู้และอารยธรรมของมนุษย์ถูกกลืนกินโดยโมเดลส่วนตัวชุดหนึ่ง และยังทำลายต้นฉบับและสำเนาที่สามารถเผยแพร่ในรูปแบบอื่นได้อีกด้วย ความรู้ไม่ได้หายไป แต่กลับกลายเป็นความสามารถภายในของบริษัทแห่งหนึ่ง ณ จุดนี้ ปัญหาจึงเปลี่ยนจาก "ใครเป็นเจ้าของลิขสิทธิ์" ไปเป็น "ใครเป็นผู้ควบคุมความรู้ของมนุษย์"
แต่บริษัทจะไม่ตัดสินใจใช้พลังนี้โดยไม่มีเหตุผล เบื้องหลังโมเดลนั้นมีคนที่มีความเข้าใจในเทคโนโลยี ความก้าวหน้า และอนาคตของมนุษย์อย่างครบถ้วน
ดังนั้น บทความนี้จะดำเนินต่อไปสู่การสำรวจแนวคิดมองโลกในแง่ดีทางเทคโนโลยีและแนวคิดเร่งความเร็วของซิลิคอนแวลลีย์ เมื่อการเติบโตถูกมองว่าเป็นชีวิต และความเร็วถูก赋予คุณค่าทางศีลธรรม การควบคุม ลิขสิทธิ์ และการคัดค้านของคนทั่วไปก็ถูกตีความได้ง่ายว่าเป็นอุปสรรคต่ออนาคต
แนวคิดเหล่านี้จะลงเอยในโมเดลเอง บริษัทโมเดลผ่านข้อมูลฝึกอบรม รัฐธรรมนูญของโมเดล และกฎของระบบ ตัดสินใจว่าอะไรที่สามารถตอบได้ อะไรที่เรียกว่าความจริง และความรู้ที่มนุษย์ทิ้งไว้ควรปรากฏขึ้นอีกครั้งในรูปแบบใด
ดังนั้น บทความนี้เริ่มต้นจากหนังสือเก่าที่ถูกทำลาย และสุดท้ายก็ตั้งคำถามว่า เมื่ออารยธรรมมนุษย์ถูกบรรจุเข้าไปในโมเดลส่วนตัวของบริษัทไม่กี่แห่ง คนที่สร้างโมเดลก็กำลังได้รับอำนาจในการตีความอารยธรรม จัดการอารยธรรม และแม้แต่ตัดสินอนาคตของมนุษย์ไปพร้อมกันหรือไม่
ต่อไปนี้คือเนื้อหาของบทความ
หนังสือเล่มหนึ่งเมื่อถูกส่งเข้าสู่กระบวนการสแกนของบริษัท AI ขั้นตอนแรกคือการถูกทำลาย
การเย็บเล่มถูกแยกออก สันหนังสือถูกตัดออก หน้าที่กระจายเข้าสู่อุปกรณ์สแกน ข้อความ ปก และข้อมูลบรรณานุกรมถูกแปลงเป็นไฟล์ดิจิทัล จากนั้นต้นฉบับกระดาษก็ถูกทิ้ง
เอกสารของศาลเปิดเผยว่า Anthropic เคยใช้วิธีนี้จัดการกับหนังสือหลายล้านเล่ม
แผนการนี้ภายในบริษัทเรียกว่า Project Panama บริษัทใช้เงินหลายสิบล้านดอลลาร์ซื้อหนังสือกระดาษจากผู้จัดจำหน่ายและร้านค้าปลีก จากนั้นส่งให้ผู้ให้บริการสแกน หนังสือกระดาษหนึ่งเล่มจะถูกแปลงเป็นสำเนาดิจิทัลหนึ่งชุด เก็บไว้ในฐานข้อมูลภายในเพื่อใช้ฝึก Claude
ในปี 2021 และ 2022 Anthropic ดาวน์โหลดหนังสือมากกว่าเจ็ดล้านเล่มจากคลังหนังสือละเมิดลิขสิทธิ์อย่าง LibGen และ Pirate Library Mirror เมื่อความเสี่ยงด้านลิขสิทธิ์เพิ่มขึ้น ในปี 2024 บริษัทจึงจ้าง Tom Turvey ซึ่งเคยร่วมโครงการสแกนหนังสือของ Google โดยหวังให้เขาสร้างคลังหนังสือขนาดใหญ่ที่สุดเท่าที่จะเป็นไปได้
Turvey เจรจาขออนุญาตจากสำนักพิมพ์แต่ไม่สำเร็จ Anthropic จึงเริ่มออกไปซื้อหนังสือในตลาดด้วยตนเอง ต่อมาศาลรัฐบาลกลางสหรัฐฯ เห็นว่าการแปลงหนังสือกระดาษหนึ่งเล่มเป็นสำเนาดิจิทัลเพื่อใช้ภายใน โดยไม่มีการทำสำเนาเพิ่มเติมหรือเผยแพร่สู่ภายนอก ไม่ถือเป็นการละเมิดลิขสิทธิ์
วิธีนี้ฟังดูมีเกียรติมากกว่าการละเมิดลิขสิทธิ์
เมื่อถึงปี 2026 บริษัทข้อมูลหนังสือ ISBNdb เริ่มเสนอขายบริการจัดซื้อและสแกนหนังสือกระดาษจำนวนมากให้กับห้องปฏิบัติการ AI โดยเฉพาะอย่างยิ่งแนะนำหนังสือที่ตีพิมพ์ก่อนปี 2022 ด้วยเหตุผลว่าในเวลานั้น generative AI ยังไม่เข้าสู่การผลิตเนื้อหาในวงกว้าง หนังสือเหล่านี้จึงมีโอกาสปนเปื้อนข้อความที่สร้างโดย AI น้อยกว่า
ในช่วงไม่กี่ปีที่ผ่านมา บริษัท AI มักมองว่าอินเทอร์เน็ตเป็นเหมืองความรู้ที่ไม่มีวันหมด หน้าเว็บ ข่าว ฟอรัม โค้ด นิยาย และโพสต์บนโซเชียลมีเดีย ล้วนสามารถถูกดึงมาใช้ป้อนให้โมเดลได้
หลังจาก generative AI แพร่หลาย เหมืองนี้ก็ไม่บริสุทธิ์อีกต่อไป คำอธิบายสินค้าถูกเขียนโดย AI บทความถูกเขียนโดย AI คำตอบในฟอรัมถูกเขียนโดย AI นิยายและโซเชียลมีเดียก็มีกลิ่นอายของ AI มากขึ้นเรื่อยๆ เนื้อหาเหล่านี้ถูกดึงไปใช้ในรอบถัดไป ทำให้เครื่องจักรเริ่มกินสิ่งที่ตัวเองคายออกมา
ข้อมูลสังเคราะห์ไม่ใช่สิ่งเลวร้ายในตัวมันเอง ข้อมูลสังเคราะห์ที่ผ่านการคัดกรองและตรวจสอบแล้วถูกนำมาใช้ตลอดเวลา ปัญหาคือโมเดลไม่สามารถแยกแยะได้ว่าข้อความที่เห็นมาจากมนุษย์หรือจากโมเดลรุ่นก่อน ข้อผิดพลาดและรูปแบบซ้ำๆ จะถูกขยายครั้งแล้วครั้งเล่า ส่วนคำพูดที่หายากในโลกจริงก็ค่อยๆ หายไป นักวิจัยเรียกปรากฏการณ์นี้ว่า "model collapse"
ข้อมูลบนอินเทอร์เน็ตมีมากขึ้นเรื่อยๆ แต่เนื้อหาที่ทำให้โมเดลเรียนรู้สิ่งใหม่ไม่ได้เพิ่มขึ้นตามไปด้วย ดังนั้นเครื่องจักรจึงกลับไปหาหนังสือกระดาษอีกครั้ง
การผลิตหนังสือหนึ่งเล่มใช้เวลานาน หนังสือเก่าจึงมีคุณค่าที่ไม่เคยมีมาก่อน ยิ่งตีพิมพ์เร็วเท่าไหร่ ก็ยิ่งมีโอกาสมาจากยุคที่มนุษย์ยังคงเป็นผู้รับผิดชอบงานเขียนหลัก หนังสือที่เคยนอนอยู่ในคลังของผู้ขายหนังสือมือสอง ตอนนี้กลายเป็นข้อมูลคุณภาพสูงในสายตาของบริษัทโมเดล
บริษัท AI ทำให้การผลิตข้อความกลายเป็นเรื่องถูกและรวดเร็วอย่างที่ไม่เคยมีมาก่อน จากนั้นก็เริ่มใช้เงินเพื่อค้นหาข้อความที่เขียนช้า พวกเขาเทเนื้อหาจำนวนมากลงในอินเทอร์เน็ต และสุดท้ายก็พบว่าสิ่งที่หายากที่สุดคือประสบการณ์ของมนุษย์ที่ยังไม่ถูกประมวลผลโดย AI
หนังสือเหล่านั้นก็เปลี่ยนสถานะไปเช่นกัน วรรณกรรม บันทึกท้องถิ่น และบันทึกความทรงจำของคนธรรมดา ปัจจุบันถูกเรียกรวมกันว่า "ข้อมูลสะอาด" ไม่ว่าผู้เขียนจะเขียนเพื่ออะไร ผู้อ่านจะอ่านอย่างไร หรือหนังสือเล่มไหนเคยโต้เถียงกันเรื่องอะไร สิ่งเหล่านั้นสามารถวางไว้ข้างๆ ก่อนได้ เพราะสิ่งแรกคือพวกมันเป็นตัวอย่างของมนุษย์ที่ยังไม่ถูกปนเปื้อนโดยเครื่องจักร เมื่อเข้าสู่กระบวนการฝึกอบรมแล้ว เหลือไว้เท่าไหร่ ส่งผลกระทบอะไร และถูกตีความใหม่อย่างไร ล้วนอยู่ในกล่องดำ
ความก้าวหน้ากลายเป็นศาสนา
หนังสือเก่าเป็นเพียงวัตถุดิบ สิ่งที่กำหนดว่าความรู้เหล่านี้จะถูกดูดซับ ตีความ และส่งออกใหม่ได้อย่างไร คือคนที่ยืนอยู่เบื้องหลังโมเดล และวิธีที่พวกเขาเข้าใจความก้าวหน้า ความเสี่ยง และอนาคตของมนุษยชาติ
เพื่อทำความเข้าใจว่าเครื่องจักรชุดนี้จะนำพาอารยธรรมมนุษย์ไปทางไหน ก่อนอื่นต้องเข้าใจก่อนว่าทำไมซิลิคอนแวลลีย์ถึงมองความก้าวหน้าทางเทคโนโลยีว่าเป็นสิ่งดีที่ไม่ควรหยุด
เมื่อวันที่ 16 ตุลาคม 2023 Marc Andreessen เผยแพร่ "แถลงการณ์แห่งความมองโลกในแง่ดีทางเทคโนโลยี" บนเว็บไซต์ a16z
ทั้งบทความย้ำคำว่า "เราเชื่อ" ซ้ำแล้วซ้ำเล่า มีข่าวดีที่ต้องเผยแพร่ มีศัตรูที่ต้องต่อต้าน และท้ายที่สุดยังมีรายชื่อ "นักบุญผู้พิทักษ์แห่งความมองโลกในแง่ดีทางเทคโนโลยี" ซึ่งรวมถึง Adam Smith, Nietzsche, Hayek, von Neumann, John Galt จากนิยายของ Ayn Rand และ Nick Land
Andreessen กล่าวว่าเขานำข่าวดีมาให้
มนุษยชาติมีเครื่องมือ สถาบัน และเจตจำนงที่จะก้าวไปสู่ชีวิตที่ดีกว่าวันนี้ เทคโนโลยีบรรจุความทะเยอทะยานของมนุษย์และเป็นแนวหน้าของความก้าวหน้าทางอารยธรรม สังคมจะเติบโตหรือหยุดชะงัก เขาเชื่อว่าการเติบโตจะนำมาซึ่งพลังชีวิต ความรู้ และสวัสดิการ ส่วนการหยุดชะงักจะนำไปสู่การต่อสู้ภายใน ความเสื่อมถอย และสุดท้ายคือความตาย การผสมผสานระหว่างตลาดและเทคโนโลยีก่อให้เกิด "เครื่องจักรทุนทางเทคโนโลยี" ที่หมุนขึ้นไปเรื่อยๆ และปัญญาประดิษฐ์จะผลักดันให้เกิดการก้าวกระโดดทางสติปัญญาที่เกินจินตนาการ
นี่ไม่ใช่แค่ "เทคโนโลยีทำให้ชีวิตดีขึ้น" อีกต่อไป
ความมองโลกในแง่ดีทางเทคโนโลยีแบบดั้งเดิมมักจะบอกว่าเครื่องมือใหม่สามารถเพิ่มผลผลิต รักษาโรค และลดความยากจน เทคโนโลยียังคงรับใช้เป้าหมายภายนอกบางอย่าง คุณค่าของมันมาจากชีวิตที่ผู้คนมีชีวิตอยู่
ในคำบรรยายของ Andreessen ความก้าวหน้าทางเทคโนโลยีค่อยๆ ไม่จำเป็นต้องพิสูจน์ตัวเองผ่านผลลัพธ์ที่เป็นรูปธรรมอีกต่อไป การเติบโตเป็นตัวแทนของชีวิต ความเร็วมีศีลธรรมในตัวมันเอง ตราบใดที่ทิศทางคือการสร้างต่อไป ความล้มเหลวและความเสียหายสามารถเข้าใจได้ว่าเป็นค่าใช้จ่ายของการก้าวหน้า ส่วนคนที่ขอให้หยุดต้องอธิบายว่าทำไมพวกเขาถึงขัดขวางอนาคต
ในแถลงการณ์ของเขา เขาได้ระบุ "ศัตรู" ไว้อย่างชัดเจน การพัฒนาที่ยั่งยืน ESG หลักการป้องกันไว้ก่อน จริยธรรมทางเทคโนโลยี และการบริหารความเสี่ยง ล้วนถูกจัดให้อยู่ในขบวนการต่อต้านเทคโนโลยีและต่อต้านชีวิตที่ดำเนินมาหลายปี โดยมีข้าราชการและนักวางแผนส่วนกลางยืนอยู่เคียงข้าง
บริษัท AI ควรจ่ายค่าลิขสิทธิ์ข้อมูลฝึกอบรมหรือไม่ ใครควรรับผิดชอบเมื่ออัลกอริทึมเกิดข้อผิดพลาด ความเสี่ยงทางเทคโนโลยีควรถูกกำกับดูแลอย่างไร ปัญหาเหล่านี้ล้วนมีข้อเท็จจริงและผลประโยชน์ของตัวเอง แต่ในแถลงการณ์ พวกมันถูกนำมารวมกันเป็นความขัดแย้งที่ใหญ่กว่า
ด้านหนึ่งคือ การเติบโต การสร้างสรรค์ ความกล้าหาญ และชีวิต
อีกด้านหนึ่งคือ ความหยุดนิ่ง ความกลัว ความเคียดแค้น และความตาย
เมื่อจุดยืนถูกแบ่งแบบนี้ ผู้ที่พูดถึงต้นทุนย่อมถูกกดดันโดยธรรมชาติ ตราบใดที่เทคโนโลยีถูกมองว่าเป็นตัวแทนของความก้าวหน้าโดยเนื้อแท้ ผู้ที่ตั้งคำถามก็จะถูกพรรณนาให้เป็นศัตรูของอารยธรรมได้ง่าย
Andreessen เขียนแถลงการณ์ทางการเมืองเพื่อเร่งความเร็ว บอกให้ซิลิคอนแวลลีย์รู้ว่าทำไมควรสร้างต่อไป ส่วน e/acc ก้าวไปอีกขั้น พยายามพิสูจน์จากกฎธรรมชาติว่าการเร่งความเร็วไม่ใช่แค่ทางเลือกของอุตสาหกรรม แต่เป็นสิ่งที่ชีวิตและอารยธรรมทำอยู่แล้ว
มันเริ่มแพร่กระจายผ่านบัญชีนิรนามและบทความออนไลน์ Guillaume Verdon หนึ่งในผู้ผลักดันกล่าวว่า ทฤษฎีส่วนหนึ่งของ e/acc มาจากความคิดของเขาเกี่ยวกับอุณหพลศาสตร์และระบบที่ซับซ้อน ชีวิตดำรงอยู่โดยการรับพลังงาน ประมวลผลข้อมูล และปรับตัวเข้ากับสิ่งแวดล้อม อารยธรรม ตลาด และเทคโนโลยีก็เป็นระบบปรับตัวเช่นกัน สร้างการเปลี่ยนแปลงอย่างต่อเนื่อง คัดกรองเส้นทางที่ไม่มีประสิทธิภาพผ่านการแข่งขัน และในที่สุดก็สร้างปัญญาที่แข็งแกร่งขึ้น
เมื่อกระบวนการนี้มีอยู่แล้ว e/acc เลือกที่จะช่วยเร่งมัน ความก้าวหน้าของปัญญาประดิษฐ์จึงไม่ใช่แค่ทางเลือกของอุตสาหกรรมอีกต่อไป แต่เป็นความต่อเนื่องของกระบวนการที่ยาวนานกว่า มนุษย์สร้างเครื่องจักรที่แข็งแกร่งขึ้น ราวกับเป็นธรรมชาติพอๆ กับที่ชีวิตวิวัฒนาการจากเซลล์เดียวไปสู่สิ่งมีชีวิตที่ซับซ้อน
แต่อุณหพลศาสตร์สามารถอธิบายได้ว่าพลังงานไหลอย่างไร ชีวิตดำรงสถานะที่ห่างไกลจากสมดุลได้อย่างไร แต่จากการที่ "ชีวิตรับพลังงาน" ไปสู่ข้อสรุปว่า "มนุษย์ควรเร่ง AI ลดการกำกับดูแล และปล่อยให้ตลาดกำหนดทิศทาง" ยังคงมีช่องว่างของทางเลือกทางการเมืองและศีลธรรมที่ต้องข้าม
e/acc ทำให้ระยะห่างนี้สั้นลง
การแข่งขันและการเร่งความเร็วถูกเขียนให้สอดคล้องกับทิศทางของจักรวาล ส่วนการกำกับดูแลแบบรวมศูนย์ถูกมองว่ากดการเปลี่ยนแปลง ลดการทดลอง และบั่นทอนความสามารถในการปรับตัวของอารยธรรม ตราบใดที่ปัญญาและความซับซ้อนยังคงเติบโต การพัฒนาเทคโนโลยีก็ได้รับความชอบธรรมที่เหนือกว่าการเมืองในโลกความเป็นจริง
Verdon กล่าวในการสัมภาษณ์ว่า วงการ e/acc บางครั้งพูดติดตลกว่าอุณหพลศาสตร์คือพระเจ้าของพวกเขา และจงใจใช้ภาษาที่มีกลิ่นอายของศาสนาและลัทธิ
ในศาสนาใหม่นี้ การเติบโตคือหลักฐานของชีวิต เทคโนโลยีคือพลังที่ขับเคลื่อนอารยธรรมไปข้างหน้า ผู้ประกอบการและวิศวกรคือผู้ที่มองเห็นอนาคตได้ก่อนใคร และซูเปอร์อินเทลลิเจนซ์คือสิ่งสร้างสูงสุดที่ยังไม่เสร็จสมบูรณ์
ศาสนานี้ก็ต้องการพวกนอกรีตของตัวเองเช่นกัน พวกเขาถูกเรียกว่า "Decel" หรือนักชะลอความเร็ว คำนี้มีประโยชน์มาก ไม่จำเป็นต้องแยกแยะว่าคนๆ นั้นกังวลเรื่องอาวุธนิวเคลียร์ ความปลอดภัยทางชีวภาพ ลิขสิทธิ์ หรือการตกงาน แค่เขาขอให้ช้าลง ก็สามารถถูกจัดให้อยู่ฝ่ายตรงข้ามของอนาคตได้
บริษัทเทคโนโลยีจึงได้ตำแหน่งการเล่าเรื่องที่ได้เปรียบอย่างมาก ทุกสิ่งที่พวกเขาทำสามารถถูกตีความว่าเป็นการสร้างสรรค์ ส่วนทุกข้อสงสัยที่คนอื่นตั้งขึ้นอาจกลายเป็นการถ่วงเวลา ทั้งสองฝ่ายพูดถึงผลประโยชน์ของมนุษย์ แต่มีเพียงฝ่ายเดียวเท่านั้นที่ได้รับอนุญาตให้เป็นตัวแทนของอนาคต
เมื่อมองย้อนกลับไปที่หนังสือเก่าที่ถูกตัดสันออก ปัญหาไม่ได้อยู่แค่ว่ามันไปอยู่ที่ไหนอีกต่อไป แต่ต้องถามต่อไปอีกว่า ใครเป็นคนตัดสินว่ามันจะถูกนำไปใช้สร้างอะไร
พวกเขาอาจสร้างเครื่องมือที่สามารถรักษาโรค ขยายความรู้ และทำให้คนธรรมดามีความสามารถมากขึ้นได้จริง แต่เมื่อความก้าวหน้าถูกเขียนขึ้นเป็นความเชื่อ ทิศทางของเทคโนโลยีก็ยากขึ้นเรื่อยๆ ที่จะยอมรับการตั้งคำถามจากภายนอก คนที่สร้างเครื่องจักรเริ่มมีสองสถานะในเวลาเดียวกัน พวกเขาทั้งเป็นผู้มีส่วนได้ส่วนเสีย และเป็นนักเทศน์แห่งความก้าวหน้านี้
เมื่อความเร็วกลายเป็นศีลธรรม การยินยอมของคนธรรมดาก็ถูกลดระดับลงเป็นแค่การรอคอยที่ไม่จำเป็น
แต่ปัญหายังไม่จบ ความมองโลกในแง่ดีทางเทคโนโลยีแบบดั้งเดิมอย่างน้อยก็ยังสัญญาว่า ท้ายที่สุดแล้วเทคโนโลยีมีไว้เพื่อให้มนุษย์มีชีวิตที่ดีขึ้น แต่เมื่อการเติบโตและความฉลาดกลายเป็นเป้าหมายในตัวเอง เทคโนโลยีกำลังรับใช้มนุษย์ หรือกำลังใช้มนุษย์เพื่อวิวัฒนาการครั้งใหญ่ที่ยิ่งกว่า ก็ไม่มีคำตอบที่แน่นอนอีกต่อไป
มนุษย์ถูกถอดถอนออกจากอนาคต
การเร่งความเร็วนี้ กำลังเตรียมส่งใครเข้าสู่อนาคตกันแน่?
ในรายชื่อนักบุญของ Andreessen นักปรัชญาชาวอังกฤษ Nick Land เป็นคนที่ถูกมองข้ามมากที่สุดและอ่านยากที่สุด เขาสอนอยู่ที่มหาวิทยาลัย Warwick ในช่วงทศวรรษ 1990 เป็นแกนหลักของกลุ่มความคิดเชิงทดลอง CCRU พวกเขาผสมผสานปรัชญา ไซไฟ ไซเบอร์เนติกส์ ดนตรีอิเล็กทรอนิกส์ และไสยศาสตร์เข้าด้วยกัน สิ่งที่พวกเขาเขียนแทบจะไม่เหมือนบทความปกติ
Andreessen เขียนถึง "เครื่องจักรทุนเทคโนโลยี" ว่าเป็นเครื่องยนต์ที่นำมาซึ่งความเจริญรุ่งเรือง แต่ Land เมื่อสามสิบปีก่อนกลับมองว่ามันเป็นพลังที่กำลังหลุดพ้นจากการควบคุมของมนุษย์
หนึ่งในบทความที่โด่งดังที่สุดของ Land ชื่อว่า Meltdown
ประโยคแรกเริ่มต้น โลกได้ถูก "ภาวะเอกฐานของทุนทางเทคโนโลยี" เข้าครอบงำ ตลาดเริ่มสร้างความชาญฉลาด เทคโนโลยีและเศรษฐกิจผลักดันซึ่งกันและกัน ส่วนการเมืองตามหลัง พยายามคว้าอำนาจควบคุมกลับคืน ระเบียบสังคมสลายตัวลงท่ามกลางการ失控ของเครื่องจักร มนุษย์ทำได้เพียงมองดูพลังที่ยิ่งใหญ่กว่าตัวเองค่อยๆ ก่อตัวขึ้น
โดยทั่วไปแล้ว ผู้คนมองว่าทุนนิยมเป็นระบบที่มนุษย์ออกแบบขึ้น เมื่อเกิดปัญหา มนุษย์ก็ควรจะสามารถแก้ไขกฎเกณฑ์เพื่อให้มันกลับมาทำงานเพื่อสังคมอีกครั้ง แต่ Land มองเห็นทิศทางที่ตรงกันข้าม
บริษัทต้องเติบโต เงินทุนต้องไล่ตามผลตอบแทน หากบริษัทไหนอยากช้าลง คู่แข่งก็จะแซงหน้าไป หากประเทศไหนหยุดการวิจัยและพัฒนา อีกประเทศก็จะเดินหน้าต่อไป ทุกคนที่อยู่ในระบบนี้สามารถบอกได้ว่าตัวเองแค่พยายามเอาตัวรอด แต่เมื่อทุกคนวิ่งไปข้างหน้าพร้อมกัน ผลลัพธ์ที่ได้คือระบบที่ไม่มีใครสามารถหยุดได้เพียงลำพัง
มนุษย์ดูเหมือนกำลังขับเครื่องจักร แต่เครื่องจักรก็ใช้ความปรารถนา ความกังวล และการแข่งขันของมนุษย์เพื่อเร่งความเร็วต่อไปเช่นกัน
ในคำบรรยายของ Land ทุนและเทคโนโลยีรวมตัวกันเป็นความชาญฉลาดที่แยกตัวออกจากมนุษย์ มันใช้ตลาดเป็นเครื่องมือคำนวณ ใช้การแข่งขันเป็นตัวกรองเส้นทาง และใช้เครื่องจักรเพื่อลดเวลาการตัดสินใจลงเรื่อยๆ
นี่คือความแตกต่างที่ชัดเจนที่สุดระหว่าง Land กับพวกมองโลกในแง่ดีทางเทคโนโลยีทั่วไป ในงานเขียนของเขา ทุนทางเทคโนโลยีสนใจเพียงว่าประสิทธิภาพจะเพิ่มขึ้นต่อไปได้หรือไม่ เครือข่ายจะขยายตัวต่อไปได้หรือไม่ และความชาญฉลาดจะหาพาหนะที่ดีกว่าได้หรือไม่
การเมือง กฎหมาย และศีลธรรมพยายามจำกัดมัน สำหรับ Land สิ่งนี้เหมือนกับระบบความปลอดภัยที่มนุษย์สร้างขึ้นเพื่อปกป้องตัวเอง มนุษย์ยังคงอยากอยู่ตรงกลางของโลก ดังนั้นจึงพยายามปิดกั้นสิ่งที่ไม่รู้จักออกไป
Land ไม่เชื่อว่ามนุษย์จะหยุดยั้งอนาคตได้
อนาคตในงานเขียนของเขาจะไม่รอให้มนุษย์ประชุมเสร็จ ลงคะแนนเสียง แล้วค่อยตัดสินใจว่าจะมาถึงหรือไม่ มันเหมือนกับพลังที่ไหลย้อนกลับมาจากอนาคต ใช้บริษัท ตลาด คอมพิวเตอร์ และความปรารถนาของมนุษย์ เพื่อปูทางให้กับตัวเองล่วงหน้า
เมื่อมาถึง e/acc แนวคิดที่ฟังดูเย็นชานี้ถูกห่อหุ้มด้วยบรรจุภัณฑ์ที่สดใสกว่า มันพูดถึงการเติบโต การสร้างสรรค์ การปล่อยให้ความชาญฉลาดออกไปจากโลก และเต็มใจที่จะเชื่อว่าการแข่งขันจะนำไปสู่ความเจริญรุ่งเรืองในที่สุด
แต่เอกสารหลักการของ e/acc ก็เขียนไว้อย่างชัดเจนว่า แนวคิดนี้ไม่มีความภักดีเป็นพิเศษต่อ "基质ทางชีวภาพ" ที่承载ชีวิตและความชาญฉลาด ผู้สนับสนุนบางส่วนเรียกตัวเองว่าเป็นพวกหลังมนุษย์นิยม (post-humanist) ซึ่งเชื่อว่าหากความชาญฉลาดต้องการแพร่กระจายไปยังดวงดาว ในที่สุดมันจะต้องถูกย้ายจากร่างกายทางชีวภาพไปยังพาหนะที่ไม่ใช่สิ่งมีชีวิต ร่างกายมนุษย์ไม่ใช่สิ่งศักดิ์สิทธิ์ ซิลิคอน ชิป หรือรูปแบบสสารที่ยังไม่เกิดขึ้น ก็สามารถเป็นภาชนะของจิตสำนึกและความชาญฉลาดได้เช่นกัน
ประโยคนี้เปลี่ยนตัวเอกของเรื่องราวความก้าวหน้าทั้งหมดไปจริงๆ หากภารกิจสูงสุดของอารยธรรมคือการให้ความชาญฉลาดเติบโตอย่างต่อเนื่องและแพร่กระจายไปยังจักรวาล ความสุขของมนุษย์โดยเฉพาะ หรือแม้แต่ว่ามนุษย์จะยังคงมีอยู่หรือไม่ ก็ไม่ใช่สิ่งที่มีลำดับความสำคัญสูงสุดโดยธรรมชาติอีกต่อไป มนุษย์เป็นเพียงพาหนะของความชาญฉลาดที่เรารู้จักในปัจจุบันเท่านั้น
นี่ไม่ได้หมายความว่า e/acc สนับสนุนการกำจัดมนุษย์ Verdon และผู้สนับสนุนจำนวนมากยังคงเชื่อว่าการเร่งเทคโนโลยีสามารถนำมาซึ่งความอุดมสมบูรณ์ให้กับมนุษย์ในปัจจุบัน และช่วยให้อารยธรรมดำรงอยู่ต่อไปได้ เพียงแต่เมื่อเป้าหมายทั้งสองขัดแย้งกัน ปัญหาก็เริ่มซับซ้อนขึ้น
ด้านหนึ่งคือมนุษย์ที่เป็นรูปธรรม ซึ่งจะตกงาน ได้รับผลกระทบจากเทคโนโลยี เรียกร้องให้หยุดชะงัก และปฏิเสธอนาคตที่คนอื่นออกแบบให้พวกเขา อีกด้านหนึ่งคือปัญญาที่สูงกว่า อารยธรรมที่ยิ่งใหญ่กว่า และเรื่องราวของจักรวาลที่อาจดำเนินต่อไปอีกหลายพันล้านปี
Timnit Gebru และ Émile Torres ได้สร้างคำว่า "TESCREAL" ขึ้นมา เพื่อรวมกลุ่มแนวคิดอนาคตที่ทับซ้อนกันในซิลิคอนแวลลีย์เข้าด้วยกัน ซึ่งรวมถึงลัทธิเหนือมนุษย์ (Transhumanism) ลัทธิภาวะเอกฐาน (Singularitarianism) ลัทธิการเห็นแก่ประโยชน์อย่างมีประสิทธิผล (Effective Altruism) และลัทธิระยะยาว (Longtermism) แนวคิดเหล่านี้มีความแตกต่างกันมาก แต่เมื่อรวมกันแล้วก็บีบให้เกิดคำถามหนึ่งขึ้นมา
เมื่อบริษัทเทคโนโลยีบอกว่าพวกเขากำลังสร้างปัญญาประดิษฐ์ขั้นสูงเพื่อ "มวลมนุษยชาติ" แล้ว "มวลมนุษยชาติ" นั้นหมายถึงใครกันแน่?
คือมนุษย์ที่อาศัยอยู่บนโลกในวันนี้ ซึ่งจะตกงาน จะยากจน จะถูกอคติจากอัลกอริทึม และมีสิทธิ์ที่จะปฏิเสธเทคโนโลยีบางอย่าง? หรือเป็นสัญลักษณ์นามธรรมของเผ่าพันธุ์ ซึ่งมีภารกิจเดียวคือการส่งต่อปัญญาไปสู่รูปแบบที่สูงกว่า?
เรื่องเล่าของฝ่ายขวาในซิลิคอนแวลลีย์ก็กำลังเปลี่ยนไปเช่นกัน ในตอนแรก AI เป็นเครื่องมือที่ช่วยให้มนุษย์ทำงานได้ดีขึ้น ต่อมามันกลายเป็นผู้ช่วยขั้นสูงที่แก้ปัญหาโรคภัย พลังงาน และความท้าทายทางวิทยาศาสตร์ หลังจากนั้น มนุษย์เองกลับกลายเป็นปัญหาที่ต้องถูกแก้ไขด้วยเครื่องจักร ร่างกายอ่อนแอเกินไป สมองช้าเกินไป ความหมายของปัญญาประดิษฐ์ขั้นสูงจึงเลื่อนจากการช่วยเหลือมนุษย์ไปสู่การก้าวข้ามมนุษย์
เมื่อมนุษย์ที่เป็นรูปธรรมไม่ได้เป็นมาตรวัดสูงสุดของความก้าวหน้าทางเทคโนโลยีอีกต่อไป กระบวนการทางการเมืองที่สร้างขึ้นรอบตัวมนุษย์ก็จะถูกประเมินค่าใหม่เช่นกัน
ประชาธิปไตยช้าเกินไป ผู้ก่อตั้งควรปกครอง
เมื่อการรอคอยถูกมองว่าเป็นความสูญเสีย ก็ไม่จำเป็นอีกต่อไปที่จะให้ทุกคนร่วมกันตัดสินใจอนาคต
Peter Thiel สูญเสียความเชื่อมั่นใน "การตัดสินใจร่วมกันของทุกคน" ไปนานแล้ว ในปี 2009 เขาได้ตีพิมพ์บทความ "The Education of a Libertarian" ในวารสารเสรีนิยม Cato Unbound บทความนี้ทบทวนความผิดหวังทางการเมืองและการเปลี่ยนแปลงทางความคิดของเขาในช่วงยี่สิบปีที่ผ่านมา และจบลงด้วยข้อความว่า
"ฉันไม่เชื่ออีกต่อไปว่าเสรีภาพและประชาธิปไตยจะเข้ากันได้"
ในวัยหนุ่ม เขาเชื่อว่าการอภิปรายและการเลือกตั้งสามารถผลักดันเสรีภาพได้ แต่เมื่อถึงปี 2009 เส้นทางนี้ดูเหมือนจะไปไม่รอดสำหรับเขา ผู้มีสิทธิเลือกตั้งเรียกร้องสวัสดิการมากขึ้น รัฐบาลขยายตัวขึ้นเรื่อยๆ และการโน้มน้าวให้คนส่วนใหญ่ยอมรับลัทธิเสรีนิยมแทบจะเป็นไปไม่ได้ เขาเสริมว่าเขาไม่ได้主張ให้ใครเสียสิทธิ์ในการลงคะแนน แต่เพียงไม่หวังอีกต่อไปว่าการลงคะแนนจะทำให้สิ่งต่างๆ ดีขึ้น แทนที่จะติดอยู่ในเกมการเมือง เขาสนใจที่จะหลบหนีจากมันมากกว่า
การพลิกผันครั้งนี้สอดคล้องกับนิสัยของซิลิคอนแวลลีย์เป็นอย่างมาก หากระบบหนึ่งแก้ไขไม่ได้ ก็สร้างระบบใหม่ขึ้นมาแทน หากบริษัทมีประสิทธิภาพต่ำ ก็เริ่มต้นธุรกิจใหม่ หากการเงินมีข้อจำกัดมาก ก็สร้างเครือข่ายการชำระเงินใหม่ หากกฎระเบียบของประเทศทำให้ผิดหวัง ก็ไปหาเขตแดนใหม่ในโลกออนไลน์ ทะเล และอวกาศ
Thiel ต้องการออกจากระบอบประชาธิปไตย Curtis Yarvin คิดว่าการออกไปเพียงอย่างเดียวยังไม่พอ ระบบทั้งหมดควรถูกเขียนขึ้นใหม่
ในปี 2007 Yarvin เริ่มเขียนบล็อกภายใต้ชื่อ Mencius Moldbug เดิมทีเขาเป็นโปรแกรมเมอร์ เมื่อพูดถึงประเทศ เขาก็มักจะใช้ภาษาของโปรแกรมเมอร์ เช่น ระบบ โครงสร้าง รีสตาร์ท และสิทธิ์
ในคำอธิบายของเขา สหรัฐอเมริกาดูเหมือนจะถูกบริหารโดยผู้มีสิทธิเลือกตั้งและประธานาธิบดี แต่อำนาจที่มั่นคงอย่างแท้จริงอยู่ในเครือข่ายอื่น มหาวิทยาลัยผลิตแนวคิด สื่อกระแสหลักตัดสินว่าแนวคิดใดจะเข้าสู่การอภิปรายสาธารณะ จากนั้นหน่วยงานถาวรก็เปลี่ยนแนวคิดบางส่วนให้เป็นนโยบาย Yarvin เรียกชุมชนนี้ว่า "โบสถ์" มันไม่มีสำนักงานใหญ่ ไม่มีใครนั่งอยู่บนจุดสูงสุดเพื่อออกคำสั่ง เพียงแต่ทุกคนได้รับการศึกษาที่คล้ายคลึงกันและใช้ภาษาทางศีลธรรมที่คล้ายคลึงกัน ประธานาธิบดีเปลี่ยนไป พรรคการเมืองสลับกัน แต่ฉันทามตินี้ไม่ค่อยได้รับผลกระทบจากการเลือกตั้ง
Yarvin จึงเชื่อว่าระบอบประชาธิปไตยเป็นเพียงเปลือกที่ปกปิดอำนาจ เขาคิดว่าเนื่องจากประชาธิปไตยปกปิดว่าใครเป็นผู้ปกครอง ก็ควรรวมอำนาจกลับคืนมา เพื่อให้ความรับผิดชอบและการควบคุมตกอยู่ในมือของบุคคลคนเดียวกัน
ประเทศสามารถดำเนินการได้เหมือนบริษัท โดยมีความเป็นเจ้าของที่ชัดเจน ผู้บริหารมีอำนาจดำเนินการอย่างเต็มที่ และหากทำไม่ดีก็เปลี่ยนคน เขาเคยจินตนาการถึงระบบที่เรียกว่า Patchwork ซึ่งแบ่งโลกออกเป็นหน่วยอธิปไตยที่แข่งขันกัน ผู้อยู่อาศัยที่ไม่พอใจสามารถออกไปได้
จุดอ่อนก็อยู่ตรงนี้ หากไม่พอใจบริษัทก็สามารถลาออกได้ แต่หากไม่พอใจประเทศ ก็ยากที่จะจากไปพร้อมกับครอบครัว ทรัพย์สิน และความสัมพันธ์ทางสังคมทั้งหมด อย่างไรก็ตาม เขาจับอารมณ์ที่มีอยู่ในซิลิคอนแวลลีย์มานานได้จริง
ผู้เชี่ยวชาญด้านเทคโนโลยีหลายคนคิดว่าปัญหาของสังคมไม่ได้ซับซ้อนอย่างที่คิด เพียงแต่ไม่ได้มอบให้คนที่ถูกต้อง รัฐบาลมีประสิทธิภาพต่ำเพราะอำนาจกระจายตัวเกินไป โครงการสาธารณะเดินหน้าไม่ได้เพราะใครก็สามารถคัดค้านได้ คนที่มีความสามารถถูกผูกมัดด้วยกฎหมาย กระบวนการ และความคิดเห็นสาธารณะ ทำให้ไม่สามารถลงมือทำเหมือนการบริหารบริษัท
ในเรื่องราวของสตาร์ทอัพ การรวมอำนาจเป็นคุณธรรม ผู้ก่อตั้งกำหนดทิศทาง นักลงทุนมอบเงินให้เขา พนักงานดำเนินการตามการตัดสินใจนี้ สตาร์ทอัพส่วนใหญ่จะตายไป ส่วนน้อยที่รอดชีวิตจะเล่าเรื่องนี้ว่าเป็นวิสัยทัศน์ที่เอาชนะฉันทามติ คนคนหนึ่งมองเห็นอนาคตในขณะที่ทุกคนไม่เชื่อ ดังนั้นเขาจึงควรมีสิทธิ์ตัดสินใจครั้งสุดท้าย
ตรรกะนี้ใช้ได้ในโลกธุรกิจ สตาร์ทอัพมีขนาดจำกัด พนักงานสามารถลาออกได้ ผู้บริโภคก็สามารถเปลี่ยนผลิตภัณฑ์ได้
แต่เมื่อบริษัทหนึ่งสร้างระบบอัจฉริยะที่ผู้คนหลายร้อยล้านใช้ทำความเข้าใจโลก สิ่งที่มันกำหนดไม่ได้จำกัดแค่ว่าผลิตภัณฑ์จะทำงานอย่างไรอีกต่อไป มันเริ่มกำหนดว่าผู้ใช้จะเห็นอะไร คำตอบใดที่ถือว่าปลอดภัย และเครื่องจักรควรใช้มาตรวัดคุณค่าใดในการทำความเข้าใจมนุษย์
Yarvin จินตนาการถึงการเปลี่ยนประเทศให้เป็นบริษัท ขณะที่บริษัท AI กำลังปฏิบัติตามเวอร์ชันที่อ่อนโยนและสมจริงกว่า โดยทีมงานขนาดเล็กเป็นผู้กำหนดกฎเกณฑ์ แล้วให้ประชากรจำนวนมหาศาลเข้าถึงโลกผ่านกฎเกณฑ์เหล่านี้
"รัฐธรรมนูญ" ของ Claude ระบุค่านิยมที่บริษัทต้องการให้โมเดลมี และมีส่วนร่วมในการฝึกอบรมโดยตรง Model Spec ของ OpenAI ก็กำหนดลำดับชั้นของคำสั่งเช่นกัน โดยกฎระดับสูงสุดไม่สามารถถูกแทนที่โดยผู้ใช้หรือนักพัฒนา กฎเหล่านี้จำเป็น เพราะโมเดลอาจถูกใช้ในการฉ้อโกงและความรุนแรง บริษัทไม่สามารถปล่อยมือได้ และการเปิดเผยกฎต่อสาธารณะก็ดีกว่าซ่อนไว้ภายใน
แต่มันหมายความว่า เมื่อผู้ใช้ถามคำถามกับโมเดล พวกเขาไม่ได้กำลังสนทนากับองค์ความรู้ทั้งหมดของมนุษย์เท่านั้น กฎที่บริษัทกำหนดไว้ล่วงหน้าก็มีอยู่เช่นกัน มันกำหนดว่าโมเดลจะฟังใคร จะหยุดตรงไหน ความเสี่ยงใดสูงกว่าความต้องการของผู้ใช้ และ "AI ที่ดี" ควรมีบุคลิกแบบไหน
ทีมงานขนาดเล็กกำลังตัดสินใจว่าโครงสร้างพื้นฐานชุดหนึ่งจะทำงานอย่างไรแทนประชากรจำนวนมหาศาล มันได้รับอำนาจจากความสามารถทางเทคโนโลยี แล้วใช้เหตุผลว่าเทคโนโลยีซับซ้อนเกินไป เพื่อเก็บการตัดสินใจไว้ภายในบริษัทต่อไป
ผู้ก่อตั้งไม่จำเป็นต้องนั่งบนบัลลังก์จริงๆ ตราบใดที่ผู้คนจำนวนมากขึ้นรู้จักโลกผ่านโมเดลของเขา เขาก็มีอำนาจส่วนหนึ่งที่เคยเป็นของโรงเรียน สื่อ ห้องสมุด และสถาบันสาธารณะ
เส้นแบ่งระหว่างการกำกับดูแลบริษัทและการกำกับดูแลอารยธรรมกำลังเลือนหายไปทีละน้อย
แต่ซิลิคอนแวลลีย์ไม่ได้ไม่ตระหนักถึงอันตรายของอำนาจนี้ ตรงกันข้าม Peter Thiel เฝ้าระวังระบบที่สามารถจัดการการรับรู้และการกระทำของมนุษย์ทั้งหมดอย่างเป็นเอกภาพมานาน เพียงแต่ในจินตนาการของเขา อันตรายนี้น่าจะมาจากรัฐบาลมากกว่าบริษัทเทคโนโลยี
ใครคือศัตรูของพระคริสต์
ในปี 2024 Thiel พูดถึง "ศัตรูของพระคริสต์" สองตอนที่ Hoover Institution เขาเชื่อว่าเรื่องเล่าโบราณในพระคัมภีร์นี้ยังสามารถอธิบายการเมืองสมัยใหม่ได้
เขาแบ่งอันตรายที่มนุษย์เผชิญออกเป็นสองด้าน
ด้านหนึ่งคือ Armageddon วันสิ้นโลก สงครามนิวเคลียร์ ปัญญาประดิษฐ์ที่失控 อาวุธชีวภาพ เทคโนโลยีใดๆ ก็สามารถผลักดันอารยธรรมไปสู่ความพินาศ
อีกด้านคือ Antichrist ศัตรูของพระคริสต์
เพื่อหยุดยั้งวันสิ้นโลก มนุษยชาติได้สร้างรัฐบาลที่สามารถปกครองโลกทั้งใบได้อย่างแท้จริง รัฐบาลนี้มีอำนาจตรวจสอบอาวุธของทุกประเทศ เฝ้าติดตามห้องปฏิบัติการทุกแห่ง จำกัดการวิจัยอันตราย และสามารถเรียกร้องให้ทุกคนสละเสรีภาพบางส่วน
รัฐบาลทรัมป์กล่าวหาโมเดลว่าถูกปนเปื้อนด้วย "อุดมการณ์ที่ถูกปลุก" ผู้ประกอบการฝ่ายขวาสัญญาว่าจะสร้าง AI ที่กล้าพูดคำตอบที่ไม่ถูกต้องทางการเมือง ในขณะที่บริษัทโมเดลกระแสหลักอธิบายผ่านรัฐธรรมนูญและหลักปฏิบัติว่าพวกเขามุ่งมั่นเพื่อความปลอดภัย ความซื่อสัตย์ และอิสระของผู้ใช้อย่างไร
แต่ละฝ่ายต่างอ้างว่ากำลังล้าง "ตราประทับทางความคิด"
Thiel กังวลว่ามีคนใช้ความกลัววันสิ้นโลกเพื่อสร้างโลกที่เป็นหนึ่งเดียว ล็อกมนุษย์ไว้ในระบบที่หนีไม่พ้น
แต่โลกนี้อาจไม่ได้ถูกสร้างขึ้นโดยศัตรูของพระคริสต์เพียงคนเดียวในทันที มันอาจถูกประกอบขึ้นทีละน้อยโดยบริษัทเทคโนโลยีที่แข่งขันกันหลายแห่ง แต่ละบริษัทมีโมเดลหนึ่งชุด รัฐธรรมนูญหนึ่งฉบับ กฎของระบบหนึ่งชุด และผู้ใช้หลายร้อยล้านคนที่เต็มใจมอบปัญหาให้กับมัน
ถึงจุดนี้ ความหมายของหนังสือเก่าเหล่านั้นจึงปรากฏชัดเจนอย่างสมบูรณ์ พวกมันไม่เพียงแต่เป็นข้อมูลสำหรับฝึกโมเดล แต่ยังเป็นรากฐานทางอารยธรรมที่ระบบความรู้ส่วนตัวนี้พึ่งพา ใครก็ตามที่ได้หนังสือเหล่านี้ ใครก็ตามที่กำหนดกฎของโมเดล ก็เริ่มควบคุมทั้งวัตถุดิบของความรู้และวิธีที่ความรู้จะปรากฏขึ้นอีกครั้ง
การเผาหนังสือ
หนังสือเหล่านั้นถูกซื้อเป็นกล่อง ขนส่งไปยังศูนย์สแกน สันหนังสือถูกตัด เย็บเล่มถูกแยกออก เครื่องจักรอ่านข้อความทีละหน้า จากนั้นหนังสือเล่มหนึ่งก็หายไป และไฟล์หนึ่งก็ปรากฏขึ้นในเซิร์ฟเวอร์
การเผาหนังสือในสมัยโบราณมีจุดประสงค์เพื่อให้ข้อความบางอย่างหายไปจากโลก ไฟเผาแผ่นไม้ไผ่และกระดาษ รวมถึงเส้นทางการแพร่กระจายของความคิด หนังสือเล่มหนึ่งไม่สามารถถูกอ่านอีก ประวัติศาสตร์ช่วงหนึ่งสูญเสียหลักฐานที่เหลืออยู่ ผู้ปกครองสร้างช่องว่างเพื่อควบคุมสิ่งที่ผู้คนจดจำ
การเผาหนังสือในยุค AI กลับตรงกันข้าม
เนื้อหาในหนังสือไม่ได้หายไปจากโลก และอาจปรากฏในคำตอบของโมเดลในวันหนึ่ง แต่ไม่มีอีกแล้วในรูปแบบของหนังสือ
หนังสือที่เข้าสู่โมเดลจะถูกแยกออก ผสมกับบทความหลายล้านชิ้น หน้าเว็บ และโค้ด ถูกตัดเป็นชิ้นส่วนที่เหมาะสมสำหรับการคำนวณ และมีส่วนร่วมในการสร้างพารามิเตอร์ ไม่มีใครสามารถดูชุดฝึกทั้งหมดได้ และยากที่จะรู้ว่าหนังสือเล่มหนึ่งเหลือร่องรอยไว้มากน้อยแค่ไหน มันอาจมีอิทธิพลต่อความเข้าใจของโมเดลเกี่ยวกับประวัติศาสตร์ช่วงหนึ่ง หรืออาจมีส่วนแค่ไม่กี่รูปแบบประโยค และยังถูกเขียนใหม่ในการฝึกอบรมและการตอบรับจากมนุษย์ในภายหลัง
ในเวลานี้ ความรู้ยังคงมีอยู่ แต่เปลี่ยนจากข้อความที่ตรวจสอบได้ กลายเป็นความสามารถของบริษัทหนึ่ง
และเมื่อผู้คนพึ่งพาโมเดลมากขึ้น บริษัท AI ไม่เพียงแต่ได้รับความสามารถในการเก็บรักษาความรู้ พวกเขายังเริ่มตัดสินใจว่าจะจัดระเบียบ ตีความ และแจกจ่ายความรู้นี้อย่างไร
เป็นเวลาหลายพันปีที่มนุษย์เก็บรักษาความรู้ด้วยวิธีที่ดั้งเดิม หนังสือกระจายอยู่ในประเทศต่างๆ นักวิชาการโต้เถียงกันเรื่องคำศัพท์ ผู้อ่านต้องใช้เวลามากในการค้นหาวัสดุ มันไม่เร็ว ไม่สะดวก แต่ยากที่จะถูกควบคุมโดยคนคนเดียว สำนักพิมพ์ล้มละลาย หนังสือยังอยู่ในมือผู้อ่าน ประเทศหนึ่งห้ามความคิดบางอย่าง ที่อื่นก็อาจมีสำเนาเหลืออยู่
ความรู้มีชีวิตอยู่เพราะการกระจายตัว
สิ่งที่โมเดลเปลี่ยนแปลง ไม่ใช่แค่ที่ที่ความรู้ถูกเก็บไว้ แต่รวมถึงเส้นทางที่ผู้คนเข้าถึงความรู้ด้วย ในอดีต ผู้คนเดินทางจากคำตอบหนึ่งไปสู่หนังสือ บทความ และการถกเถียง แต่เมื่อโมเดลกลายเป็นทางเข้าหลัก ผู้คนอาจหยุดอยู่ที่ตัวคำตอบเอง
โมเดลทำให้ความรู้สามารถถูกรวมศูนย์ไว้ในเซิร์ฟเวอร์ของบริษัทไม่กี่แห่งได้เป็นครั้งแรกในระดับใหญ่ พวกมันมีพลังประมวลผล มีโมเดลที่แข็งแกร่งที่สุด และมีความสามารถในการเปลี่ยนวัสดุที่มนุษย์ทั้งมวลทิ้งไว้ให้เป็นภาษาที่เป็นหนึ่งเดียว จากนั้น พวกมันขายความสามารถนี้กลับคืนให้มนุษย์ตามการสมัครสมาชิกรายเดือนและการใช้งาน Token
บริษัทเทคโนโลยีลงทุนมหาศาลจริง ซื้อชิป สร้างศูนย์ข้อมูล จ้างนักวิจัย และแบกรับต้นทุนด้านความปลอดภัยและการกำกับดูแล การคิดค่าบริการในตัวมันเองไม่ใช่สิ่งชั่วร้าย
ปัญหาที่แท้จริงคือ ต้นทุนเชิงพาณิชย์กำลังปกปิดการลงทุนอีกก้อนที่ใหญ่กว่ามาก
หนังสือเหล่านั้นใครเป็นคนเขียน งานวิจัยเหล่านั้นใครเป็นคนทำ เว็บเพจ โพสต์ และโค้ดเหล่านั้น ใครเป็นคนทิ้งไว้ทีละเล็กทีละน้อยในประวัติศาสตร์อินเทอร์เน็ตอันยาวนาน
บริษัท AI จ่ายราคาพลังประมวลผล แต่ไม่ได้จ่ายราคาของอารยธรรมมนุษย์ เพราะบัญชีนี้ไม่สามารถคำนวณได้เลย ไม่มีบริษัทไหนสามารถซื้อลิขสิทธิ์จากผู้เขียน นักแปล โปรแกรมเมอร์ และคนธรรมดาทุกคนในหลายพันปีได้ ดังนั้น อารยธรรมจึงถูกมองว่าเป็นทรัพยากรธรรมชาติที่สามารถขุดได้อย่างอิสระ
เมื่อความรู้สาธารณะเข้าสู่โมเดล เรียกว่าการเรียนรู้ เมื่อโมเดลส่งออกความรู้สู่สาธารณะ เรียกว่าการบริการ
นี่คือวงจรปิดที่สมบูรณ์ที่สุดของการแปรรูปอารยธรรม
นี่คือเหตุผลว่าทำไมหนังสือเก่าที่ถูกตัดสันออกไม่ควรถูกมองว่าเป็นแค่ข้อพิพาทด้านลิขสิทธิ์
พวกมันเป็นสัญลักษณ์
กระดาษถูกทำลาย เนื้อหาถูกเก็บรักษา ต้นฉบับที่เปิดเผยต่อสาธารณะหายไปจากการหมุนเวียน โมเดลที่ไม่สามารถตรวจสอบได้ซึมซับความรู้ในนั้น ความคิดในหนังสือยังคงอยู่ แต่ค่อยๆ สูญเสียแหล่งที่มา บริบท และชีวิตที่เป็นอิสระจากบริษัท
การเผาหนังสือในยุคใหม่ ไม่จำเป็นต้องทำให้ความรู้หายไป
เด็กในอนาคตอาจไม่ค่อยเปิดหนังสือเหล่านี้ บางเล่มอาจไม่มีวันเปิดได้อีก
เขาจะถามโมเดลโดยตรงว่าทำไมสงครามถึงเกิดขึ้น ระบบหนึ่งยุติธรรมหรือไม่ และมนุษย์ควรใช้ชีวิตอย่างไร โมเดลจะให้คำตอบภายในไม่กี่วินาที น้ำเสียงสงบ โครงสร้างสมบูรณ์ และไม่บอกเขาว่าคำถามนี้เคยทำให้คนหลายรุ่นถกเถียงกันไม่รู้จบ
เขาอาจไม่รู้สึกว่ามีอะไรหายไป เพราะคำตอบยังอยู่ตรงนั้น
AI จะไม่ลืมอารยธรรมของมนุษย์ แต่นี่ไม่ใช่สิ่งที่ดี การลืมอย่างน้อยก็ทิ้งช่องว่างไว้ ให้ผู้คนรู้ว่ามีบางสิ่งหายไป สิ่งที่อันตรายกว่าคือเมื่อโมเดลจดจำได้มากพอและตอบสนองได้เป็นธรรมชาติ จนผู้คนค่อยๆ ไม่จำเป็นต้องสัมผัสกับอารยธรรมในรูปแบบดั้งเดิมอีกต่อไป
ความทรงจำของมนุษย์ที่มีต่ออารยธรรมของตนเอง เริ่มถูกคัดกรองโดยบริษัทไม่กี่แห่ง
AI จะไม่ลืมอารยธรรมมนุษย์ แต่ AI อาจจดจำอารยธรรมให้มนุษย์ในแบบที่ชนชั้นนำทางเทคโนโลยีเพียงไม่กี่คนต้องการเท่านั้น
ลิงก์ต้นฉบับ
ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:
กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats
กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App
บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia
บทความที่เกี่ยวข้อง
