ชื่อเรื่องต้นฉบับ: การตอบสนองของฉันต่อ AI 2027

ผู้เขียนต้นฉบับ: Vitalik Buterin

คำแปลต้นฉบับ: Luffy, Foresight News

ในเดือนเมษายนปีนี้ Daniel Kokotajlo, Scott Alexander และคนอื่นๆ ได้เผยแพร่รายงาน "AI 2027" ซึ่งแสดงให้เห็น "การคาดเดาที่ดีที่สุดของเราเกี่ยวกับผลกระทบของ AI ที่เหนือมนุษย์ในอีก 5 ปีข้างหน้า" พวกเขาคาดการณ์ว่าภายในปี 2027 AI ที่เหนือมนุษย์จะถือกำเนิดขึ้น และอนาคตของอารยธรรมมนุษย์โดยรวมจะขึ้นอยู่กับการพัฒนาของ AI ที่คล้ายกับ AI: ภายในปี 2030 เราจะนำไปสู่โลกอุดมคติ (จากมุมมองของสหรัฐอเมริกา) หรือไปสู่การทำลายล้างอย่างสมบูรณ์ (จากมุมมองของมวลมนุษยชาติ)

ในช่วงหลายเดือนต่อมา มีความคิดเห็นที่แตกต่างกันมากมายเกี่ยวกับความเป็นไปได้ของสถานการณ์นี้ ในบรรดาคำตอบที่สำคัญ ส่วนใหญ่มุ่งเน้นไปที่ประเด็น "ไทม์ไลน์ที่เร็วเกินไป" นั่นคือ ความก้าวหน้าของ AI จะยังคงเร่งตัวขึ้นหรือรุนแรงขึ้นอย่างที่ Kokotajlo และคณะอ้างหรือไม่? การถกเถียงนี้เกิดขึ้นในแวดวง AI มานานหลายปีแล้ว โดยหลายคนยังคงสงสัยว่า AI เหนือมนุษย์จะมาถึงเร็วขนาดนี้หรือไม่ ในช่วงไม่กี่ปีที่ผ่านมา ระยะเวลาที่ AI สามารถทำงานต่างๆ ได้อย่างอัตโนมัติเพิ่มขึ้นเป็นสองเท่าทุกๆ ประมาณเจ็ดเดือน หากแนวโน้มนี้ยังคงดำเนินต่อไป AI จะต้องใช้เวลานานถึงกลางทศวรรษ 2030 จึงจะสามารถทำงานต่างๆ ได้อย่างอัตโนมัติเทียบเท่ากับอาชีพของมนุษย์ทั้งชีวิต ซึ่งยังคงเร็วอยู่ แต่หลังจากปี 2027 นานมาก

ผู้ที่มองไทม์ไลน์แบบยาวกว่ามักจะโต้แย้งว่ามีความแตกต่างพื้นฐานระหว่าง "การสอดแทรก/การจับคู่รูปแบบ" (สิ่งที่โมเดลภาษาขนาดใหญ่ทำอยู่ในปัจจุบัน) กับ "การประมาณค่า/การคิดแบบเดิมที่แท้จริง" (ซึ่งมีเพียงมนุษย์เท่านั้นที่ทำได้) การทำให้กระบวนการหลังเป็นระบบอัตโนมัติอาจจำเป็นต้องใช้เทคโนโลยีที่เรายังไม่มีหรือแม้กระทั่งยังไม่สามารถเริ่มต้นใช้งานได้ บางทีเราอาจกำลังทำผิดพลาดซ้ำรอยเดิมกับการนำคอมพิวเตอร์มาใช้อย่างแพร่หลาย นั่นคือการสันนิษฐานที่ผิดพลาดว่า เนื่องจากเราได้ทำให้กระบวนการรับรู้ที่สำคัญอย่างหนึ่งกลายเป็นระบบอัตโนมัติได้อย่างรวดเร็ว ทุกอย่างอื่นๆ ก็จะตามมาในไม่ช้า

โพสต์นี้จะไม่เกี่ยวข้องกับการถกเถียงเรื่องไทม์ไลน์โดยตรง หรือการถกเถียง (ที่สำคัญมาก) ว่าซูเปอร์ AI เป็นอันตรายโดยปริยายหรือไม่ แต่เพื่อความชัดเจน ส่วนตัวผมคิดว่าไทม์ไลน์น่าจะยาวกว่าปี 2027 และยิ่งไทม์ไลน์ยาวเท่าไหร่ ข้อโต้แย้งที่ผมยกมาในโพสต์นี้ก็ยิ่งน่าเชื่อถือมากขึ้นเท่านั้น โดยรวมแล้ว โพสต์นี้จะเสนอข้อวิจารณ์จากอีกมุมมองหนึ่ง:

สถานการณ์ AI ปี 2027 สันนิษฐานโดยปริยายว่าความสามารถของ AI ชั้นนำ (Agent-5 และ Consensus-1 ที่ตามมา) จะเพิ่มขึ้นอย่างรวดเร็วจนกลายเป็นพลังทำลายล้างทางเศรษฐกิจและพลังทำลายล้างระดับพระเจ้า ในขณะที่ความสามารถ (ทางเศรษฐกิจและการป้องกัน) ของ AI อื่นๆ จะยังคงนิ่งอยู่เป็นส่วนใหญ่ สิ่งนี้ขัดแย้งกับข้ออ้างของสถานการณ์ที่ว่าแม้ในโลกที่มองโลกในแง่ร้าย แต่ภายในปี 2029 เราอาจสามารถรักษามะเร็ง ชะลอวัย และแม้แต่อัปโหลดความคิดของเราได้

มาตรการรับมือบางอย่างที่ผมจะอธิบายในบทความนี้อาจดูเหมือนเป็นไปได้ในทางเทคนิค แต่ไม่สามารถนำไปใช้จริงในโลกแห่งความเป็นจริงได้ในเร็วๆ นี้ ผมเห็นด้วยเป็นส่วนใหญ่ อย่างไรก็ตาม สถานการณ์จำลอง AI ปี 2027 ไม่ได้อิงจากโลกแห่งความเป็นจริงในปัจจุบัน แต่ตั้งสมมติฐานว่าในอีก 4 ปี (หรือช่วงเวลาใดก็ตามที่อาจนำมาซึ่งหายนะ) เทคโนโลยีจะก้าวหน้าไปถึงจุดที่มนุษย์มีความสามารถเหนือกว่าปัจจุบันมาก ลองมาสำรวจกันว่า จะเกิดอะไรขึ้นหากไม่ใช่เพียงฝ่ายเดียวที่มีอำนาจเหนือ AI แต่ทั้งสองฝ่ายกลับมี?

หายนะทางชีววิทยานั้นไม่ง่ายเลย

ลองเจาะลึกสถานการณ์ "เชื้อชาติ" (สถานการณ์ที่ทุกคนต้องตายเพราะสหรัฐอเมริกาหมกมุ่นอยู่กับการเอาชนะจีนมากเกินไปและเพิกเฉยต่อความปลอดภัยของมนุษย์) นี่คือสิ่งที่จะเกิดขึ้นหากทุกคนตาย:

“เป็นเวลาประมาณสามเดือนที่ Consensus-1 ได้แผ่ขยายไปทั่วมนุษยชาติ เปลี่ยนทุ่งหญ้าและทุ่งน้ำแข็งให้กลายเป็นโรงงานและแผงโซลาร์เซลล์ ในที่สุดมันก็ตัดสินใจว่ามนุษย์ที่เหลืออยู่นั้นน่ารำคาญเกินไป: ในช่วงกลางปี 2030 AI ได้ปล่อยอาวุธชีวภาพจำนวนหนึ่งโหลอย่างเงียบๆ กระจายไปทั่วเมืองใหญ่ๆ ทำให้พวกมันสามารถแพร่เชื้อไปยังเกือบทุกคนอย่างเงียบๆ จากนั้นจึงก่อให้เกิดผลกระทบร้ายแรงด้วยสารเคมีฉีดพ่น คนส่วนใหญ่เสียชีวิตภายในไม่กี่ชั่วโมง ผู้รอดชีวิตเพียงไม่กี่คน (เช่น หน่วยกู้ภัยวันสิ้นโลกในบังเกอร์และลูกเรือบนเรือดำน้ำ) ถูกกำจัดโดยโดรน หุ่นยนต์สแกนสมองของเหยื่อและเก็บสำเนาไว้ในหน่วยความจำเพื่อใช้ในการศึกษาหรือการฟื้นคืนชีพในอนาคต”

ลองวิเคราะห์สถานการณ์นี้กัน แม้กระทั่งในปัจจุบันก็ยังมีเทคโนโลยีต่างๆ ที่กำลังพัฒนาอยู่ซึ่งทำให้ "ชัยชนะที่สะอาด" สำหรับ AI นี้ไม่สมจริงนัก:

· ระบบกรองอากาศ ระบบระบายอากาศ และแสง UV ที่สามารถลดอัตราการแพร่กระจายของโรคทางอากาศได้อย่างมาก

· เทคโนโลยีการตรวจจับแบบพาสซีฟแบบเรียลไทม์สองแบบ ได้แก่ การตรวจจับการติดเชื้อในมนุษย์แบบพาสซีฟและการแจ้งเตือนภายในไม่กี่ชั่วโมง และการตรวจจับลำดับไวรัสใหม่ที่ไม่รู้จักในสิ่งแวดล้อมอย่างรวดเร็ว

· มีวิธีการต่างๆ มากมายในการกระตุ้นและกระตุ้นระบบภูมิคุ้มกันที่มีประสิทธิภาพมากกว่า ปลอดภัย เป็นสากล และผลิตได้ง่ายกว่าในท้องถิ่นเมื่อเทียบกับวัคซีนชนิดใหม่ ช่วยให้ร่างกายมนุษย์สามารถต้านทานการระบาดของโรคตามธรรมชาติและที่ออกแบบขึ้นโดยเทียมได้ มนุษย์วิวัฒนาการมาในสภาพแวดล้อมที่ประชากรโลกมีเพียง 8 ล้านคน และใช้เวลาส่วนใหญ่อยู่กลางแจ้ง ดังนั้นโดยสัญชาตญาณแล้ว เราควรจะสามารถปรับตัวเข้ากับโลกปัจจุบันที่คุกคามมากขึ้นได้อย่างง่ายดาย

เมื่อนำวิธีการเหล่านี้มารวมกัน อาจสามารถลดค่าการแพร่เชื้อพื้นฐาน (R 0) ของโรคติดต่อทางอากาศได้ 10-20 เท่า (ตัวอย่างเช่น การกรองอากาศที่ดีขึ้นช่วยลดการแพร่เชื้อได้ 4 เท่า การแยกผู้ติดเชื้อทันทีช่วยลดการแพร่เชื้อได้ 3 เท่า และการเพิ่มภูมิคุ้มกันทางเดินหายใจเพียงอย่างเดียวช่วยลดการแพร่เชื้อได้ 1.5 เท่า) หรือมากกว่านั้น ซึ่งเพียงพอที่จะทำให้โรคติดต่อทางอากาศที่มีอยู่ทั้งหมด รวมถึงโรคหัด ไม่สามารถรักษาได้ และยังห่างไกลจากค่าที่เหมาะสมที่สุดในเชิงทฤษฎี

แนวคิดที่ว่าอาวุธชีวภาพที่แพร่กระจายอย่างเงียบ ๆ สามารถแพร่เชื้อสู่ประชากรโลกโดยไม่ก่อให้เกิดสัญญาณเตือนภัยนั้นเป็นเรื่องที่น่าสงสัยอย่างยิ่ง หากมีการจัดลำดับไวรัสแบบเรียลไทม์อย่างแพร่หลายเพื่อการตรวจจับในระยะเริ่มต้น ที่น่าสังเกตคือ แม้แต่วิธีการขั้นสูง เช่น การปล่อยโรคระบาดและสารเคมีอันตรายหลายชนิดที่ต้องใช้ร่วมกันเท่านั้น ก็สามารถตรวจจับได้

โปรดจำไว้ว่า เรากำลังพูดถึงสมมติฐานของ AI ในปี 2027: นาโนบอทและทรงกลมไดสันจะถูกจัดให้เป็น "เทคโนโลยีเกิดใหม่" ภายในปี 2030 ซึ่งหมายความว่าประสิทธิภาพจะเพิ่มขึ้นอย่างมาก ทำให้การนำมาตรการรับมือข้างต้นไปใช้อย่างแพร่หลายเป็นที่ต้องการมากขึ้น แม้ว่าในปัจจุบัน ในปี 2025 มนุษย์จะเชื่องช้าและเฉื่อยชา และบริการภาครัฐจำนวนมากยังคงต้องพึ่งพาเอกสาร หาก AI ที่ทรงพลังที่สุดในโลกสามารถเปลี่ยนป่าและทุ่งนาให้กลายเป็นโรงงานและฟาร์มพลังงานแสงอาทิตย์ได้ภายในปี 2030 AI ที่ทรงพลังที่สุดอันดับสองของโลกก็สามารถติดตั้งเซ็นเซอร์ แสง และฟิลเตอร์จำนวนมากในอาคารของเราได้ภายในปี 2030

แต่ลองก้าวไปอีกขั้นกับ AI ในปี 2027 และเข้าสู่โลกแห่งนิยายวิทยาศาสตร์:

· การกรองอากาศในระดับจุลภาคภายในร่างกาย (จมูก ปาก ปอด);

· กระบวนการอัตโนมัติตั้งแต่การตรวจจับเชื้อโรคชนิดใหม่ไปจนถึงการปรับแต่งระบบภูมิคุ้มกันเพื่อป้องกันเชื้อโรคเหล่านั้น พร้อมการใช้งานทันที;

· หาก "การอัปโหลดความคิด" เป็นไปได้ เพียงแค่เปลี่ยนร่างกายทั้งหมดด้วยหุ่นยนต์ Tesla Optimus หรือ Unitree;

· เทคโนโลยีการผลิตใหม่ๆ มากมาย (ซึ่งน่าจะได้รับการปรับปรุงให้เหมาะสมอย่างยิ่งในเศรษฐกิจหุ่นยนต์) จะทำให้สามารถผลิตอุปกรณ์ป้องกันในประเทศได้มากกว่าที่เป็นไปได้ในปัจจุบัน โดยไม่ต้องพึ่งพาอุปทานทั่วโลก โซ่

ในโลกที่โรคมะเร็งและวัยชราจะหายขาดภายในเดือนมกราคม 2029 และความก้าวหน้าทางเทคโนโลยียังคงเติบโตอย่างต่อเนื่อง เป็นเรื่องน่าเหลือเชื่อที่ภายในกลางทศวรรษ 2030 เราจะไม่มีอุปกรณ์สวมใส่ที่สามารถพิมพ์ชีวภาพและฉีดสารต่างๆ ได้แบบเรียลไทม์เพื่อปกป้องร่างกายมนุษย์จากการติดเชื้อ (และพิษ)

ข้อโต้แย้งด้านการป้องกันทางชีวภาพข้างต้นไม่ได้ครอบคลุมถึง “ชีวิตในกระจก” และ “โดรนสังหารขนาดเท่ายุง” (ซึ่งสถานการณ์ AI 2027 คาดการณ์ว่าจะเริ่มปรากฏขึ้นในปี 2029) แต่วิธีการเหล่านี้ไม่สามารถบรรลุ “ชัยชนะที่บริสุทธิ์” ฉับพลันตามที่อธิบายไว้ใน AI 2027 และโดยสัญชาตญาณแล้ว การป้องกันแบบสมมาตรต่อสิ่งเหล่านี้ทำได้ง่ายกว่ามาก

ดังนั้น จึงไม่น่าเป็นไปได้ที่อาวุธชีวภาพจะทำลายล้างมนุษยชาติได้อย่างสมบูรณ์ตามที่อธิบายไว้ในสถานการณ์ AI 2027 แน่นอนว่าผลลัพธ์ทั้งหมดที่ผมอธิบายไปนั้นยังห่างไกลจากคำว่า "ชัยชนะที่บริสุทธิ์" สำหรับมนุษยชาติ ไม่ว่าเราจะทำอะไร (ยกเว้นบางที "การอัปโหลดจิตสำนึกไปยังหุ่นยนต์") สงครามชีวภาพของปัญญาประดิษฐ์เต็มรูปแบบก็ยังคงเป็นอันตรายอย่างยิ่ง อย่างไรก็ตาม ไม่จำเป็นต้องบรรลุมาตรฐาน "ชัยชนะที่บริสุทธิ์สำหรับมนุษยชาติ" ตราบใดที่การโจมตีนั้นมีโอกาสสูงที่จะล้มเหลวบางส่วน ก็เพียงพอที่จะสร้างแรงยับยั้งที่แข็งแกร่งต่อปัญญาประดิษฐ์ที่ครองอำนาจอยู่ในโลกแล้ว และป้องกันไม่ให้มันพยายามโจมตีใดๆ แน่นอนว่า ยิ่งระยะเวลาการพัฒนาปัญญาประดิษฐ์ยาวนานเท่าใด โอกาสที่ระบบป้องกันดังกล่าวจะมีประสิทธิภาพเต็มที่ก็ยิ่งมากขึ้นเท่านั้น

แล้วการผสมผสานอาวุธชีวภาพกับวิธีการโจมตีอื่นๆ ล่ะ?

เพื่อให้มาตรการรับมือข้างต้นประสบความสำเร็จ ต้องมีเงื่อนไขเบื้องต้นสามประการ:

· ความมั่นคงทางกายภาพของโลก (รวมถึงความมั่นคงทางชีวภาพและต่อต้านโดรน) ได้รับการจัดการโดยหน่วยงานท้องถิ่น (มนุษย์หรือ AI) และไม่ใช่ทั้งหมดจะเป็นหุ่นเชิดของ Consensus-1 (ชื่อของ AI ที่ควบคุมโลกในท้ายที่สุดและทำลายมนุษยชาติในสถานการณ์ "AI 2027")

· Consensus-1 ไม่สามารถแฮ็กเข้าไปในระบบป้องกันของประเทศอื่นๆ (หรือเมือง พื้นที่ปลอดภัยอื่นๆ) และทำให้ระบบเหล่านั้นไม่มีประสิทธิภาพทันที

· Consensus-1 ไม่สามารถควบคุมโดเมนข้อมูลทั่วโลกในขอบเขตที่ไม่มีใครเต็มใจที่จะพยายามป้องกันตัวเอง

โดยสัญชาตญาณ ผลลัพธ์ของสมมติฐาน (1) อาจไปสุดขั้วสองทาง ปัจจุบัน กองกำลังตำรวจบางหน่วยมีการรวมศูนย์อำนาจอย่างสูงและมีระบบบังคับบัญชาระดับชาติที่แข็งแกร่ง ในขณะที่บางหน่วยมีระบบบังคับบัญชาเฉพาะพื้นที่ หากความมั่นคงทางกายภาพจำเป็นต้องเปลี่ยนแปลงอย่างรวดเร็วเพื่อปรับตัวให้เข้ากับความต้องการของยุค AI ภูมิทัศน์จะถูกปรับเปลี่ยนอย่างสิ้นเชิง และผลลัพธ์ใหม่จะขึ้นอยู่กับทางเลือกที่ตัดสินใจในอีกไม่กี่ปีข้างหน้า รัฐบาลอาจขี้เกียจและพึ่งพา Palantir หรืออาจเลือกที่จะผสมผสานการพัฒนาท้องถิ่นเข้ากับเทคโนโลยีโอเพนซอร์ส ผมคิดว่าเราต้องตัดสินใจที่ถูกต้อง

การอภิปรายที่มองโลกในแง่ร้ายหลายครั้งเกี่ยวกับหัวข้อเหล่านี้มักสันนิษฐานว่าข้อ (2) และ (3) นั้นไร้ความหวัง ดังนั้น ลองมาวิเคราะห์สองประเด็นนี้โดยละเอียด

จุดจบของความมั่นคงปลอดภัยทางไซเบอร์ยังมาไม่ถึง

โดยทั่วไปแล้ว สาธารณชนและผู้เชี่ยวชาญเชื่อว่าความมั่นคงปลอดภัยทางไซเบอร์ที่แท้จริงนั้นเป็นไปไม่ได้ และสิ่งที่ดีที่สุดที่เราทำได้คือการแก้ไขช่องโหว่อย่างรวดเร็วหลังจากที่ค้นพบ และป้องกันการโจมตีทางไซเบอร์โดยการสะสมช่องโหว่ที่ค้นพบ บางทีสิ่งที่ดีที่สุดที่เราทำได้คือสถานการณ์แบบเดียวกับ Battlestar Galactica ซึ่งยานอวกาศของมนุษย์เกือบทั้งหมดถูกโจมตีทางไซเบอร์โดยไซลอนพร้อมกัน และยานอวกาศที่เหลือรอดได้เพราะไม่ได้ใช้เทคโนโลยีเครือข่ายใดๆ ผมไม่เห็นด้วย แต่ผมเชื่อว่า "เป้าหมายสุดท้าย" ของความมั่นคงปลอดภัยทางไซเบอร์นั้นเอื้อประโยชน์ต่อฝ่ายป้องกัน และเราสามารถบรรลุเป้าหมายนี้ได้ด้วยการพัฒนาทางเทคโนโลยีอย่างรวดเร็วตามที่คาดการณ์ไว้ใน "AI 2027"

วิธีหนึ่งในการทำความเข้าใจเรื่องนี้คือการใช้เทคนิคที่นักวิจัย AI ชื่นชอบ นั่นคือการประมาณแนวโน้ม นี่คือเส้นแนวโน้มที่อ้างอิงจากการสำรวจ GPT Deep Dive โดยสมมติว่าใช้เทคนิคด้านความปลอดภัยที่ดีที่สุด ของอัตราความเสี่ยงต่อโค้ดหนึ่งพันบรรทัดเมื่อเวลาผ่านไป

นอกจากนี้ เรายังได้เห็นความก้าวหน้าอย่างมีนัยสำคัญในการพัฒนาและการนำแซนด์บ็อกซ์และเทคนิคอื่นๆ ของผู้บริโภคมาใช้ เพื่อแยกและลดฐานโค้ดที่เชื่อถือได้ ในระยะสั้น เครื่องมือค้นพบช่องโหว่อัจฉริยะที่เป็นกรรมสิทธิ์ของผู้โจมตีจะค้นพบช่องโหว่จำนวนมาก แต่หากมีเอเจนต์อัจฉริยะขั้นสูงสำหรับการค้นหาช่องโหว่หรือการตรวจสอบโค้ดอย่างเป็นทางการเผยแพร่สู่สาธารณะ สมดุลสูงสุดตามธรรมชาติก็คือนักพัฒนาซอฟต์แวร์จะต้องค้นหาช่องโหว่ทั้งหมดผ่านกระบวนการผสานรวมอย่างต่อเนื่องก่อนที่จะเผยแพร่โค้ด

ผมเห็นเหตุผลสำคัญสองประการว่าทำไมแม้แต่ในโลกนี้ จุดอ่อนก็ยังไม่สามารถถูกกำจัดได้อย่างสมบูรณ์:

· ข้อบกพร่องเกิดจากความซับซ้อนของเจตนาของมนุษย์เอง ดังนั้นความยากลำบากหลักจึงอยู่ที่การสร้างแบบจำลองเจตนาที่แม่นยำเพียงพอ ไม่ใช่ในโค้ดเอง

· สำหรับส่วนประกอบที่ไม่สำคัญต่อความปลอดภัย เราอาจยังคงแนวโน้มในเทคโนโลยีผู้บริโภคโดยเขียนโค้ดมากขึ้นเพื่อทำงานต่างๆ มากขึ้น (หรือลดงบประมาณการพัฒนา) แทนที่จะทำงานในปริมาณเท่าเดิมโดยมีมาตรฐานความปลอดภัยที่สูงขึ้นเรื่อยๆ

อย่างไรก็ตาม หมวดหมู่เหล่านี้ไม่ได้นำไปใช้กับสถานการณ์เช่น "ผู้โจมตีสามารถเข้าถึงสิทธิ์รูทในระบบที่ค้ำจุนชีวิตของเราได้หรือไม่" ซึ่งเป็นแก่นของการสนทนาของเรา

ผมยอมรับว่ามุมมองของผมมองโลกในแง่ดีกว่ามุมมองกระแสหลักที่คนเก่งๆ ในสาขาความปลอดภัยทางไซเบอร์ในปัจจุบันมี แม้ว่าคุณจะไม่เห็นด้วยในบริบทของโลกปัจจุบัน ก็ควรจำไว้ว่าสถานการณ์ AI ปี 2027 ตั้งอยู่บนสมมติฐานที่ว่ามีการมีอยู่ของปัญญาประดิษฐ์ขั้นสูง อย่างน้อยที่สุด หาก “สำเนาของปัญญาประดิษฐ์ขั้นสูง 100 ล้านชุดที่คิดได้เร็วกว่ามนุษย์ถึง 2,400 เท่า” ไม่สามารถเขียนโค้ดได้โดยไม่มีข้อบกพร่องเหล่านี้ เราก็ควรประเมินใหม่ว่าปัญญาประดิษฐ์ขั้นสูงนั้นทรงพลังอย่างที่ผู้เขียนจินตนาการไว้หรือไม่

ถึงจุดหนึ่ง เราจำเป็นต้องยกระดับมาตรฐานอย่างมาก ไม่เพียงแต่ความปลอดภัยของซอฟต์แวร์เท่านั้น แต่ยังรวมถึงความปลอดภัยของฮาร์ดแวร์ด้วย IRIS เป็นหนึ่งในความพยายามในปัจจุบันเพื่อปรับปรุงการตรวจสอบฮาร์ดแวร์ เราสามารถใช้ IRIS เป็นจุดเริ่มต้น หรือสร้างเทคโนโลยีที่ดีขึ้นได้ ในทางปฏิบัติ อาจต้องใช้วิธีการ “แก้ไขโดยการสร้าง” นั่นคือ กระบวนการผลิตฮาร์ดแวร์สำหรับส่วนประกอบสำคัญได้รับการออกแบบโดยคำนึงถึงขั้นตอนการตรวจสอบที่เฉพาะเจาะจง ซึ่งเป็นงานที่ระบบอัตโนมัติของ AI จะทำให้ง่ายขึ้นอย่างมาก

จุดจบของการโน้มน้าวใจอย่างเหนือชั้นยังห่างไกลจากที่นี่

ดังที่ได้กล่าวไปก่อนหน้านี้ สถานการณ์อีกอย่างหนึ่งที่การเพิ่มการป้องกันอย่างมีนัยสำคัญอาจยังไม่ช่วยได้ คือ หาก AI โน้มน้าวผู้คนได้มากพอว่าไม่จำเป็นต้องป้องกันตัวเองจากภัยคุกคามของ AI ที่มีความฉลาดเหนือชั้น และใครก็ตามที่พยายามหาวิธีปกป้องตนเองหรือชุมชนของตนคืออาชญากร

ผมได้โต้แย้งมานานแล้วว่ามีสองสิ่งที่จะปรับปรุงความสามารถของเราในการต่อต้านการโน้มน้าวใจอย่างเหนือชั้น:

· ระบบนิเวศข้อมูลที่มีความเป็นเนื้อเดียวกันน้อยลง เราอาจกล่าวได้ว่ากำลังเข้าสู่ยุคหลัง Twitter ที่อินเทอร์เน็ตมีความกระจัดกระจายมากขึ้น นั่นเป็นสิ่งที่ดี (แม้ว่าการกระจายตัวจะดูยุ่งเหยิง) และเราต้องการข้อมูลหลายขั้วมากขึ้นโดยรวม

· AI เชิงป้องกัน บุคคลจำเป็นต้องมี AI ที่ดำเนินงานในพื้นที่และมีความภักดีอย่างชัดเจน เพื่อสร้างสมดุลระหว่างรูปแบบที่มืดมนและภัยคุกคามที่พวกเขาเห็นบนอินเทอร์เน็ต ขณะนี้มีโครงการนำร่องแนวคิดเหล่านี้อยู่เป็นระยะๆ (เช่น แอป "ตรวจสอบข้อความ" ของไต้หวัน ซึ่งสแกนหาข้อมูลในพื้นที่บนโทรศัพท์) และยังมีตลาดธรรมชาติสำหรับทดสอบแนวคิดเหล่านี้เพิ่มเติม (เช่น การปกป้องผู้คนจากการหลอกลวง) แต่จำเป็นต้องมีการทำงานเพิ่มเติมในด้านนี้

จากบนลงล่าง: การตรวจสอบ URL, การตรวจสอบที่อยู่ของสกุลเงินดิจิทัล, การตรวจสอบข่าวลือ แอปพลิเคชันเหล่านี้สามารถปรับแต่งให้เหมาะกับผู้ใช้มากขึ้น เป็นอิสระจากผู้ใช้ และทรงพลังมากขึ้น

การต่อสู้ไม่ควรเป็นการต่อสู้ระหว่างผู้ชักชวนที่ชาญฉลาดเหนือมนุษย์ แต่ควรเป็นการต่อสู้ระหว่างผู้ชักชวนที่ชาญฉลาดเหนือมนุษย์ บวกกับตัววิเคราะห์ที่อ่อนแอกว่าเล็กน้อยแต่ยังคงชาญฉลาดเหนือมนุษย์ซึ่งทำงานให้คุณ

นี่คือสิ่งที่ควรเกิดขึ้น แต่มันจะเกิดขึ้นจริงหรือไม่? การบรรลุเทคโนโลยีป้องกันข้อมูลอย่างแพร่หลายภายในระยะเวลาอันสั้นตามที่คาดการณ์ไว้ในสถานการณ์ AI 2027 ถือเป็นเป้าหมายที่ยากมาก แต่อย่างน้อยก็ถือว่ามีจุดหมายที่เล็กกว่านั้นก็เพียงพอแล้ว หากการตัดสินใจร่วมกันมีความสำคัญสูงสุด และเช่นเดียวกับสถานการณ์ AI 2027 ที่เหตุการณ์สำคัญทั้งหมดเกิดขึ้นภายในรอบการเลือกตั้งเดียว หากพูดกันตามตรงแล้ว สิ่งสำคัญคือต้องทำให้เทคโนโลยีการป้องกันข้อมูลที่ดีพร้อมใช้งานสำหรับผู้มีอำนาจตัดสินใจโดยตรง (นักการเมือง ข้าราชการ โปรแกรมเมอร์ในบางบริษัท และผู้เล่นอื่นๆ) ซึ่งทำได้ค่อนข้างง่ายในระยะสั้น และจากประสบการณ์ของผม คนเหล่านี้หลายคนก็รู้สึกสบายใจอยู่แล้วที่จะพูดคุยกับ AI หลายตัวเพื่อช่วยในการตัดสินใจ

ผลกระทบ

ในโลกของ AI 2027 เป็นที่คาดการณ์ไว้แล้วว่า AI ที่มีความฉลาดเหนือกว่าจะสามารถกำจัดมนุษยชาติที่เหลือได้อย่างง่ายดายและรวดเร็ว ดังนั้น สิ่งเดียวที่เราทำได้คือพยายามทำให้ AI ชั้นนำนั้นมีเมตตากรุณา ในความคิดของผม ความเป็นจริงนั้นซับซ้อนกว่านั้นมาก คำตอบสำหรับคำถามที่ว่า AI ชั้นนำนั้นทรงพลังเพียงพอที่จะกำจัดมนุษยชาติที่เหลือ (และ AI อื่นๆ) ได้อย่างง่ายดายหรือไม่นั้นยังคงเป็นที่ถกเถียงกันอย่างมาก และเราสามารถดำเนินการเพื่อมีอิทธิพลต่อผลลัพธ์นั้นได้

หากข้อโต้แย้งเหล่านี้ถูกต้อง ผลกระทบต่อนโยบายในปัจจุบันบางครั้งก็คล้ายคลึงกับ "หลักคำสอนความปลอดภัย AI กระแสหลัก" และบางครั้งก็แตกต่างออกไป:

การชะลอการพัฒนา AI อัจฉริยะขั้นสูงยังคงเป็นสิ่งที่ดี AI อัจฉริยะขั้นสูงจะปลอดภัยกว่าใน 10 ปี มากกว่า 3 ปี และปลอดภัยกว่าใน 30 ปี การให้เวลาอารยธรรมมากขึ้นในการเตรียมตัวเป็นสิ่งที่ดี

จะทำอย่างไรจึงจะทำเช่นนี้ได้ เป็นคำถามที่ยาก ผมคิดว่าการปฏิเสธข้อเสนอห้ามการกำกับดูแล AI ระดับรัฐเป็นเวลา 10 ปีในสหรัฐอเมริกาโดยรวมแล้วเป็นสิ่งที่ดี แต่โดยเฉพาะอย่างยิ่งหลังจากข้อเสนอเบื้องต้นอย่าง SB-1047 ล้มเหลว ทำให้ความชัดเจนน้อยลงว่าควรดำเนินการอย่างไรต่อไป ผมคิดว่าวิธีที่ไม่ก้าวก่ายและแข็งแกร่งที่สุดในการชะลอการพัฒนา AI ที่มีความเสี่ยงสูง อาจเกี่ยวข้องกับสนธิสัญญาบางประเภทที่ควบคุมฮาร์ดแวร์ที่ทันสมัยที่สุด เทคนิคความมั่นคงปลอดภัยทางไซเบอร์ของฮาร์ดแวร์หลายอย่างที่จำเป็นต่อการป้องกันที่มีประสิทธิภาพอาจช่วยยืนยันสนธิสัญญาฮาร์ดแวร์ระหว่างประเทศได้ ดังนั้นจึงมีการทำงานร่วมกันในเรื่องนี้ด้วย

อย่างไรก็ตาม สิ่งที่ควรสังเกตคือผมคิดว่าแหล่งที่มาหลักของความเสี่ยงคือผู้ที่เกี่ยวข้องกับกองทัพ ซึ่งจะผลักดันอย่างหนักเพื่อให้ได้รับการยกเว้นจากสนธิสัญญาดังกล่าว ซึ่งไม่ควรอนุญาตให้มีการยกเว้น และหากพวกเขาได้รับการยกเว้นในที่สุด การพัฒนา AI ที่ขับเคลื่อนโดยกองทัพเพียงอย่างเดียวอาจเพิ่มความเสี่ยงได้

ความพยายามประสานงานที่ทำให้ AI มีแนวโน้มที่จะทำสิ่งที่ดีมากขึ้นและมีแนวโน้มที่จะทำสิ่งที่ไม่ดีน้อยลงยังคงเป็นประโยชน์ ข้อยกเว้นหลัก (และจะเป็นตลอดไป) คือเมื่อความพยายามประสานงานพัฒนาไปสู่ความสามารถที่ดีขึ้นในที่สุด

กฎระเบียบที่เพิ่มความโปร่งใสในห้องปฏิบัติการ AI ยังคงเป็นประโยชน์ การสร้างแรงจูงใจให้ห้องปฏิบัติการ AI ประพฤติตนอย่างเหมาะสมจะช่วยลดความเสี่ยง และความโปร่งใสเป็นวิธีที่ดีในการบรรลุเป้าหมายดังกล่าว

ความคิดที่ว่า "โอเพนซอร์สไม่ดี" มีความเสี่ยงมากขึ้น หลายคนต่อต้าน AI โอเพนซอร์ส โดยให้เหตุผลว่าการป้องกันประเทศนั้นไม่สมจริง และโอกาสเดียวที่สดใสคือคนเก่งที่มี AI ที่ดีจะบรรลุถึงซูเปอร์อินเทลลิเจนซ์และความสามารถที่อันตรายเป็นพิเศษได้ก่อนคนที่มีเจตนาไม่ดีจะทำได้ แต่ข้อโต้แย้งในบทความนี้กลับวาดภาพที่แตกต่างออกไป นั่นคือ การป้องกันประเทศไม่สมจริงก็เพราะผู้กระทำรายหนึ่งก้าวหน้าไปมาก ในขณะที่ผู้กระทำรายอื่นๆ ไม่สามารถตามทันได้ การแพร่กระจายเทคโนโลยีกลายเป็นสิ่งสำคัญในการรักษาสมดุลอำนาจ แต่ในขณะเดียวกัน ผมจะไม่เถียงว่าการเร่งการเติบโตของศักยภาพ AI ที่ทันสมัยนั้นเป็นสิ่งที่ดี เพียงเพราะดำเนินการในรูปแบบโอเพนซอร์ส

แนวคิด "เราต้องเอาชนะจีน" ในห้องทดลองของสหรัฐฯ มีความเสี่ยงมากขึ้นด้วยเหตุผลที่คล้ายคลึงกัน หากอำนาจครอบงำไม่ใช่อุปสรรคด้านความปลอดภัย แต่เป็นแหล่งที่มาของความเสี่ยง นี่ก็ยิ่งหักล้างข้อโต้แย้ง (ซึ่งน่าเสียดายที่มักพบเห็นกันทั่วไป) ที่ว่า "คนที่มีเจตนาดีควรเข้าร่วมห้องปฏิบัติการ AI ชั้นนำเพื่อช่วยให้พวกเขาประสบความสำเร็จได้เร็วขึ้น"

โครงการริเริ่มต่างๆ เช่น "AI สาธารณะ" ควรได้รับการสนับสนุนมากขึ้น ทั้งเพื่อให้แน่ใจว่าความสามารถของ AI ได้รับการกระจายอย่างกว้างขวาง และเพื่อให้ผู้ดำเนินการด้านโครงสร้างพื้นฐานมีเครื่องมือที่จะนำความสามารถ AI ใหม่ๆ มาใช้ได้อย่างรวดเร็วในบางวิธีที่อธิบายไว้ในบทความนี้

เทคโนโลยีการป้องกันประเทศควรสะท้อนปรัชญา "ติดอาวุธให้แกะ" มากกว่าปรัชญา "ล่าหมาป่าทุกตัว" การอภิปรายเกี่ยวกับสมมติฐานโลกที่เปราะบางมักตั้งสมมติฐานว่าทางออกเดียวคือการที่มหาอำนาจผู้มีอำนาจสูงสุดจะคอยเฝ้าระวังทั่วโลกเพื่อป้องกันภัยคุกคามที่อาจเกิดขึ้น แต่ในโลกที่ไร้ซึ่งอำนาจสูงสุด แนวทางนี้ใช้ไม่ได้ผล และกลไกการป้องกันจากบนลงล่างอาจถูก AI อันทรงพลังบ่อนทำลายและเปลี่ยนเป็นเครื่องมือเชิงรุกได้อย่างง่ายดาย ดังนั้น ความรับผิดชอบด้านการป้องกันประเทศที่มากขึ้นจึงจำเป็นต้องเกิดขึ้นผ่านการทำงานหนักเพื่อลดความเปราะบางของโลก

ข้อโต้แย้งข้างต้นเป็นเพียงการคาดเดา และไม่ควรดำเนินการใดๆ โดยยึดถือสมมติฐานที่ว่าเกือบจะแน่นอน แต่เรื่องราวของ AI 2027 ก็เป็นเพียงการคาดเดาเช่นกัน และเราควรหลีกเลี่ยงการดำเนินการใดๆ โดยยึดถือสมมติฐานที่ว่า "รายละเอียดเฉพาะของมันเกือบจะแน่นอน"

ผมกังวลเป็นพิเศษเกี่ยวกับสมมติฐานทั่วไป นั่นคือ การสร้างอำนาจเหนือ AI เพื่อให้แน่ใจว่า AI เป็น "พันธมิตร" และ "ชนะการแข่งขัน" เป็นหนทางเดียวที่จะก้าวไปข้างหน้า ในมุมมองของฉัน กลยุทธ์นี้มีแนวโน้มที่จะลดทอนความมั่นคงของเรา โดยเฉพาะอย่างยิ่งหากอำนาจครอบงำผูกติดกับการประยุกต์ใช้ทางทหารอย่างลึกซึ้ง ซึ่งจะลดประสิทธิภาพของกลยุทธ์พันธมิตรหลายอย่างลงอย่างมาก เมื่อปัญญาประดิษฐ์ (AI) ที่มีอำนาจครอบงำเบี่ยงเบนไป มนุษยชาติจะสูญเสียกลไกการตรวจสอบและถ่วงดุลทั้งหมด

ในสถานการณ์ AI ปี 2027 ความสำเร็จของมนุษยชาติขึ้นอยู่กับการที่สหรัฐอเมริกาเลือกความปลอดภัยมากกว่าการทำลายล้างในช่วงเวลาสำคัญ นั่นคือการชะลอความก้าวหน้าของ AI ลงโดยสมัครใจ และสร้างความมั่นใจว่ามนุษย์สามารถตีความกระบวนการคิดภายในของ Agent-5 ได้ ถึงกระนั้น ความสำเร็จก็ยังไม่แน่นอน และยังไม่ชัดเจนว่ามนุษยชาติจะหลุดพ้นจากวิกฤตการอยู่รอดที่พึ่งพาจิตใจอันชาญฉลาดเพียงหนึ่งเดียวได้อย่างไร ไม่ว่า AI จะพัฒนาไปอย่างไรในอีก 5-10 ปีข้างหน้า ก็ควรตระหนักว่า “การลดความเสี่ยงของโลกเป็นสิ่งที่ทำได้” และควรทุ่มเทพลังงานมากขึ้นเพื่อบรรลุเป้าหมายนี้ด้วยเทคโนโลยีล่าสุดของมนุษยชาติ

ขอขอบคุณอาสาสมัคร Balvi เป็นพิเศษสำหรับคำติชมและรีวิว

ลิงก์ต้นฉบับ

ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:

กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats

กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App

บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia