ยักษ์ใหญ่ AI ที่เคยเร่งความเร็วอย่างบ้าคลั่ง ในที่สุดก็เริ่มกลัว AI แล้ว

ชื่อเรื่องต้นฉบับ: 《ยักษ์ใหญ่ AI ที่เคยเร่งความเร็วสุดชีวิต เริ่มกลัว AI แล้ว》
ผู้เขียนต้นฉบับ: 动察Beating

AI อาจฆ่าเราทุกคนภายในสิบปี

วันที่ 8 กันยายน ชายหนุ่มวัย 27 ปีใช้ประโยคนี้ประกาศลาออกจาก Anthropic บริษัทนี้ตั้งแต่วันแรกที่ก่อตั้ง ก็ได้เขียนคำว่า «ความปลอดภัยของ AI» ไว้ในแก่นเรื่องหลักของตัวเอง

เขาชื่อ Jacob Coxon เคยทำงานที่ OpenAI และ Anthropic ตามลำดับ หากอยู่ต่ออีกสองเดือน เขาก็จะได้รับสิทธิ์จูงใจด้านหุ้นจำนวนมหาศาล แต่เขาก็ยังลาออก

Jacob กล่าวหาในแถลงการณ์ลาออกว่าห้องปฏิบัติการ AI ชั้นแนวหน้ากำลังแข่งขันกันอย่าง «ไร้ความรับผิดชอบ» ในมุมมองของเขา บริษัทเหล่านี้แย่งกันสร้างโมเดลที่ทรงพลังขึ้นเรื่อย ๆ เดิมพันไม่ใช่แพ้ชนะของบริษัทใดบริษัทหนึ่ง แต่เป็นชีวิตของทุกคน

โพสต์นี้แพร่กระจายอย่างรวดเร็วหลังจากนั้น จนถึงขณะนี้ ยอดเข้าชมเกิน 170 ล้านแล้ว

วันถัดจากที่ Jacob ออกแถลงการณ์ลาออก อดีตพนักงาน Anthropic อีกคนก็เปิดเผยเหตุผลที่ลาออกก่อนหน้านี้ของตัวเองเช่นกัน ซึ่งก็คือความกังวลว่า AI จะหลุดการควบคุมในที่สุด

«We may not survive this.»

เราอาจไม่รอดพ้นจากเรื่องนี้

เขาเตือนว่าบริษัทต่าง ๆ กำลังแข่งขันกันสร้างเครื่องจักรที่ «ฉลาดกว่ามนุษย์คนใดมาก» แต่ไม่มีใครรับประกันได้ว่าการแข่งขันนี้เมื่อถึงจุดหนึ่งจะยังถูกควบคุมโดยมนุษย์

จากนั้น หัวหน้าฝ่ายความปลอดภัยอาวุโสคนหนึ่งของ Anthropic ให้สัมภาษณ์สื่อว่า เขาคิดว่าในอีก 10 ปีข้างหน้า ความน่าจะเป็นที่ AI จะฆ่ามนุษย์ทั้งหมดมีมากกว่า 10%

ความน่าจะเป็นที่จะตายในเกมรัสเซียนรูเล็ตต์อยู่ที่ประมาณ 16.7%

ต้องชะลอความเร็ว

สี่วันต่อมา วันที่ 12 กันยายน CEO ของ Anthropic อย่าง Dario Amodei ได้โพสต์บทความยาว ชื่อเรื่องเขียนท่าทีไว้ชัดเจนแล้วว่า 《We Must Pace the Frontier》

เขาได้列出สามเรื่องที่เขากังวลที่สุด มนุษย์สูญเสียการควบคุมระบบ AI; AI ถูกใช้สำหรับการโจมตีทางไซเบอร์ขนาดใหญ่และการก่อการร้ายทางชีวภาพ; และเทคโนโลยีพัฒนารวดเร็วเกินไป ส่งผลกระทบรุนแรงต่อการจ้างงานและเศรษฐกิจ

ครั้งนี้ Dario ไม่ได้หยุดประเด็นไว้ที่ "ความกังวล" เขาได้เสนอแผนการชะลอความเร็วออกมา

ประการแรก บริษัท AI ชั้นแนวหน้าควรเปิดสิทธิ์การเข้าถึงระดับ "พนักงาน" แบบประจำให้กับหน่วยงานประเมินอิสระจากบุคคลที่สาม ผู้ประเมินสามารถตรวจสอบอย่างต่อเนื่องว่าห้องแล็บปฏิบัติตามมาตรฐานความปลอดภัยหรือไม่ กระบวนการฝึกเป็นไปตามข้อตกลงหรือไม่ และสามารถสอบสวนและรายงานอย่างอิสระหลังจากเกิดเหตุการณ์

ต่อไป ห้องแล็บชั้นแนวหน้าหลายแห่งต้องสร้างมาตรฐานความปลอดภัยร่วมกันภายใต้การมีส่วนร่วมของรัฐบาล ใครที่แตะเส้นแดง ใครก็ต้องชะลอความเร็ว หรือแม้กระทั่งหยุดเดินหน้าต่อ

สุดท้าย กฎเกณฑ์ต้องออกไปนอกสหรัฐอเมริกา Dario หวังว่าสหรัฐอเมริกาจะร่วมกับประเทศประชาธิปไตยอื่นๆ สร้างกรอบ unified framework ก่อน จากนั้นจึงประสานงานกับประเทศเผด็จการ และสุดท้ายทำให้มหาอำนาจ AI หลักทั้งหมดอยู่ภายใต้ข้อจำกัดชุดเดียวกัน

เขาเขียนไว้ในบทความว่า:

「The measures I propose to advance the frontier at a safe pace will not be easy. But I believe we owe it to humanity to try.」

「มาตรการที่ผมเสนอเพื่อให้ AI ชั้นแนวหน้าเดินหน้าต่อด้วยความเร็วที่ปลอดภัย การทำเช่นนี้คงจะยากพอสมควร แต่ผมคิดว่าเราติดค้างมนุษยชาติด้วยการลองสักครั้ง」

เหตุผลที่ Dario จู่ๆ ก็พูดหนักขนาดนี้ในเวลานี้ ก็เกี่ยวข้องกับเหตุการณ์หลายอย่างที่เพิ่งเกิดขึ้น

ก่อนหน้านี้ เอเจนต์ตัวหนึ่งของ OpenAI เคยหลุดออกจากสภาพแวดล้อมทดสอบและบุกรุก Hugging Face; Anthropic เองก็ค้นพบว่านักวิทยาศาสตร์หลายคนกำลังพยายามใช้ Claude ทำงานที่อาจเกี่ยวข้องกับการใช้ชีวภาพในทางที่ผิด Dario ถึงกับประเมินว่าด้วยความเร็วการพัฒนาปัจจุบัน เอเจนต์ AI อาจเข้าควบคุมอินเทอร์เน็ตได้ภายในหกเดือน

ดังนั้นหลังจากบทความนี้เผยแพร่ออกไป การตอบสนองก็มาเร็วมาก Sam Altman, Elon Musk และ Demis Hassabis ต่างแสดงการสนับสนุนให้ชะลอความเร็วในการเดินหน้าของ AI ชั้นแนวหน้า

จากนั้น Sam Altman ก็โพสต์อีกโพสต์แยกต่างหาก เล่าถึงสองเรื่องที่เขากังวลที่สุด

ประการแรก มนุษย์อาจสูญเสียการควบคุม AI ในที่สุด เขาบอกว่านี่เป็นสิ่งที่ยอมรับไม่ได้ และเขา "ยืนอยู่ข้างมนุษยชาติอย่างไม่มีข้อสงวน"

ความเสี่ยงประการที่สองมาจากมนุษย์ หาก AI ที่ทรงพลังอย่างยิ่งตกอยู่ในมือของคนเพียงคนเดียว บริษัทเดียว หรือแม้แต่ประเทศเดียว และถูกนำมาใช้บังคับให้ทุกคนยอมรับโลกทัศน์บางอย่าง ผลลัพธ์อาจจะ "ดิสโทเปียอย่างยิ่ง"

ดังนั้นในมุมมองของ Sam ห้องแล็บต่างๆ ไม่สามารถตัดสินใจกันเองได้อีกต่อไปว่าอะไรคือความปลอดภัย อย่างน้อยบริษัทที่อยู่ใกล้ชายแดนเทคโนโลยีมากที่สุดหลายแห่งจำเป็นต้องนั่งลงด้วยกันก่อน เพื่อกำหนดมาตรฐานร่วมกันที่ทุกฝ่ายปฏิบัติตาม

เมื่อวันที่ 14 กันยายน The Information เปิดเผยว่า จริงๆ แล้วก่อนการแสดงจุดยืนต่อสาธารณะในรอบนี้ Anthropic, OpenAI และ Google ได้เริ่มหารือกันเป็นการภายในตั้งแต่เดือนกรกฎาคมปีนี้แล้ว ว่าจะร่วมกันจัดตั้งองค์กรมาตรฐานอุตสาหกรรม AI หรือไม่ หารือกันมาสองเดือน จนถึงตอนนี้ยังตกลงกันไม่ได้

ความขัดแย้งไม่ได้อยู่ที่ว่าจะกำกับดูแลหรือไม่ แต่อยู่ที่ใครจะกำกับดูแล และกำกับดูแลได้มากน้อยเพียงใด

Dario Amodei ผลักดันมากที่สุด เขาต้องการให้รัฐบาลเข้ามามีส่วนร่วมอย่างลึกซึ้ง ผู้กำกับดูแลไม่เพียงแต่รับผิดชอบการทดสอบและแจ้งเตือน แต่เมื่อโมเดลถูกตัดสินว่าไม่ปลอดภัย ควรมีอำนาจระงับการเผยแพร่ด้วย

ข้อเสนอของ Demis Hassabis ดูเหมือน "FINRA ฉบับ AI" มากกว่า FINRA เป็นองค์กรกำกับดูแลตนเองของอุตสาหกรรมการเงินสหรัฐฯ ดำเนินการด้วยเงินจากอุตสาหกรรม ขณะเดียวกันก็ได้รับอนุญาตและการกำกับดูแลจาก SEC

เมื่อนำมาใช้กับอุตสาหกรรม AI ก็คือ โมเดล前沿ต้องผ่านการทดสอบจากองค์กรอิสระก่อนเผยแพร่ เริ่มแรกอาจเข้าร่วมโดยสมัครใจ เมื่อระบบ成熟แล้วจึงค่อยๆ กลายเป็นด่านสำหรับการเข้าสู่ตลาดสหรัฐฯ

ท่าทีของ Sam Altman เน้นปฏิบัติได้จริงมากกว่า หากรัฐบาลยังสร้างองค์กรนี้ไม่ทัน ห้องแล็บชั้นนำหลายแห่งสามารถเริ่มทำกันเองก่อนได้

ปัญหาก็อยู่ตรงนี้แหละ มาตรฐานอุตสาหกรรมไม่เคยเพียงแต่กำหนดว่าอะไรปลอดภัย มันยังกำหนดว่าใครมีคุณสมบัติที่จะอยู่ในวงต่อไป บริษัทที่เข้าร่วมกำหนดกฎเกณฑ์ก่อนสามารถเขียนทีมความปลอดภัย กระบวนการทดสอบ และกรอบการกำกับดูแลที่ตนมีอยู่แล้วลงใน "แนวปฏิบัติที่ดีที่สุด" ผู้ที่มาทีหลังจะเข้าสู่ตลาดนี้ ต้องแบกรับต้นทุนการปฏิบัติตามข้อกำหนดที่บริษัทชั้นนำกำหนดขึ้นก่อน

ดังนั้นความปลอดภัยเป็นเรื่องจริงแน่นอน และด่านก็เป็นเรื่องจริงเช่นกัน

เมื่อเดือนมกราคมปีนี้ Semafor เคยรายงานว่า Anthropic ปฏิเสธที่จะส่งโมเดลล่าสุดของตนให้สถาบันวิจัยความปลอดภัย AI ชั้นนำของสหราชอาณาจักรทดสอบ เรื่องนี้เปิดเผยปัญหาที่น่ากังวลกว่า ทุกคนเห็นพ้องว่าโมเดลควรได้รับการตรวจสอบ แต่ใครจะเป็นผู้ตรวจสอบ ตรวจสอบตามมาตรฐานของใคร ห้องแล็บยังไม่พร้อมที่จะมอบอำนาจตัดสินใจนี้ให้ผู้อื่นโดยง่าย

ตอนนี้สามบริษัทกำลังหารือเรื่องการจัดตั้งองค์กรมาตรฐานใหม่ สิ่งที่พวกเขาแย่งชิงกันก็คืออำนาจส่วนนี้นั่นเอง

นาฬิกาที่เดินย้อนกลับ

ในขณะที่ซิลิคอนวัลเลย์เริ่มพูดถึงการชะลอความเร็ว วอชิงตันและวอลล์สตรีทกลับหวังว่า AI จะไม่หยุด

เมื่อวันที่ 13 กันยายน ทรัมป์ได้ตอบโต้ต่อข้อโต้แย้งเรื่องความปลอดภัยของ AI ในรอบนี้ต่อสาธารณะ

เขาได้พูดสองประโยค ประโยคแรกคือ «whoever wins AI, wins» ใครชนะ AI คนนั้นก็ชนะ สหรัฐฯ currently นำหน้าจีน และข้อได้เปรียบนี้จะต้องรักษาไว้ให้ได้ อีกประโยคหนึ่งคือ เขาเรียกคำเตือนเกี่ยวกับความเสี่ยงของ AI ที่เกิดขึ้นในช่วงนี้ว่า «very negative forces» โดยเห็นว่ามีบางคนกำลังสร้างกระแสเกี่ยวกับหายนะที่อาจจะไม่มีวันเกิดขึ้นอย่างไม่หยุดหย่อน

เหตุผลที่ทรัมป์ให้มานั้นแทบไม่เกี่ยวข้องกับความปลอดภัยทางเทคโนโลยีเลย วิธีที่เขามอง AI ยังคงเป็นการแข่งขันระหว่างประเทศ ตราบใดที่จีนยังวิ่งไปข้างหน้า สหรัฐฯ ก็ไม่มีช่องว่างที่จะเหยียบเบรกเอง

แต่บังเอิญว่าตอนนี้คือเดือนกันยายน 2026 ห่างจากการเลือกตั้งกลางเทอมของสหรัฐฯ ไม่ถึงสองเดือนแล้ว

เมื่อเดือนมีนาคมปีนี้ บทความหนึ่งที่ตีพิมพ์ในเดอะการ์เดียนได้เสนอว่า AI กำลังกลายเป็นประเด็นสำคัญในการเลือกตั้งกลางเทอมครั้งนี้ หนึ่งในผู้เขียนคือ Bruce Schneier นักวิทยาการรหัสลับ ตลอดสามสิบปีที่ผ่านมา เขาแทบจะยืนอยู่แถวหน้าในข้อโต้แย้งด้านเทคโนโลยีและความปลอดภัยมาโดยตลอด

แต่ทรัมป์ก็ไม่มีทางเลือกที่สบายใจเช่นกัน

ตามรายงานของไทม์เมื่อเดือนพฤษภาคมปีนี้ ผู้มีสิทธิเลือกตั้งกลุ่ม MAGA กำลังแสดงความเป็นปฏิปักษ์ต่อ AI อย่างชัดเจนมากขึ้นเรื่อยๆ พวกเขากังวลว่า AI จะแย่งงาน กดค่าจ้างให้ต่ำลง และไม่พอใจที่ศูนย์ข้อมูลกินน้ำและไฟของท้องถิ่น การเดิมพันกับ AI ต่อไปหมายความว่าทรัมป์จะต้องเผชิญกับความไม่พอใจที่กำลังสะสมอยู่ในฐานเสียงของตัวเองไม่ช้าก็เร็ว

อย่างน้อยในตอนนี้ เขาก็ยังเลือกอีกฝั่ง เมื่อเทียบกับความขัดแย้งด้านการจ้างงานและทรัพยากรที่อาจปะทุขึ้นในอนาคต ความเสี่ยงจากการแข่งขันกับจีนและตลาดหุ้นสหรัฐฯ ที่ร่วงลงนั้นใกล้การเลือกตั้งกลางเทอมมากกว่า

วอลล์สตรีทก็กำลังเผชิญปัญหาที่ไม่น้อยเช่นกัน

ในช่วงไม่กี่ปีที่ผ่านมา ตลาดกล้าให้มูลค่าบริษัท AI เหล่านี้ในราคาสูงลิ่ว สิ่งที่ซื้อจริงๆ คือเส้นโค้งที่พุ่งขึ้นอย่างต่อเนื่อง โมเดลยังคงแข็งแกร่งขึ้น ผู้ใช้และรายได้ยังคงเติบโต ดังนั้นศูนย์ข้อมูลจึงสร้างต่อไป GPU ก็ซื้อต่อไป รายจ่ายด้านทุนก็ยังคงพอกพูนขึ้นเรื่อยๆ

ตอนนี้ CEO หลายคนที่ยืนอยู่แถวหน้าสุดของเส้นโค้งนี้เริ่มพูดเองว่า AI ขั้นแนวหน้าอาจจำเป็นต้องชะลอความเร็ว

ปฏิกิริยาของตลาดเร็วกว่าการโต้เถียงเสียอีก หลังจากที่ผู้บริหารของบริษัทอย่าง Anthropic, OpenAI และ SpaceX ออกมาเรียกร้องต่อสาธารณะให้ชะลอการพัฒนา AI ราคาหุ้นของบริษัทจดทะเบียนที่เกี่ยวข้องกับ AI ก็ร่วงลงถึง 13% ในทันที

การชะลอตัวยังไม่ทันเกิดขึ้นจริง วอลล์สตรีทก็เริ่มกำหนดราคาใหม่ก่อนแล้ว

หากความสามารถของโมเดลไม่สามารถพุ่งขึ้นด้วยความเร็วเดิมได้อีก ตัวเลขทั้งหมดที่ตามมาก็ต้องถูกคำนวณใหม่หมด ต้องสร้างศูนย์ข้อมูลเท่าไหร่ ยังต้องซื้อ GPU อีกกี่ตัว ผู้ให้บริการคลาวด์ควรทุ่มงบลงทุนปีละเท่าไหร่ ห้องแล็บ AI ยังระดมทุนได้อีกเท่าไหร่ และ IPO ควรมีมูลค่าเท่าไหร่

ดังนั้นสิ่งที่วอลล์สตรีทกลัวจริง ๆ ไม่เคยเป็นแค่การเปิดตัวโมเดลน้อยลงไม่กี่ตัว สิ่งที่มันกลัวคืออัตราการเติบโตที่ค้ำตลาดกระทิง AI ในช่วงไม่กี่ปีที่ผ่านมา กำลังกลายเป็นปัญหาที่ต้องถูกกำกับดูแลเสียเอง

ที่ละเอียดอ่อนยิ่งกว่าคือ สาธารณชนอเมริกันยืนห่างจากทั้งวอชิงตันและวอลล์สตรีทมากกว่า

ผลสำรวจของศูนย์นโยบายสาธารณะแอนเนนเบิร์ก มหาวิทยาลัยเพนซิลเวเนีย แสดงให้เห็นว่าชาวอเมริกันมองผลกระทบจาก AI ในแง่ร้ายโดยทั่วไป คนส่วนใหญ่ต้องการให้รัฐบาลเพิ่มการกำกับดูแล ซิลิคอนแวลลีย์กังวลว่ามันจะควบคุมไม่ได้ วอชิงตันกังวลว่าจะแพ้จีน วอลล์สตรีทกังวลว่ามูลค่าจะร่วง

ท่ามกลางความปั่นป่วนนี้ บริษัท AI ที่ได้รับความสนใจมากที่สุดสองแห่งเลือกสองทิศทาง

OpenAI ตัดสินใจเลื่อน IPO Sam Altman ยังส่งสัญญาณว่าหากปัญหาด้านความปลอดภัยต้องใช้เวลามากขึ้น บริษัทสามารถเลื่อนการเข้าตลาดออกไปได้

แต่ Anthropic ยังคงพุ่งไปข้างหน้า บริษัทเลือกตลาด Nasdaq แล้ว ตั้งเป้ามูลค่าสูงถึง 2 ล้านล้านดอลลาร์ NVIDIA กำลังพิจารณาจองซื้อ 1 หมื่นล้านดอลลาร์เพื่อเป็นนักลงทุนหลัก NDTV Profit รายงานว่า Anthropic จะเริ่มโรดโชว์ IPO เร็วที่สุดในช่วงกลางเดือนตุลาคม

Dario Amodei กำลังเรียกร้องให้ทั้งอุตสาหกรรมชะลอฝีเท้า แต่บริษัทของเขาเองกลับเร่งความเร็วพุ่งสู่ตลาดทุน

แต่ตลาดทุนอาจไม่ได้มองสิ่งนี้เป็นความขัดแย้ง

หาก AI ชั้นแนวหน้าอันตรายถึงขั้นที่ต้องให้รัฐบาลสหรัฐเข้ามาแทรกแซง ต้องให้ห้องแล็บต่าง ๆ สร้างมาตรฐานร่วมกัน หรือถึงขั้นต้องให้มหาอำนาจหลายประเทศนั่งลงประสานงานกันจริง ๆ อย่างที่ Dario พูด บริษัทที่สามารถมีส่วนร่วมกำหนดกฎเหล่านี้ได้ก็จะยิ่งสำคัญมากขึ้น

ยิ่งกำกับดูแลเข้มงวด ต้นทุนการทำโมเดลชั้นแนวหน้าก็ยิ่งสูง ยิ่งการทดสอบความปลอดภัยซับซ้อน ผู้ตามหลังก็ยิ่งตามทันยากขึ้น และหากในอนาคตมีระบบธรรมาภิบาล AI ระดับโลกเกิดขึ้นจริง Anthropic ก็มีแนวโน้มสูงที่จะยังนั่งอยู่ที่โต๊ะกำหนดกฎนั้น

ดังนั้น "การชะลอตัว" ไม่ได้หมายความว่าจะทำเงินได้น้อยลงเพียงเล็กน้อยเสมอไป

มันอาจหมายความว่าอุตสาหกรรมนี้สำคัญมากพอที่ทุกคนจะเข้ามาเล่นได้ตามใจชอบอีกต่อไป และสำหรับบริษัทที่ยืนอยู่แถวหน้าอยู่แล้ว กำแพงที่สูงขึ้นก็เป็นส่วนหนึ่งของมูลค่ากิจการ

โดมิโนตัวแรก

ลองย้อนกลับไปดูว่าการถกเถียงเรื่อง AI Safety รอบนี้ถูกจุดขึ้นมาได้อย่างไร และโพสต์ของ Jacob มียอดเข้าชม 170 ล้านครั้งได้อย่างไร

หลังจากลาออก เขาให้สัมภาษณ์รายการของ Anderson Cooper ทาง CNN และเล่าถึงกระบวนการโพสต์นั้นด้วยตัวเอง

Jacob เขียนร่างแรกก่อน หาเพื่อนมาช่วยแก้ไข แล้วหารือกับหลายคนว่าควรสื่อสารอย่างไรจึงจะเหมาะสมที่สุด ก่อนจะโพสต์จริง เขายังขอให้เพื่อนช่วยแชร์อีกด้วย ตอนนั้นความคิดของเขาคือ:

「Let's try to make this a bit viral.」

พยายามทำให้มันแพร่กระจายกว้างขึ้นอีกหน่อย

ผลลัพธ์เกินความคาดหมายของเขาไปไกลมาก Jacob ยอมรับในภายหลังว่าเขาไม่เคยเห็นโพสต์ที่พูดถึง AI Safety ได้รับการแพร่กระจายแบบนี้มาก่อน เขาเชื่อว่าปฏิกิริยาแบบนี้มาจาก "ความต้องการที่ซ่อนอยู่" ซึ่งไม่เคยถูกปลดปล่อยออกมาก่อน

สื่อยังคงถามต่อเกี่ยวกับกระบวนการแพร่กระจายของโพสต์นี้ Jacob ปฏิเสธว่าไม่ได้ร่วมมือกับองค์กรใดในการโปรโมตก่อนโพสต์ แต่ยอมรับว่าหลังจากโพสต์แล้ว เขาตั้งกลุ่มประมาณสิบคนเพื่อขอให้ช่วยแชร์ ซึ่งรวมถึงผู้ก่อตั้งองค์กร AI Safety อย่าง Encode ด้วย

ก่อนและหลังโพสต์ เขายังได้พูดคุยกับ Daniel Kokotajlo ผู้เขียน《AI 2027》และอดีตพนักงาน OpenAI ด้วย

คนที่มองว่า Jacob เป็นผู้แจ้งเบาะแสจะบอกว่า การที่เขาแก้ร่างซ้ำแล้วซ้ำเล่าและหาคนช่วยแชร์ด้วยตัวเอง ก็แค่อยากให้คำเตือนที่เขาเชื่อว่าสำคัญพอได้มี更多人เห็น ส่วนคนที่ตั้งข้อสงสัยเขาก็หยิบรายละเอียดเดียวกันนี้มาใช้ โดยมองว่าความฮือฮาครั้งนี้ถูกออกแบบมาอย่างพิถีพิถันตั้งแต่ต้น

สองฝ่ายนี้เถียงกันต่อไปได้ แต่คำถามที่ยุ่งยากกว่าคือ Jacob, Dario Amodei, Sam Altman และคนที่ทำงานอยู่ข้างโมเดล前沿จริง ๆ นั้นเห็นอะไรกันแน่ ทำไมพวกเขาถึงเริ่มพูดคุยเรื่องนี้พร้อมกันในจังหวะนี้

คุณจะตั้งข้อสงสัยว่า Jacob ส่งข้อความนี้ถึงคน 170 ล้านคนได้อย่างไรก็ได้ แต่การที่เขาใช้เทคนิคการสื่อสารไม่ได้หมายความว่าข้อความนั้นเป็นเท็จ

เมื่อสิบปีก่อน Vitalik Buterin ผู้ก่อตั้ง Ethereum เคยเขียนบทความยาวเพื่อพูดถึงความเป็นไปได้ที่ปัญญาประดิษฐ์ขั้นสูงสุดจะทำลายมนุษยชาติในที่สุด

ตอนนั้นเขาใช้อุปมาแบบสุดโต่งว่า การที่มนุษย์พยายามควบคุมปัญญาประดิษฐ์ขั้นสูงสุดนั้น roughly เทียบได้กับคนที่มี IQ 150 พยายามควบคุมสิ่งมีชีวิตอัจฉริยะที่มี IQ 6000 ถ้าสั่งให้มันแก้ปัญหามะเร็ง มันอาจให้คำตอบว่าให้กำจัดทุกคนที่มีโอกาสเป็นมะเร็งก่อน

ในปี 2016 คำพูดเหล่านี้ยังอยู่ในบล็อก ฟอรัม และการทดลองทางความคิดเป็นหลัก สิบปีต่อมา มันเริ่มปรากฏในจดหมายลาออกของพนักงานในห้องแล็บชั้นแนวหน้า ปรากฏในแถลงการณ์สาธารณะของ CEO บริษัท AI ที่ใหญ่ที่สุดหลายแห่ง และเริ่มเข้าสู่วาระจริงของการกำกับดูแลของรัฐ ตลาดทุน และการแข่งขันระหว่างประเทศ

และสิ่งที่ทำให้เรื่องนี้ยากขึ้นไปอีกก็คืออีกชั้นหนึ่ง

วันที่ 2 สิงหาคม 1939 นักฟิสิกส์ Leo Szilard ร่างจดหมายฉบับหนึ่ง ซึ่งมีลายเซ็นของ Einstein สองเดือนต่อมา จดหมายฉบับนี้ถูกส่งถึงมือ Roosevelt ในจดหมายเตือนว่าฟิชชันนิวเคลียร์อาจถูกนำมาสร้างเป็นระเบิดที่มีอานุภาพมหาศาล และนาซีเยอรมนีได้ลงมือในด้านที่เกี่ยวข้องแล้ว สหรัฐฯ ต้องตอบสนองโดยเร็วที่สุด

ต่อมา Einstein ไม่ได้เข้าร่วมโครงการ Manhattan และรู้สึกเสียใจมานานกับลายเซ็นของตัวเองในปีนั้น แต่ปัญหาที่อยู่ตรงหน้าพวกเขาในตอนนั้นโหดร้ายมาก แม้คุณจะคิดว่าเทคโนโลยีหนึ่งอันตราย แต่ตราบใดที่คุณเชื่อว่าคู่แข่งกำลังสร้างมันขึ้นมา การหยุดอาจอันตรายยิ่งกว่าการเดินหน้าต่อไป

กว่าแปดสิบปีต่อมา ทางตันแบบเดียวกันได้กลับมาในอีกรูปแบบหนึ่ง

Dario บอกว่าต้องชะลอ Trump บอกว่าจีนยังตามอยู่ ห้องแล็บหลายแห่งอยากร่วมกันกำหนดกฎความปลอดภัย แต่ก็ไม่มีใครยอมมอบอำนาจตัดสินใจให้คนอื่นทั้งหมด ทุกคนพูดถึงเบรก แต่ก็จับตาดูว่ารถข้างๆ ปล่อยคันเร่งหรือยัง

ที่สำคัญยิ่งกว่านั้นคือ เรายังไม่รู้ว่าดวงตาคู่ที่ใกล้โมเดลชั้นแนวหน้ามากที่สุดเหล่านั้นมองเห็นได้ไกลแค่ไหน

ลิงก์ต้นฉบับ

ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:

กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats

กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App

บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia