简体中文

繁體中文

English

Tiếng Việt

한국어

日本語

ภาษาไทย

Türkçe

เกม Fable 5 ที่ถูกระงับ และ AI ที่หยุดไม่อยู่

动察 Beating

อ่านบทความนี้ใน 52 นาที

แม้แต่ Anthropic ซึ่งเป็นหนึ่งในไม่กี่รายที่พูดถึงการชะลอความเร็วซ้ำแล้วซ้ำเล่าในยุคแห่งการเร่งรีบนี้ ท้ายที่สุดก็ยังต้องพิสูจน์ให้เห็นก่อนว่าตัวเองวิ่งเร็วพอ

ภาพประกอบ：《AI BUBBLE》Beeple

บทความ｜Sleepy

ตอนนี้บริษัท AI เหล่านี้ สิ่งที่พวกเขาพูดถึงด้วยความระมัดระวังที่สุด มักจะเป็นสิ่งที่พวกเขากำลังสร้างอย่างหนักหน่วงในมือ

เวลาประชุมพูดถึงความเสี่ยง พวกเขาพูดด้วยความจริงใจยิ่งกว่าใคร บอกว่าเทคโนโลยีนี้วิ่งเร็วเกินไป ต้องมีคนมาควบคุมดูแล พอประชุมเลิก โมเดลก็ปล่อยออกมาตามปกติ อันหนึ่งแรงกว่าอันหนึ่ง ตารางเวลาก็แน่นขึ้นเรื่อยๆ

คนกลุ่มเดียวกัน ปากเดียวกัน ตอนเช้าเตือน ตอนบ่ายเร่งเครื่อง ถ้าจะบอกว่าพวกเขาแสร้งทำ ก็ไม่ใช่ แต่เครื่องจักรที่หมุนไปข้างหน้านั้นก็จริง ไม่เคยหยุดแม้แต่วันเดียว และยิ่งวิ่งเร็วขึ้นเรื่อยๆ

โมเดล Fable 5 ที่ Anthropic เพิ่งปล่อยออกมา มีอายุแค่สามวัน

เปิดตัว 9 มิถุนายน ถูกระงับ 12 มิถุนายน บ่ายวันนั้น Anthropic ได้รับโทรศัพท์จากรัฐบาลสหรัฐฯ ให้เวลา 90 นาที ตอนเย็น 5:21 น. คำสั่งทางการมาถึง ห้ามพลเมืองต่างชาติทุกคน ไม่ว่าจะอยู่ที่ไหน ใช้โมเดลนี้ต่อไป แม้แต่พนักงานต่างชาติของ Anthropic เองก็ตาม เหตุผลคือความมั่นคงแห่งชาติ

คำว่า "ความมั่นคงแห่งชาติ" สี่ตัวนี้ เมื่อตกใส่โมเดลหนึ่งตัว ฟังดูหนักหนา แต่ที่มันตกมาได้ เพราะ Fable ไม่ธรรมดา โมเดลนี้เป็น "เวอร์ชันปลอดภัย" ของ Mythos ที่ Anthropic ไม่เคยปล่อยออกมา โดยมีรั้วความปลอดภัยชั้นหนึ่งเพื่อป้องกันไม่ให้ผู้คนใช้มันโจมตีเครือข่าย วิจัยทางวิทยาศาสตร์ หรือทำสิ่งอื่นที่อาจก่อให้เกิดผลร้ายแรง แต่ Amazon ยื่นรายงานต่อรัฐบาลสหรัฐฯ ว่ามีคนสามารถแหกคุก เรียกใช้โมเดล Mythos ผ่าน Fable ได้โดยตรง สิ่งที่รัฐบาลสหรัฐฯ กังวลคือจุดนี้ จึงลงมืออย่างเด็ดขาด

Anthropic อาจเป็นบริษัทที่จริงจังกับความเสี่ยงของ AI มากที่สุดในโลก แต่ไม่ทันไร สองปีนี้ความสามารถของโมเดลเติบโตเร็วเกินไป ทั้งเส้นทางนี้รู้จักแค่ทิศทางเดียว คือไปข้างหน้า

Anthropic เตือนทุกคนเร็วกว่าคู่แข่งว่าถ้าเป็นแบบนี้ต่อไป อาจมีความเสี่ยงที่เทคโนโลยีจะหลุดมือ และถึงกับบอกว่ารัฐบาลควรมีสิทธิ์ยับยั้งโมเดลที่อันตราย

ไม่คิดว่ารัฐบาลสหรัฐฯ ลงมือจริงวันแรก โมเดลที่ถูกยับยั้งเป็นของบริษัทตัวเอง

Amazon ได้ส่งสัญญาณเตือนถึงความเสี่ยง รัฐบาลสหรัฐฯ ต้องปกป้องประเทศชาติ Anthropic กำลังดำเนินการด้านความปลอดภัยตามที่เห็นสมควร ทุกคนต่างทำหน้าที่ของตน แต่เมื่อรวมกันแล้วกลับไม่ได้ผลลัพธ์ที่สมบูรณ์

ดูเหมือนจะมีใครบางคนเหยียบเบรกให้อุตสาหกรรมนี้ในที่สุด แต่ความจริงไม่ใช่เช่นนั้น โมเดลที่เปิดตัวได้เพียงสามวันกลับถูกสั่งหยุดด้วยคำสั่งเดียว ซึ่งแสดงให้เห็นว่าไม่มีใครยอมชะลอความเร็วของตัวเอง จนกระทั่งต้องมีคนภายนอกเข้ามาจัดการ หากบริษัท นักวิจัยด้านความปลอดภัย ลูกค้า และรัฐบาลสหรัฐฯ มีระบบที่ร่วมกันชะลอความเร็วได้จริง สถานการณ์คงไม่ถึงขั้นที่ความมั่นคงของชาติต้องเข้ามาตัดสินใจแบบเหวี่ยงแห ยิ่งไปกว่านั้น การตัดสินใจครั้งนี้หยุดแค่ Anthropic เพียงรายเดียว ในขณะที่คนอื่นยังคงเดินหน้าต่อไป สามวันของ Fable ไม่ใช่หลักฐานว่าอุตสาหกรรมเริ่มชะลอตัว แต่เป็นหลักฐานว่าไม่มีใครสามารถทำให้มันชะลอตัวได้อย่างเหมาะสม

เบรกก็สามารถเป็นความสามารถในการแข่งขันได้

Fable 5 ตั้งแต่แรกเริ่มก็เป็นผลผลิตของการประนีประนอม

โมเดลที่ทรงพลังอย่างแท้จริงในมือของ Anthropic คือ Mythos มันไม่ได้ถูกเปิดเผยต่อสาธารณะเพราะความสามารถที่มากเกินไป ในเดือนเมษายน 2026 บริษัทได้ส่งเวอร์ชันตัวอย่างของ Mythos ผ่าน Project Glasswing ให้กับหน่วยงานด้านความปลอดภัยหลายแห่ง เพื่อให้พวกเขาค้นหาช่องโหว่

การค้นหาช่องโหว่นั้น แยกแยะความดีและความชั่วได้ยาก ความสามารถเดียวกันนี้ การค้นพบเพื่อซ่อมแซมหรือเพื่อเจาะเข้าไป ขึ้นอยู่กับว่าใครเป็นผู้ครอบครอง

แต่ท้ายที่สุด Anthropic ก็ยังคงอยู่ในเส้นทางที่เร่งความเร็วขึ้นทุกวัน ถึงเดือนมิถุนายน มันก็ยังผลักดันความสามารถประเภทนี้ออกสู่สาธารณะ Fable คือเวอร์ชันที่ปลอดภัยของ Mythos คำขอที่มีความเสี่ยงสูงจะถูกส่งกลับไปยัง Opus 4.8 ที่มีข้อจำกัดมากขึ้น มีการทดสอบ Red Team ก่อนเปิดตัว ข้อมูลการใช้งานถูกเก็บไว้สามสิบวันเพื่อให้ตรวจจับการเจาะระบบได้ง่ายขึ้น ในขณะเดียวกัน มันก็เป็นสินค้าที่มีราคา มีรีวิวจากลูกค้า มีช่วงทดลองใช้ ต้องขายเพื่อทำเงิน และต้องดูดีในสายตานักลงทุน

การทำให้ความปลอดภัยกลายเป็นความสามารถในการแข่งขันนั้นเป็นเรื่องที่ขัดแย้งในตัวเอง ความสามารถในการแข่งขันหมายถึงการวิ่งเร็วกว่าคนอื่น ส่วนความปลอดภัยหมายถึงอย่าวิ่งเร็วเกินไป Anthropic ต้องการให้ทั้งสองสิ่งนี้เกิดขึ้นพร้อมกัน แต่วิธีการทำให้มันเกิดขึ้นพร้อมกันนั้น จนถึงวันนี้มันเองก็คงยังไม่เข้าใจดีนัก

ผู้ก่อตั้ง Dario Amodei เคยเป็นรองประธานฝ่ายวิจัยของ OpenAI และสมาชิกผู้ก่อตั้งของ Anthropic หลายคนก็มาจาก OpenAI พวกเขาเคยเห็นความตื่นเต้นของผู้คนเมื่อโมเดลรุ่นใหม่แข็งแกร่งขึ้น และรู้ดีว่ามีอะไรซ่อนอยู่ภายใต้ความตื่นเต้นนั้น

เรื่องราวของ OpenAI ในภายหลังสามารถใช้เป็นตัวอย่างเปรียบเทียบได้ อัลท์แมนถูกไล่ออก แต่กลับมาภายในห้าวัน และกลับมาจัดโครงสร้างคณะกรรมการใหม่ ตอนที่ทีม Superalignment ก่อตั้งขึ้น พวกเขาบอกว่าจะแก้ปัญหาความปลอดภัยภายในสี่ปี แต่กลับยุบทีมไปก่อนจะครบปี

Anthropic คืออีกหนึ่งคำตอบที่เกิดขึ้นหลังจากเหตุการณ์วุ่นวายนั้น พวกเขาบอกว่าเราจะสร้างโมเดลที่ทรงพลังเช่นกัน แต่ต้องเขียนระบบเบรกไว้ในกฎระเบียบ นโยบายการขยายตัวอย่างรับผิดชอบได้รับการอัปเดตเป็นเวอร์ชัน 3.0 ภายในปี 2026 โดยแบ่งระดับโมเดลตามระดับความปลอดภัย พวกเขากล่าวว่าเทคโนโลยีกำลังพัฒนาอย่างก้าวกระโดดแบบทวีคูณ ในขณะที่โลกของการวางกฎระเบียบยังตามไม่ทัน ดังนั้นรัฐบาลควรมีสิทธิ์ที่จะหยุดการปรับใช้ที่อันตราย

ด้านหนึ่งก็สร้างโมเดลของตัวเอง แต่อีกด้านก็เสนอว่ารัฐบาลควรมีสิทธิ์ห้ามโมเดล เบื้องหลังนี้ต้องมีความเชื่อมั่นว่า คุณต้องเชื่อว่ามือใหญ่จะใช้อำนาจอย่างระมัดระวังและดำเนินการตามขั้นตอน ท่าทีแบบนี้ เดิมทีฉันรู้สึกเคารพอยู่บ้าง แต่สามวันที่ Fable แสดงให้เห็นว่าความเชื่อมั่นนี้ไม่น่าเชื่อถือแค่ไหน

ต้นปีนี้ Anthropic ทะเลาะกับเพนตากอนเรื่องการใช้ Claude ทางทหาร พวกเขาสร้าง Claude Gov สำหรับลูกค้าภาครัฐของสหรัฐฯ แต่ปฏิเสธการเฝ้าระวังภายในประเทศในวงกว้าง และปฏิเสธอาวุธอัตโนมัติที่อันตรายถึงชีวิตโดยไม่มีมนุษย์คอยดูแล

ในมุมมองของพวกเขา นี่คือขอบเขตของความรับผิดชอบ แต่ในมุมมองของระบบความมั่นคงแห่งชาติ ขอบเขตคือปัญหา เพราะขอบเขตหมายถึงคุณไม่ยอมเชื่อฟังอย่างสมบูรณ์

ความปลอดภัยที่ Anthropic พูดถึงคือการไม่สูญเสียการควบคุม ความปลอดภัยที่ระบบความมั่นคงแห่งชาติพูดถึงคือทุกอย่างสามารถควบคุมได้

เมื่อแม้แต่ความหมายของเบรกยังตกลงกันไม่ได้ ใครจะมาพูดถึงการพิสูจน์ว่าตัวเองรับผิดชอบได้ Anthropic ค้นพบอย่างรวดเร็วว่าพวกเขาพิสูจน์ไม่ได้ เพราะแค่ตัวเองคนเดียวไม่พอ

หยุดไม่ได้ และไม่กล้าหยุด

ต้นเดือนมิถุนายน Anthropic เสนอแนวคิดว่า ห้องปฏิบัติการชั้นนำอาจต้องประสานงานกันเพื่อชะลอ หรือแม้แต่หยุดชั่วคราว เพื่อให้สังคมและนโยบายมีเวลาตามทัน

การประสานงาน

ทำไมต้องประสานงาน เพราะถ้าบริษัทเดียวชะลอตัวลง โลกก็จะไม่ปลอดภัยขึ้น Anthropic หยุด OpenAI ก็ไม่จำเป็นต้องหยุด Google ก็ไม่จำเป็นต้องหยุด และตลาดทุนจะไม่มีวันหยุด

ดังนั้น การยับยั้งชั่งใจฝ่ายเดียวในสถานการณ์นี้ไม่ถือเป็นคุณธรรม คนที่หยุดก่อนจะไม่ถูกจดจำ แต่จะถูกแทนที่

ปัญหาของ Anthropic ไม่เคยอยู่ที่ว่าจะรับผิดชอบหรือไม่ พวกเขารู้ดีว่าต้องรับผิดชอบ ปัญหาที่แท้จริงคือ เมื่อคนอื่นอาจไม่รับผิดชอบ คนคนหนึ่งจะรับผิดชอบไปถึงไหนได้

อุตสาหกรรมในอดีตไม่ว่าจะเกิดอุบัติเหตุร้ายแรงแค่ไหน ก็ยังพอหาต้นตอที่ชัดเจนได้ แต่ AI ยุค前沿ไม่ใช่แบบนั้น ความสามารถของโมเดลหนึ่ง มาจากพลังคำนวณ มาจากบทความวิชาการ มาจากชุมชนโอเพนซอร์ส มาจากนักลงทุนที่เร่งให้เติบโต และมาจากประเทศที่ต้องการความได้เปรียบทางเทคโนโลยี แต่ละส่วนสามารถปฏิเสธความรับผิดชอบ บอกว่าตัดสินใจไม่ใช่ฉัน แต่เมื่อชิ้นส่วนเหล่านี้ประกอบเข้าด้วยกัน ก็ผลักโลกมาถึงจุดนี้

ความรับผิดชอบถูกแยกส่วน แต่ความเร่งยังคงอยู่

Anthropic เขียนในเอกสารนโยบายว่า AI วิ่งเร็วเกินไป การกำกับดูแลตามไม่ทัน แต่ในขณะเดียวกันก็ปล่อยโมเดลใหม่ออกมา

ผมไม่ได้จะบอกว่า Anthropic เสแสร้ง Anthropic ไม่ใช่ห้องทดลองเล็กๆ ที่จะอยู่รอดได้ด้วยอุดมการณ์อีกต่อไปแล้ว มันต้องแย่งชิงกับ OpenAI, Google, xAI ต้องรับมือกับความคาดหวังจากการระดมทุนและ IPO ซิลิคอนแวลลีย์พูดถึงความปลอดภัยด้วยความเคารพ แต่เมื่อถึงเวลาต้องลงเงินจริง สิ่งที่มองคือโมเดลของใครแข็งแกร่งกว่า

ดังนั้นมันจึงต้องแยกเรื่องออกเป็นสองส่วน สิ่งที่ตัวเองทำได้ ก็ลงมือทำก่อน สิ่งที่ต้องให้ทั้งอุตสาหกรรมทำร่วมกัน ก็แยกออกมา รอคนอื่น

ปฏิบัติจริง แต่ก็จำใจ

Fable เกิดมาในรอยต่อนี้ รถหยุดไม่ได้ ก็ต้องติดตั้งผ้าเบรกที่ซับซ้อนกว่าให้รถ สิ่งที่ถูกบีบออกมาจากรอยต่อ ย่อมไม่ถูกใจทั้งสองฝ่าย

ยืนอยู่ตรงกลาง

หลังจาก Fable เปิดตัว คนที่ไม่พอใจก่อนไม่ใช่รัฐบาลสหรัฐฯ แต่เป็นกลุ่มที่ทำงานด้านความปลอดภัย

Chompie นักวิจัยจาก IBM X-Force บอกว่า Fable จะปฏิเสธคำขอด้านความปลอดภัยจำนวนมากที่แค่แตะขอบ บางครั้งแค่ให้มันอ่านบล็อกโพสต์ก็ทำให้เกิดการตอบสนอง

รั้วความปลอดภัยพยายามแยกแยะเจตนา แต่โมเดลเห็นแค่ภาษาและบริบท มันแยกไม่ออกว่าคุณหยิบเครื่องมือออกมาเพื่อซ่อมประตูหรืองัดกุญแจ เลยเลือกที่จะสกัดทั้งสองประเภท

สองวันต่อมา รายงานฉบับหนึ่งถูกส่งเข้าไปในห้องของรัฐบาลสหรัฐฯ ตั้งแต่นั้นมา เรื่องนี้ก็ไม่ใช่แค่การประเมินการออกแบบความปลอดภัยของ Anthropic ด้วยตัวเองอีกต่อไป

Anthropic ย้ำถึงความแตกต่างของเวลาซ้ำแล้วซ้ำเล่า ก่อนปล่อย มันแจ้งรัฐบาลสหรัฐฯ หลายครั้ง รัฐบาลสหรัฐฯ ไม่ได้คัดค้าน และยังมีส่วนร่วมในการทดสอบก่อนปล่อย บริษัทได้รับอนุญาตให้ปรับใช้แล้ว สามวันต่อมา ระบบชุดเดียวกันกลับบอกให้มันถอนออก

Anthropic บอกว่ารัฐบาลสหรัฐฯ ไม่เคยให้รายละเอียดที่ชัดเจน มันดูการสาธิตด้วยตัวเอง คิดว่ามันเป็นแค่ช่องโหว่ที่รู้จักกันอยู่ไม่กี่จุด ไม่ร้ายแรง โมเดลสาธารณะอื่นๆ ก็ทำได้เหมือนกัน จนกระทั่งถึงตอนออกแถลงการณ์ รัฐบาลสหรัฐฯ ก็มีแค่คำพูดเท่านั้น

โมเดลนี้ นักพัฒนาไม่พอใจ รัฐบาลสหรัฐฯ ก็ไม่พอใจเช่นกัน Anthropic อยู่ตรงกลาง กลายเป็นคนที่ถูกกดดันจากทั้งสองฝ่าย

เบื้องหลังเรื่อง Fable คือการทำงานของห่วงโซ่แห่งความไม่ไว้วางใจทั้งหมด เมื่อวนครบ一圈 แต่ละฝ่ายต่างระวังฝ่ายก่อนหน้า สุดท้ายแล้ว สังคมก็ยากที่จะเชื่ออีกต่อไปว่า ใครในนี้จะสามารถรับผิดชอบได้จริง

e/acc คือบรรยากาศแบบหนึ่ง

ปัญหานี้ยากตรงที่ ทุกฝ่ายต่างรู้สึกว่าตัวเองกำลังรับผิดชอบ และก็มีเหตุผลที่ฟังขึ้น ทุกคนต่างถือความชอบธรรมในส่วนของตัวเอง

นี่คือสิ่งที่น่ากลัว ทุกคนรับผิดชอบเฉพาะส่วนเล็กๆ ของตัวเอง แต่เมื่อรวมกันแล้ว ไม่มีใครรับผิดชอบทั้งเรื่อง ความรับผิดชอบถูกแบ่งเป็นชิ้นเล็กชิ้นน้อย การควบคุมภายในบริษัท การประเมินโมเดล การควบคุมการส่งออก ความต้องการของลูกค้า การแข่งขันระหว่างประเทศ ผลตอบแทนจากการลงทุน แต่ละชิ้นสะท้อนความจริงบางส่วน แต่ไม่มีชิ้นไหนสะท้อนภาพทั้งหมด

เมื่อแม้แต่คำจำกัดความก็ยังตกลงกันไม่ได้ สิ่งเดียวที่ทุกคนไม่เถียงกันก็คือ "ความเร็ว"

Effective accelerationism หรือ e/acc ในช่วงไม่กี่ปีนี้กลายเป็นแนวคิดมองโลกในแง่ดีทางเทคโนโลยีที่ค่อนข้างชัดเจน ผลักดันเทคโนโลยีให้เร็วขึ้น โดยไม่สนใจกฎระเบียบ โครงสร้างสังคม และจริยธรรม เชื่อว่าความก้าวหน้าจะแก้ปัญหาใหญ่ๆ ได้

ไม่ใช่ทุกบริษัทจะเรียกตัวเองว่า e/acc และ Anthropic ก็ยิ่งไม่ใช่ แต่แนวคิดหนึ่งไม่จำเป็นต้องได้รับการยอมรับจากทุกคนเพื่อเปลี่ยนสภาพแวดล้อม

การแข่งขันด้านความสามารถ พลังประมวลผลที่เผาผลาญไม่สิ้นสุด ตารางเวลาการระดมทุน การแข่งขันระหว่างประเทศ ความต้องการของกองทัพ ความกระหายของนักพัฒนาที่มีต่อเครื่องมือที่ทรงพลังกว่า สิ่งเหล่านี้รวมกันกลายเป็นบรรยากาศแบบหนึ่ง บางคนไม่ชอบบรรยากาศนี้ แต่ก็ต้องใช้ชีวิตอยู่ในนั้น เหมือนกับทุกคน

แม้แต่ Anthropic ที่แข็งแกร่ง เป็นหนึ่งในไม่กี่คนที่พูดถึงการเบรกซ้ำแล้วซ้ำเล่าในยุคแห่งความเร่งนี้ สุดท้ายก็ต้องพิสูจน์ก่อนว่าตัวเองวิ่งเร็วพอ การเร่งเทคโนโลยีไม่จำเป็นต้องมีคนเลว มันแค่ต้องการให้คนดีทุกคนรู้สึกว่าตัวเองไม่สามารถหยุดก่อนคนอื่นได้

เบรกมีอยู่ตลอด

เรื่อง Fable คือราคาของการมอบเบรกให้คนอื่น คุณหวังให้อำนาจสาธารณะเข้ามาแทรกแซง เพราะการกำกับดูแลของอุตสาหกรรมไม่เพียงพอ แต่อำนาจสาธารณะอาจไม่ทำงานในแบบที่คุณคาดหวัง เครื่องจักรความมั่นคงแห่งชาติที่ชำนาญที่สุดไม่ใช่การเจรจา แต่คือการปิดกั้น การอนุญาต และข้อยกเว้น

AI ไม่ใช่เทคโนโลยีที่สามารถกำหนดขอบเขตได้อีกต่อไปแล้ว เมื่อโมเดล前沿ถูกฝังอยู่ในธุรกิจ วิทยาศาสตร์ การป้องกันประเทศ และโครงสร้างพื้นฐาน ใครยังมีความสามารถที่จะตัดสินว่ามันไม่ควรถูกใช้ในทางไหน

ทุกคนรู้ว่ามันเร็วเกินไป แต่ความเร็วกลับกลายเป็นเงื่อนไขของการอยู่รอด

เมื่อร้อยกว่าปีก่อน ก็เคยมีการเร่งความเร็วที่ไม่มีใครกล้าสั่งหยุด

เย็นวันที่ 1 สิงหาคม ค.ศ. 1914 เวลาห้าโมงเย็น ไกเซอร์วิลเฮล์มที่ 2 สั่งระดมพลเต็มกำลังของกองทัพเยอรมัน ไม่กี่นาทีหลังจากส่งคำสั่ง ก็มีโทรเลขจากลอนดอนมาว่า ถ้าเยอรมันไม่โจมตีฝรั่งเศส อังกฤษจะทำให้ฝรั่งเศสวางเฉยได้ ไกเซอร์ดีใจมาก เขากลัวการรบสองแนวรบที่สุด ตอนนี้ดีแล้ว กองกำลังทั้งหมดจะได้ไปทางตะวันออกเพื่อสู้กับรัสเซีย เขาหันไปพูดกับหัวหน้าคณะเสนาธิการ โมลท์เคอผู้น้อง ว่า งั้นเราก็แค่ไปทางตะวันออก

โมลท์เคอผู้น้องบอกว่า ทำไม่ได้

เหตุผลที่เขาให้คือ กองทัพที่มีคนเป็นล้าน จะเคลื่อนพลอย่างไร ใช้เส้นทางรถไฟสายไหน ถึงสถานีไหนกี่โมงกี่นาที ทุกอย่างถูกวางแผนตายตัวตามตาราง ตารางเวลานี้ใช้เวลาปรับแต่งทั้งปี พอปรับเสร็จแล้ว แก้ไขแม้แต่ตัวอักษรเดียวไม่ได้

ต่อมานักประวัติศาสตร์หลายคนเล่าเรื่องนี้ ส่วนใหญ่เล่าเป็นนิทานเกี่ยวกับเครื่องจักร ว่าเครื่องจักรของสงครามสมัยใหม่ละเอียดอ่อนถึงขนาดนี้ แม้แต่คนที่เดินเครื่องก็หยุดมันไม่ได้

แต่ต่อมา ผู้คนก็ค้นพบอีกเรื่องหนึ่ง ตารางเวลานั้น จริงๆ แล้วแก้ไขได้ ฝ่ายรถไฟซ้อมเปลี่ยนเส้นทางและเวลาชั่วคราวทุกปี แผนสำหรับแนวรบด้านตะวันออกก็เตรียมไว้ตลอด ถ้ารถไฟจะกลับหัว ก็กลับได้

นั่นหมายความว่า เบรกมีอยู่ตลอด

สิ่งที่เกิดขึ้นจริงในคืนนั้น ไม่ใช่ไม่มีเบรก แต่เป็นคนที่ยืนอยู่ข้างคันเบรก ยืนกรานว่าเบรกแตะไม่ได้ เขาไม่ได้ถามว่าสามารถเปลี่ยนได้ไหม เขามั่นใจเกินไปว่าเปลี่ยนไม่ได้

ดังนั้นรถไฟก็ยังคงแล่นไปทางตะวันตกทีละขบวน ลากความขัดแย้งที่ควรจะจำกัดอยู่แค่สามประเทศ ให้กลายเป็นสงครามใหญ่ที่ฝังทั้งยุโรป ไม่มีใครต้องการผลลัพธ์นี้ ทุกคนในตอนนั้นรู้สึกว่า แค่กำลังทำสิ่งที่ควรทำที่สุด และทำไม่ได้ที่จะไม่ทำ

ที่ผมนึกถึงรถไฟขบวนนี้ ก็เพราะการเร่งความเร็วของ AI ก็เป็นรถไฟที่ออกตัวแล้วเช่นกัน มันไม่ได้ถูกสร้างโดยใครคนใดคนหนึ่ง แต่เกิดจากพลังคำนวณ ทุน และความทะเยอทะยานของประเทศ ต่อพ่วงกันทีละท่อน แล้วขับเคลื่อนไปเอง ทุกคนนั่งอยู่บนรถไฟ ทุกคนกำลังทำสิ่งที่ควรทำที่สุดในมือ รถไฟก็ยังคงแล่นไปข้างหน้า

นี่คือสิ่งที่ทำให้ผมรู้สึกไม่สบายใจในยุค AI อันตรายไม่ได้ไม่มีใครเห็น เบรกก็ไม่ได้ไม่มีจริง คนที่ตะโกนว่าเบรกก็นั่งอยู่ในรถ คนที่รู้ถึงอันตรายก็ยังเหยียบคันเร่งอยู่

สิ่งที่วงการนี้ระวังที่สุด มักจะเป็นสิ่งที่ตัวเองกำลังสร้างอย่างหนัก Fable ควรจะเป็นตัวอย่างให้ทุกคนหยุดมองสักครั้ง แต่พอผมเขียนเสร็จ โมเดลใหม่ก็ถูกปล่อยออกมาอีกหลายตัว ทุกตัวบอกว่าตัวเองเก่งที่สุด

ไม่มีใครยอมเหยียบเบรกก่อนเลยสักคน