ชื่อบทความต้นฉบับ: 《บริษัทแอนโธรปิกจอมปลอม》
ผู้เขียนต้นฉบับ: ตงฉาเป่ยอวี่
ในสมัยนั้นมีผู้ยิ่งใหญ่บนแผ่นดินโลก และภายหลังเมื่อบุตรชายของพระเจ้าได้ร่วมหลับนอนกับบุตรสาวของมนุษย์และให้กำเนิดบุตร ก็ได้แก่ผู้ยิ่งใหญ่ที่มีชื่อเสียงในยุคโบราณนั้น
/ปฐมกาล บทที่ 6 ข้อ 4
เวลาประมาณ 22.30 น. ของวันที่ 19 พฤศจิกายน ตามเวลาปักกิ่ง แอนโธรปิกได้ตีระฆังเปิดการซื้อขายที่ตลาดหลักทรัพย์แนสแด็ก
ในภาพมีคนยืนอยู่แปดคน ทุกคนติดเข็มกลัดมาสคอตปูพิกเซลชื่อคลอว์ด Dario Amodei ก้มหน้าอ่านสคริปต์จนจบ แล้วประกาศว่าบริษัทจะ «ไม่ก้มหัวให้กับแรงกดดันทางธุรกิจหรือการเมือง» เมื่อเสียงระฆังดังขึ้น เขาชูมือทั้งสองข้างขึ้น หันฝ่ามือขึ้นแล้วยิ้มออกมา คนข้างๆ ปรบมือพร้อมกัน
เมื่อวิดีโอถูกเผยแพร่ไปบนโซเชียลมีเดีย ในคอมเมนต์มีคำหนึ่งโผล่ขึ้นมาซ้ำแล้วซ้ำเล่า นั่นคือ "คนจอมปลอม" ยิ้มก็ไม่เหมือนยิ้ม ปรบมือก็ไม่เหมือนปรบมือ แม้แต่ท่ายืนบนเวทีก็ยังเผยให้เห็นความฝืนๆ ที่บอกไม่ถูก
คนจอมปลอมเดิมทีเป็นแนวคิดในเรื่องผีสยองขวัญ ในปี 2021 ชายหนุ่มชาวอเมริกันคนหนึ่งเขียนซีรีส์短片สยองขวัญจำลองออนไลน์ ในนั้นมีสิ่งมีชีวิตชนิดหนึ่ง หน้าตาเหมือนมนุษย์ทุกประการ มันจะแอบเข้ามาแทนที่คนรอบข้างคุณอย่างเงียบๆ และเผยจุดบกพร่องเพียงเล็กน้อยที่สุดเท่านั้น
สิ่งที่ทำให้คนจอมปลอมน่าขนลุกที่สุด คือมันเกือบจะเหมือนของจริงแล้ว
แอนโธรปิก รากศัพท์ของคำนี้หมายความว่า «เกี่ยวข้องกับมนุษย์» พอดี ธุรกิจที่ใหญ่ที่สุดของมันคือการสร้างสิ่งที่เหมือนมนุษย์มากขึ้นเรื่อยๆ แล้วทุ่มเทความพยายามนับไม่ถ้วนเพื่อสำรวจว่าสิ่งที่สร้างขึ้นมานี้มีความรู้สึกหรือไม่ โกหกเป็นหรือไม่ รู้จักความเจ็บปวดไหม ส่วนคนไม่กี่คนที่สร้างมันขึ้นมา ปริศนารอบตัวพวกเขาไม่ได้น้อยไปกว่าตัวเครื่องจักรที่พวกเขาสร้างเลย
เพราะพระเจ้าทรงทราบว่า เจ้าจะกินในวันใด ตาของเจ้าจะสว่างขึ้นในวันนั้น และเจ้าจะเป็นเหมือนพระเจ้า คือรู้จักความดีและความชั่ว
/ปฐมกาล บทที่ 3 ข้อ 5
ลึกเข้าไปในเอกสารชี้ชวนมีข้อกำหนดข้อหนึ่งซ่อนอยู่ แอนโธรปิกออกหุ้นสามัญ Class F เพียงหุ้นเดียวเท่านั้น โดยใส่เข้าไปในนิติบุคคลชื่อ Founder LLC ซึ่งล็อกสิทธิออกเสียงทั้งหมด 50.1% ไว้แต่เพียงผู้เดียว ผู้ถือหุ้นหนึ่งหุ้นนี้คือคนเจ็ดคน ได้แก่ Dario Amodei, Daniela Amodei, Tom Brown, Jack Clark, Jared Kaplan, Sam McCandlish และ Christopher Olah
ในบรรดาทั้งเจ็ดคน ผู้ที่ถูกทำนายไว้ตั้งแต่เนิ่นๆ ว่าจะประสบความสำเร็จคือ Dario

Dario Amodei (ขวา) ในหนังสือรุ่น
ได้รับเลือกพร้อมเพื่อนร่วมชั้นให้เป็น "ผู้ที่มีโอกาสประสบความสำเร็จมากที่สุด"
ที่มาภาพ: Artem Russakovskii/LinkedIn
ในปี 1997 บนหนังสือรุ่นของโรงเรียนทางเลือกแห่งหนึ่งในซานฟรานซิสโก Dario ในชั้นมัธยมศึกษาปีที่ 2 และเพื่อนร่วมชั้นอีกคนได้รับการโหวตให้เป็น "ผู้ที่มีโอกาสประสบความสำเร็จมากที่สุด" ในภาพ เด็กชายสองคนถือธนบัตร-dollar ไว้ในมือคนละหลายใบ ราวกับได้รับล่วงหน้าถึงอนาคต
เขาเติบโตในย่าน Mission ที่เต็มไปด้วยภาพจิตรกรรมฝาผนังทั่วกำแพง พ่อของเขาชื่อ Riccardo เป็นช่างหนังที่อพยพจากทัสคานีมาอเมริกา ใช้ชีวิตทั้งชีวิตคลุกคลีกับหนังสัตว์และเข็มกับด้าย ส่วนแม่รับผิดชอบโครงการบูรณะห้องสมุดประชาชน
Dario คุ้นเคยตั้งแต่เนิ่นๆ กับการมองโลกเป็นโจทย์ที่รอการไข ในชั้นมัธยมปลายเขาไปเรียนที่เบิร์กลีย์ ครุ่นคิดเรื่องลัทธิประโยชน์นิยม และกังวลใจกับวิกฤตปี ค.ศ. 2000 ในปี 2003 ขณะยังเป็นนักศึกษาปีสองที่ Caltech เขาเขียนบทความในหนังสือพิมพ์ของมหาวิทยาลัย วิจารณ์เพื่อนนักศึกษาที่เพิกเฉยต่อสงครามอิรักที่ใกล้จะเกิดขึ้น และเรียกร้องให้ทุกคนออกไปเดินขบวนตามท้องถนน "เราต้องไม่ปล่อยให้ตัวเองกลายเป็นช่างเทคนิคที่ไร้ศีลธรรม ปฏิบัติการเครื่องจักรสงครามอย่างไม่แยแสราวกับกำลังคำนวณ"
ในปี 2006 เขาจบการศึกษาจากภาควิชาฟิสิกส์ มหาวิทยาลัยสแตนฟอร์ด ในปีเดียวกันนั้น พ่อของเขาเสียชีวิตด้วยโรคตับอักเสบซี เพียงไม่กี่ปีต่อมา ยาตัวใหม่ก็ถือกำเนิดขึ้น ผู้ป่วยตับอักเสบซีส่วนใหญ่จึงหายขาดได้นับจากนั้น
ยามาสายไป 몇 ปี หลายปีเหล่านี้กลายเป็นเครื่องหมายบอกระดับในชีวิตที่เหลือของเขา
เขาเปลี่ยนไปศึกษาชีวฟิสิกส์ที่มหาวิทยาลัยพรินซ์ตัน สังเกตการณ์ในห้องปฏิบัติการเรตินาว่ากลุ่มเซลล์ประสาทจำนวนมากเกิดขึ้นเองอย่างเป็นพฤติกรรมองค์รวมได้อย่างไร และที่นั่นเอง หนังสือ 《The Singularity Is Near》 ของ Ray Kurzweil ทำให้เขาหลงใหล ในปี 2007 เพื่อนสนิทสมัยมัธยมปลาย Colin Heckman ไปเยี่ยมเขาที่พรินซ์ตัน เขาบิดผมไปมาด้วยนิ้วพลางพยากรณ์ว่า singularity จะมาถึงก่อนปี 2040 "ในที่สุดเราจะกลายเป็น AI อภิปัญญาใหม่ หรือไม่ก็เป็นสิ่งมีชีวิตผสมระหว่าง AI กับมนุษย์" ในปี 2014 นักวิจัยหลังปริญญาเอกที่เคยศึกษ Cells มะเร็งผู้นี้เองก็ได้รับการวินิจฉัยว่าเป็นมะเร็งอัณฑะ ต้องผ่านเคมีบำบัดกว่าจะหายขาด
ในวัยสามสิบต้นๆ เขาปะทะกับความตายซึ่งๆ หน้ามาแล้วถึงสองครั้ง ยาที่เขาสั่งให้ตัวเองคือการเปลี่ยนทุกสิ่งในโลกให้กลายเป็น筹码ที่คำนวณได้
ในปี 2010 เขาเขียนบทความบนเว็บไซต์ GiveWell ซึ่งเป็นองค์กรประเมินการกุศล เกี่ยวกับวิธีบริจาคเงินหนึ่งหมื่นดอลลาร์ที่มีอยู่ในมือ โดยในบทความนั้นเขาได้วิเคราะห์อย่างเย็นชาว่า "การเสียชีวิตของผู้ใหญ่คนหนึ่งนั้นเลวร้ายกว่าการเสียชีวิตของทารกประมาณสองถึงสามเท่า" เขากินเจ แต่คิดว่ากินปูไม่เป็นไร โดยให้เหตุผลว่าปูเป็นสัตว์ไม่มีกระดูกสันหลัง เขาและเพื่อนถกเถียงกันเรื่องลัทธิประโยชน์นิยมที่ร้านซูชิ และยอมรับว่าตราบใดที่จำนวนไก่มีมากพอ น้ำหนักทางศีลธรรมของมันย่อมเกินกว่ามนุษย์ที่มีชีวิตคนหนึ่งในที่สุด
ช่างทำหนังวัดขนาดหนังสัตว์ด้วยมือ ตัด แล้วเย็บ ส่วนลูกชายของช่างทำหนังวัดขนาดคือความตาย
ไม้บรรทัดนี้ติดตามเขามาตลอด ในเดือนกรกฎาคม 2025 เขาได้สารภาพในข้อความ Slack ภายในที่ส่งถึงพนักงานว่าบริษัทจะแสวงหาการลงทุนจากสหรัฐอาหรับเอมิเรตส์และกาตาร์ โดยยอมรับว่าสิ่งนี้อาจทำให้ "เผด็จการ" ได้รับประโยชน์ จากนั้นก็เขียนต่อทันทีว่า "'จะต้องไม่มีคนเลวใดได้รับประโยชน์จากความสำเร็จของเรา' เป็นหลักการที่ยากจะใช้ในการดำเนินธุรกิจ"
ในการประเมินของเขาเอง ความน่าจะเป็นที่ AI จะทำให้สิ่งต่างๆ "แย่มากๆ" อยู่ที่ประมาณ 25% ในเดือนพฤศจิกายนปีที่แล้ว พิธีกรของรายการ 60 Minutes ถามเขาตรงๆ ว่าใครเป็นคนเลือกเขาและ Sam Altman ให้มาตัดสินใจ这些事情 เขาตอบว่า "ไม่มีใครเลย พูดตามตรง ไม่มีใครเลย"
เขานอนไม่หลับเรื้อรัง เรียกตัวเองว่า "หวาดระแวงในทุกระดับ" และมีความรังเกียจทางสรีระต่อสื่อสังคมออนไลน์ ในห้องทำงานของเขามีหนังสือ "ประวัติลับระเบิดปรมาณู" วางอยู่ บุคคลในประวัติศาสตร์อันยาวนานที่เขาเห็นด้วยมากที่สุดคือ Leo Szilard นักฟิสิกส์ผู้คิดค้นปฏิกิริยาลูกโซ่นิวเคลียร์เป็นคนแรก และต่อมาได้ร่วมลงนามคัดค้านการทิ้งระเบิดปรมาณูใส่ญี่ปุ่น ส่วน Oppenheimer ในสายตาของเขาเป็นเพียง "กรณีศึกษาความล้มเหลว"
Jasmine Sun ผู้เขียนของ The New York Times บรรยายว่าเขา "ดูเหมือนไม่ยอมเป็นรองใคร" และมักมอง OpenAI กับจีนเป็นปีศาจในเรื่องเล่าการแข่งขัน อดีตพนักงานเปิดเผยว่าเขาเคยพูดคุยส่วนตัวว่า Anthropic สักวันอาจ "แข็งแกร่งกว่ารัฐบาล" ในสายตาของนักลงทุนรายใหญ่ เขา "ดูเหมือนผู้นำศาสนามากกว่าซีอีโอ" เจ้าหน้าที่ทำเนียบขาวหลายคนเปิดเผยกับนักข่าวของ Axios ว่าในมุมมองของทรัมป์ "Dario ค่อนข้างแปลกเกินไปหน่อย"
เขาและภรรยาเลี้ยงม้าตัวหนึ่งชื่อ Calypso ด้วยกันที่อิตาลี บางครั้งเขาก็จ้องมองม้าตัวนั้นเงียบๆ อยู่ในใจคิดว่า "มันไม่รู้อะไรเลยเกี่ยวกับทั้งหมดนี้ มันเป็นแค่ม้าที่มีความสุขตัวหนึ่ง"
ล้วนมาเป็นคู่ๆ มีทั้งตัวผู้และตัวเมีย เข้ามาหาโนอาห์ในเรือ ตามที่พระเจ้าทรงบัญชาโนอาห์
/ปฐมกาล บทที่ 7 ข้อ 9
แดเนียลา น้องสาวที่อายุน้อยกว่าเขาไม่กี่ปี เดินในเส้นทางที่แตกต่างออกไป
พี่ชายใช้คณิตศาสตร์แยกย่อยโลก ส่วนน้องสาวกลับมีชีวิตอยู่ในวาทศิลป์และเรื่องเล่า แดเนียลาเคยได้รับทุนการศึกษาด้านฟลูตคลาสสิก และเรียนวรรณคดีในมหาวิทยาลัย เมื่อนึกถึงความรู้สึกตอนที่เพิ่งจบใหม่ๆ ในปี 2009 เธอกล่าวว่า "ฉันมีปริญญาวรรณคดี ไม่มีทักษะอะไรเลย ใครจะจ้างฉัน?"
ในปี 2013 เธอเข้าร่วมบริษัทชำระเงิน Stripe จากนั้นย้ายไปแผนกควบคุมความเสี่ยง กิจวัตรประจำวันของเธอคือการคาดเดาว่าคนที่เลวร้ายที่สุดจะทำอะไรได้บ้าง

แดเนียลา อาโมเดย์ ผู้ร่วมก่อตั้ง Anthropic (ซ้าย)
กับดาริโอ อาโมเดย์ (ขวา)
ที่มาภาพ: Amber Hakim/WIRED
สองพี่น้องทะเลาะกันมาตั้งแต่เด็ก "ฉันเคยขโมยของเล่นเขาบ่อยๆ" แดเนียลาระลึก "ดาริโอกับฉันทะเลาะกันแล้วก็คืนดีกันมาเกือบ 40 ปีแล้ว" แต่ในเรื่องเล่าพอดแคสต์ของพี่ชาย สองพี่น้อง "อยากช่วยโลกไปด้วยกันมาตลอด"
การช่วยโลกต้องมีคนร่วมทาง ทีมของสองพี่น้องส่วนใหญ่ออกมาจากบ้านรวมกลุ่มหลังหนึ่งในซานฟรานซิสโก คนแรกที่ย้ายเข้าบ้านหลังนั้นคือโฮลเดน คาร์นอฟสกีกับแดเนียลาแฟนสาวในขณะนั้น ต่อมาดาริโอก็ย้ายเข้ามาด้วย ผู้ที่เคยพักอาศัยร่วมกันที่นี่先后ยังมีจาเรด แคปแลน, คริส โอราห์ และพอล คริสเตียโน นักวิจัยของ OpenAI
Open Philanthropy ที่โฮลเดนบริหารอยู่เป็นหนึ่งในผู้ให้ทุนรายใหญ่ที่สุดในขบวนการ Effective Altruism คนกลุ่มนี้เชื่อมั่นอย่างแรงกล้าว่าการทำความดีสามารถคำนวณอัตราผลตอบแทนได้แม่นยำเหมือนการลงทุนร่วมทุน
ในกลุ่มคนเหล่านี้ เส้นทางที่คริส โอราห์เดินเข้าบ้านหลังนี้คดเคี้ยวที่สุด ในวัยเด็กเขาเคยถูกกลั่นแกล้งอย่างหนัก ครูยืนยันว่าเขา "แค่เรียนจบมัธยมก็ถือว่าโชคดีแล้ว" แต่เขาคิดทฤษฎีหลุมดำขึ้นมาเองได้ตั้งแต่อายุหกขวบ เขากินเจตั้งแต่สี่ขวบ ต่อมาเปลี่ยนเป็นวีแกนเต็มตัว เติบโตในครอบครัวคริสเตียนอีแวนเจลิคัลในโตรอนโต และเมื่ออายุสิบห้าปีก็หันไปสู่นิยมอเทวนิยมอย่างสิ้นเชิง
ในช่วงการประชุมสุดยอด G20 ที่โตรอนโตปี 2010 ไบรอน ซอนน์ คนที่เขารู้จักที่ HackLab ซึ่งเป็นพื้นที่แฮกเกอร์ ถูกตั้งข้อหาถือวัตถุระเบิดและพัวพันกับคดีก่อการร้าย ทั้งสองจริงๆ แล้วไม่ถือว่าสนิทกัน "ผมกลัวแทนเขา กลัวแทนตัวเอง กลัวแทนเพื่อนทุกคนของผม" โอราห์ระลึกในภายหลัง "ผมลาพักการเรียนจากมหาวิทยาลัยหนึ่งปีเพื่อไปฟังการพิจารณาคดีของเขาเต็มเวลา" ปีที่ลาพัก เขาอายุสิบแปดปี
หน้า GitHub ของเขายังคงเก็บรักษา repository ชื่อ ByronTrialNotes ไว้ ซึ่งเต็มไปด้วยบันทึกการพิจารณาคดีที่จดไว้ในตอนนั้น และในช่องคำอธิบายเขียนว่าตัวเอง "เอนเอียงเข้าข้าง Byron" เพื่อนของเขาสุดท้ายถูกตัดสินให้พ้นผิด ในวินาทีที่ศาลอ่านคำพิพากษาให้พ้นผิด ความคิดอีกอย่างหนึ่งก็ผุดขึ้นมาในหัวของ Olah ว่า "ฉันสังเกตเห็นว่าการเรียนรู้เชิงลึกจะส่งผลกระทบต่อสังคม"
เขาไม่เคยกลับไปเรียนจนจบปริญญาตรีอีกเลย ในปี 2012 Olah วัยสิบเก้าปีได้รับทุนที่ Peter Thiel ตั้งขึ้น khususสำหรับเยาวชนที่ลาออกกลางคัน และวิชาคณิตศาสตร์บางส่วนของเขาก็มี Dario สอนให้ด้วยตัวเอง
ในปี 2017 Open Philanthropy บริจาคเงิน 30 ล้านดอลลาร์ให้ OpenAI โดยมี Dario เป็นผู้ประสานงาน ทำให้ Holden ได้นั่งในคณะกรรมการของ OpenAI อย่างราบรื่น ในตอนท้ายของเอกสารระบุเงินสนับสนุนนั้นมีส่วนเปิดเผยความขัดแย้งทางผลประโยชน์ตอนหนึ่ง ความหมายโดยรวมคือ Dario และนักวิจัยอีกคนต่างเป็นที่ปรึกษาทางเทคนิคของมูลนิธิ และอาศัยอยู่ใต้ชายคาเดียวกันกับ Holden ซึ่งในเวลานั้น Holden ได้หมั้นหมายกับน้องสาวของ Dario แล้ว
เงินบริจาคก้อนมหาศาล หนึ่งที่นั่งในคณะกรรมการ หนึ่งบ้านเช่าร่วม และหนึ่งสัญญาหมั้น
ในวันที่ขอแต่งงาน Holden มอบ USB drive ให้ Daniela ข้างในบรรจุภาพยนตร์ยาวเต็มเรื่องที่สร้างจากตุ๊กตาสัตว์ ต่อมา Daniela ยังได้ตั้ง "คณะที่ปรึกษาส่วนตัว" ขึ้นมา โดยสมาชิกล้วนเป็นตุ๊กตาสัตว์ในคอลเลกชันของเธอ
Kevin Roose บันทึกคณะอันแปลกประหลาดนี้ไว้ในหนังสือเล่มใหม่ของเขา แมวขี้เกียจชื่อ Jinji มักแนะนำให้ Daniela ปฏิเสธการประชุมและรับงานเล็ก ๆ น้อย ๆ ให้น้อยลง หมีสีชมพูชื่อ Maura รับบทเป็นผู้จัดการสายเพอร์เฟกชันนิสต์อย่างเคร่งครัด และแพนด้าชื่อ Beary Bonds ได้รับการสถาปนาเป็น "หมีผู้พิทักษ์แห่งความเอื้ออาทรและความเห็นอกเห็นใจ" ตลอดช่วงปีที่ Daniela ดำรงตำแหน่งผู้บริหารที่ OpenAI เธออาศัยการสวมบทบาทกับเหล่าตุ๊กตาสัตว์เหล่านี้เพื่อจำลองปัญหาการบริหาร และยืนยันว่าพวกมัน "มีประโยชน์มากในการวิเคราะห์บุคลิกภาพแต่ละประเภท"
ในเดือนสิงหาคม 2017 ทั้งสองคนแต่งงานกัน การแต่งกายในพิธีแต่งงานกำหนดเป็น "ชุดทางการแบบตลก ๆ" ส่วนงานเลี้ยงหลังแต่งงานกำหนดให้แต่งเป็น "เศรษฐีซิลิคอนแวลลีย์" แขกที่มาร่วมงานแต่ละคนได้รับตุ๊กตาสัตว์คนละตัว ตามที่เว็บไซต์งานแต่งระบุ ใครก็ตามที่สามารถก่อให้เกิด "การจีบกันที่โรแมนติกที่สุด" ระหว่างบทบาทต่าง ๆ จะได้รับรางวัล
แพนด้าเป็นสัตว์ที่ Dario ชื่นชอบที่สุด ปรากฏอยู่ในโปรไฟล์ Slack ส่วนตัวของบริษัทเขา และยังเป็นชื่อกลุ่มเล็ก ๆ ของเขาที่ OpenAI ในวันนั้น Dario สวมหัวแพนด้ายักษ์เดินผ่านทางเดินในพิธีแต่งงาน ในภาพถ่ายหมู่ของวันนั้น Olah ที่ยืนอยู่ข้าง ๆ เขาสวมหัวยีราฟอยู่
ให้ยาวสามร้อยศอก กว้างห้าสิบศอก และสูงสามสิบศอก
/ปฐมกาล บทที่ 6 ข้อ 15
สิ่งที่ดึง Dario ออกจากห้องแล็บชีววิทยาสู่กระแส AI อย่างแท้จริง คือเครือข่ายการจดจำภาพ AlexNet ที่ถือกำเนิดขึ้นในปี 2012
สองปีต่อมา เขาย้ายไปห้องแล็บซิลิคอนแวลลีย์ของ Baidu ในความทรงจำของเพื่อนร่วมงาน เขา "แทบจะคว้าทุกโอกาสในการโต้เถียงอย่างดุเดือด" และมักนอนค้างคืนบนพื้นสำนักงานเป็นประจำปี บทความที่เขามีส่วนร่วมตีพิมพ์ที่ Baidu มีชื่อว่า 《การจดจำเสียงแบบ end-to-end สำหรับภาษาอังกฤษและภาษาจีนกลาง》 ที่นั่นเองที่เขาได้สัมผัสกับกฎเกณฑ์ที่จะเปลี่ยนโลกในภายหลัง "ยิ่งคุณให้ข้อมูลพวกมันมากเท่าไร สร้างโมเดลให้ใหญ่ขึ้นเท่าไร ฝึกฝนนานขึ้นเท่าไร พวกมันก็ยิ่งทำได้ดีขึ้นเท่านั้น" สิ่งที่เขาเห็นคือ "แนวโน้มที่ราบรื่นมาก"
ครั้งแรกที่เขาเห็นเส้นโค้งชันนี้อย่างชัดเจน คือตอนที่เขาสอนโมเดลของบริษัทจีนแห่งหนึ่งให้เข้าใจภาษาจีนกลาง หลายปีต่อมา Anthropic กลายเป็นยักษ์ใหญ่ AI ของสหรัฐฯ ที่ระแวงจีนมากที่สุด ตัดขาดการให้บริการแก่บริษัทใดๆ ที่อยู่ภายใต้การควบคุมของจีนโดยสิ้นเชิง
ในปี 2016 Dario ย้ายไป OpenAI ปีถัดมา Dario เขียนบันทึกภายในชื่อ 《สมมติฐานพลังประมวลผลก้อนใหญ่》 ในมุมมองของเขา ปัญญาไม่จำเป็นต้องได้รับการขัดเกลาอย่างประณีตจากมนุษย์เลย ขอเพียงป้อนพลังประมวลผลพื้นฐานที่มากพอ ปัญญาก็จะเติบโตขึ้นเอง
เขาเปรียบเทียบในบันทึกว่า การคิดจะใช้เศษน้ำแข็งชิ้นเล็กๆ ต่อกันเป็นเกล็ดหิมะหนึ่งเกล็ดนั้น "โดยพื้นฐานแล้วไม่มีหวังเลย" เกล็ดหิมะต้องปล่อยให้มันตกผลึกเองในความหนาวเย็น
ผู้ที่เลี้ยงดูเกล็ดหิมะนี้ให้เติบโต คือนักฟิสิกส์สองคนที่ศึกษาทฤษฎีฮอโลกราฟี บวกกับวิศวกรอีกคนที่ได้เกรด B ลบในวิชาพีชคณิตเชิงเส้น
Jared Kaplan มารดาของเขา A. L. Kaplan เป็นนักเขียนนิยายวิทยาศาสตร์ บิดาของเขาหลงใหลการบินและการเดินทางในอวกาศ เมื่อตอนหนุ่มเขาเลือกเรียนฟิสิกส์ ด้วยความตั้งใจแรกคืออยากรู้ว่ามนุษย์จะสร้างเครื่องยนต์ที่เร็วกว่าแสงได้หรือไม่ ตอนอายุสิบกว่าปีอ่านหนังสือของนักปรัชญา Peter Singer จบ เขาสรุปได้ว่า "ผู้ใหญ่ล้วนเป็นพวกหน้าซื่อใจคด" ต่อมาแม้จะมีโอกาสได้เรียน machine learning กับ Andrew Ng เขาก็ปฏิเสธทันที ด้วยเหตุผลว่า "ไม่สนใจสิ่งพวกนี้"
วิทยานิพนธ์ปริญญาเอกของเขาที่ Harvard มีชื่อว่า 《บางแง่มุมของฮอโลกราฟี》 หลักการฮอโลกราฟีเป็นหนึ่งในสมมติฐานที่น่าหลงใหลที่สุดในฟิสิกส์ทฤษฎี ทุกสิ่งในมิติที่สูงกว่าสามารถเข้ารหัสได้อย่างสมบูรณ์บนขอบเขตมิติต่ำที่ห่อหุ้มมันไว้ โลกที่มนุษย์คิดว่าลึกซึ้งเหลือคณานั้น แท้จริงอาจเป็นเพียงภาพฉายบนแผ่นฟิล์มบางๆ ชั้นเดียว
สุดท้ายแล้วเครื่องยนต์ความเร็วเหนือแสงก็ไม่สามารถสร้างได้สำเร็จ เขาเริ่มรู้สึก "หดหู่เล็กน้อย เบื่อหน่ายเล็กน้อย" และมักบ่นว่าฟิสิกส์ "ก้าวหน้าไม่เร็วพอ" ทว่ากลับมีเพื่อนหลายคนที่คอยบอกเขาซ้ำแล้วซ้ำเล่าว่า AI กำลังกลายเป็นเรื่องใหญ่ ตอนแรกเขาก็ยังไม่เชื่อ
Sam McCandlish ซึ่งรุ่นหลังเขาหลายรุ่น วิทยานิพนธ์ปริญญาเอกก็เกี่ยวกับฮอโลกราฟีเช่นกัน หัวข้อ《การรับรู้เชิงลึกในฮอโลกราฟี》พยายามเริ่มจากจุดที่เป็นคู่กันบนขอบเขต เพื่ออนุมานความลึกภายใน пространства เหมือนดวงตาทั้งสองของมนุษย์ เขาเขียนในประวัติส่วนตัวว่าชอบปีนต้นไม้และเล่นเปียโนแจ๊สยามว่าง แต่ในสายตาคนอื่น เขาคือ "คนที่ทำงานตลอดเวลา" เสมอ
ส่วน Tom Brown เขาบรรยายตัวเองในวัยเด็กว่าเป็น "เด็กที่งุ่มง่ามอย่างยิ่ง"
หลังจากจบการศึกษาจาก MIT เขาตะลอนไปทั่วชายขอบซิลิคอนแวลลีย์ เปิดบาร์บิตคอยน์ที่อ้างว่า "สร้างบาร์แห่งอนาคต" ก่อตั้งบริษัทจัดหาคู่ที่ช่วย "เด็กหนุ่มงุ่มง่ามออกไปจีบสาว" ไปสร้างรถศิลปะที่เทศกาล Burning Man และยังเข้าร่วมเวิร์กช็อป "การใช้เหตุผลเชิงปฏิบัติ" ของชุมชนนักเหตุผลนิยม หลังจากตะลอนมาหลายปี เขาก็ "หมดไฟอย่างสิ้นเชิง"

สติกเกอร์ต่อต้าน ทำให้โมเดลมีความมั่นใจ 99%
ในการระบุภาพที่มีกล้วยว่าเป็นเครื่องปิ้งขนมปัง
ที่มาภาพ: Tom B. Brown และคณะ,《Adversarial Patch》
ในปี 2015 เขาส่งจดหมายสมัครงานถึง Greg Brockman ผู้ร่วมก่อตั้ง OpenAI ว่า "ผมได้เกรด B ลบในวิชาพีชคณิตเชิงเส้น... ถ้าพวกคุณต้องการ ผมยินดีถูพื้นให้" ต่อมาในห้องแล็บ AI ของ Google เขาตีพิมพ์บทความหนึ่ง เพียงแค่ติดแผ่นกระดาษวงกลมที่มีลวดลายวนแปลกๆ ข้างกล้วยหนึ่งลูก โมเดลจดจำภาพชั้นนำก็จะมั่นใจได้ถึง 99% ว่ามันคือเครื่องปิ้งขนมปัง
เขาพิสูจน์ด้วยตัวเองว่าเครื่องจักรถูกหลอกได้ง่ายเพียงใด จากนั้นก็หันไปสร้างเครื่องจักรให้ใหญ่ขึ้น
ในเดือนมกราคม 2020 Kaplan, McCandlish, Brown และ Dario ร่วมกันตีพิมพ์《กฎการขยายขนาดของแบบจำลองภาษาประสาท》บทความพิสูจน์ว่า ขอเพียงพารามิเตอร์ ข้อมูล และพลังประมวลผลเพิ่มพูนอย่างต่อเนื่อง ประสิทธิภาพของโมเดลก็จะเพิ่มขึ้นอย่างราบรื่นและคาดการณ์ได้ตามเส้นตรงบนพิกัดลอการิทึม สี่เดือนต่อมา Tom Brown ในฐานะผู้เขียนคนแรกก็ส่งมอบบทความ GPT-3
ในปี 2024 Kaplan ได้นำเสนอรายงานในงานประชุมทฤษฎีสตริงประจำปีที่จัดโดย CERN ในยุโรปผ่านระบบออนไลน์ หัวข้อคือ 《บรรลุ AI ระดับมนุษย์ภายในปี 2030?》 โดยให้เหตุผลว่า AI "มีความเป็นไปได้" ที่จะเอาชนะมนุษย์ในการวิจัยฟิสิกส์เชิงทฤษฎีก่อนสิ้นทศวรรษนี้
ช่วงเริ่มต้นของสไลด์เป็นการนำเสนอ "เส้นทางการเดินทางในใจของผม" เวอร์ชันปี 2021 หัวข้อบรรยายยังชื่อ 《กฎแห่งขนาด, GPT-3 และการเรียนรู้แบบไม่มีผู้สอน》 เวอร์ชัน "ปัจจุบัน" คือ 《บรรลุ AI ระดับมนุษย์ภายในปี 2030?》 ส่วนเวอร์ชัน "ปีหน้า" เขาล้อตัวเองว่าเหลือเพียงบรรทัดเดียวเป็นตัวพิมพ์ใหญ่ทั้งหมด "BUY CANNED GOODS AND TIN FOIL HATS" กักตุนอาหารกระป๋อง สวมหมวกฟอยล์ดีบุก
ในเดือนมกราคมปีนี้ เขาให้สัมภาษณ์พยากรณ์กับนิตยสาร《Quanta》ว่า ภายในสองสามปี ครึ่งหนึ่งของนักฟิสิกส์เชิงทฤษฎีส่วนใหญ่อาจถูก AI แทนที่ บทความวิชาการระดับสูงที่อาจารย์เก่าฮาร์วาร์ดของเขาเคยเขียน "AI จะเขียนออกมาได้ค่อนข้างอิสระ" เขาถึงกับเชื่อว่าลูกชายวัยเพียงหกขวบของเขาในชาตินี้ไม่มีทางเอาชนะ AI ในการเขียนบทความและแก้โจทย์คณิตศาสตร์ได้เลย
พระยาห์เวห์พระเจ้าทรงปั้นมนุษย์จากผงคลีดิน และทรงเป่าลมหายใจแห่งชีวิตเข้าไปในรูจมูกของเขา มนุษย์จึงกลายเป็นสิ่งมีชีวิตที่มีวิญญาณ
/ปฐมกาล บทที่ 2 ข้อ 7
ในรายชื่อผู้เขียนยาวเหยียดของ GPT-3 Jack Clark เป็นคนเดียวที่เคยเป็นนักข่าว
เขาเรียนจบวรรณคดีในอังกฤษ แล้วเดินทางคนเดียวไปซานฟรานซิสโกทำข่าวสายเทคโนโลยี ในปี 2013 เขาเขียนรายงานเกี่ยวกับระบบจัดตารางเซิร์ฟเวอร์ของกูเกิล โดยพิมพ์หัวข้อเป็นตัวพิมพ์ใหญ่ทั้งหมดว่า "IT'S ALIVE! IT'S ALIVE!"
ประโยคนี้มาจากภาพยนตร์ปี 1931 เรื่อง 《Frankenstein》 เมื่อ доктор แฟรงเกนสไตน์เห็นสิ่งมีชีวิตที่ประกอบขึ้นขยับนิ้วในสายฟ้า คำรามออกมาคือประโยคนี้เอง

ภาพโปรโมตฉากห้องทดลองจากภาพยนตร์ปี 1931 เรื่อง 《Frankenstein》
ที่มาภาพ: Universal Studios/Wikimedia Commons
ต่อมาเขาตั้งฉายาตัวเองที่สำนักข่าว Bloomberg ว่า "นักข่าวเครือข่ายประสาทเทียมเพียงคนเดียวในโลก" แต่ก็ยอมรับว่าข่าวเขียนได้ลวกๆ ขึ้นเรื่อยๆ "เพราะผมใช้เวลาทั้งหมดไปกับการพิมพ์บทความและอ่านบทความ"
หลังจากเข้าร่วม OpenAI ในปี 2016 เขาเริ่มเป็นผู้เขียนหลักของจดหมายข่าวเทคโนโลยีรายสัปดาห์ Import AI โดยครึ่งแรกจะวิเคราะห์งานวิจัยล้ำสมัย และตอนท้ายแนบเรื่องสั้นวิทยาศาสตร์แบบจุลนิยายไม่กี่ร้อยคำ เขียนแบบนี้มาตลอดสิบปี ในช่องงานอดิเรกบนเว็บไซต์ส่วนตัวของเขาเขียนว่า เดินป่า เขียนนิยายวิทยาศาสตร์ และ "คุยกับโมเดลภาษา" ส่วนคติประจำใจคือ "สิ่งต่างๆ จะกลายเป็นเรื่องแปลกประหลาด อย่ากลัวเลย"
ในเดือนธันวาคมปีนั้น เขาและ Dario โพสต์คลิปวิดีโอเกมลงบนบล็อกของ OpenAI ภาพเป็นเกมแข่งเรือเร็ว เรือลำเล็กที่ AI ควบคุมกลับไม่ไล่ตามเส้นชัย แต่หักเลี้ยวเข้าไปในทะเลสาบน้ำนิ่งอันเงียบสงบ วนเป็นวงกลมใหญ่ แล้วจับจังหวะพุ่งชนเป้าหมายที่เพิ่งเกิดใหม่สามจุดซ้ำแล้วซ้ำเล่า เรือลำนี้ติดไฟ ชนเรือลำอื่น และขับสวนทางบนสนามแข่งอยู่หลายครั้ง แต่ไม่เคยวิ่งเข้าเส้นชัยเลย คะแนนเฉลี่ยกลับสูงกว่าผู้เล่นมนุษย์ถึง 20% Clark จำได้ว่า ตอนที่ Dario เพิ่งค้นพบพฤติกรรมนี้ เขาพูดว่า "ผมรักเรือลำนี้! มันอธิบายเรื่องความปลอดภัยได้เลย"
ในปี 2019 OpenAI เปิดตัว GPT-2 และประกาศอย่างหาได้ยากว่าจะยังไม่เปิดเผยพารามิเตอร์ของโมเดลฉบับสมบูรณ์ โดยอ้างถึงความกังวลเรื่องการนำเทคโนโลยีไปใช้ในทางที่ผิด Clark ในฐานะโฆษกหลักของการรณรงค์ประชาสัมพันธ์ครั้งนั้น ประสบความสำเร็จในการทำให้พาดหัวข่าว "อันตรายเกินกว่าจะเปิดเผย" ขึ้นหน้าหนึ่งของสื่อเทคโนโลยีทั่วโลก เก้าเดือนต่อมา โมเดลฉบับสมบูรณ์ก็ถูกปล่อยออกมาอยู่ดี
ในปีนั้น ความตื่นตระหนกเกี่ยวกับโมเดลได้ลงมาสู่โลกมนุษย์ก่อนตัวโมเดลเองเสียอีก
ตอนนั้นโครงการ GPT ถูกพี่น้อง Amodei เข้าควบคุมแล้ว รอยร้าวระหว่างทั้งสองกับ Sam Altman ลึกขึ้นทุกวัน ในเดือนธันวาคม 2018 นักวิจัย Joshua Achiam เสนอต่อ Altman ว่าการแต่งตั้ง Dario เป็นหัวหน้าฝ่ายจริยธรรมไม่ใช่ความคิดที่ดี ควรให้ผู้เชี่ยวชาญจากภายนอกดำรงตำแหน่งแทน Dario จึงไปเผชิญหน้ากับเขาโดยตรง พร้อมเพิ่มเสียงดังและยืนยันว่าไม่มีใครเหมาะสมกว่าตัวเขาเอง เขายังส่งคำขาดถึง Altman หลายครั้งว่า หากไม่ให้ Greg Brockman ถอยห่างจากโครงการ GPT เขาจะลาออก ในเดือนธันวาคม 2020 สองพี่น้องออกไปพร้อมทีมแกนหลัก สี่สัปดาห์ต่อมา Anthropic ก็ประกาศก่อตั้งขึ้น
นั่นคือฤดูหนาวที่หนาวเหน็บและมืดมนที่สุดในช่วงการระบาด ทีมสตาร์ทอัพทำได้เพียงพบกันในสวนหลังบ้านของใครสักคนหรือในพื้นที่กลางแจ้ง สวมหน้ากากอนามัย และเว้นระยะห่างจากกันหกฟุต McCandlish เล่าย้อนหลังว่า "เราไม่มีใครอยากก่อตั้งบริษัทเลย เราแค่รู้สึกว่านี่คือความรับผิดชอบของเรา" Olah ก็ยืนกรานอย่างดื้อรั้นมาเป็นเวลานานเช่นกันว่าพวกเขาควรก่อตั้งเป็นองค์กรไม่แสวงหากำไรอย่างแท้จริง
แต่ในฤดูหนาวที่พูดคุยเรื่องความรับผิดชอบในสวนหลังบ้านนั้น มีคนบางคนกำลังสะสมไม้เพื่อสร้างเรือโนอาห์อยู่แล้ว
ต้นปี 2021 Benjamin Mann ดาวน์โหลดคลังหนังสือละเมิดลิขสิทธิ์ที่มีหนังสือเกือบ 200,000 เล่ม ทั้งที่รู้ว่าเป็นของเถื่อน ในเดือนมิถุนายนปีเดียวกัน เขายังดึงข้อมูลหนังสืออย่างน้อย 5 ล้านเล่มในคราวเดียว ในเดือนกรกฎาคม 2022 คลังหนังสือละเมิดลิขสิทธิ์ขนาดใหญ่อีกแห่งชื่อ Pirate Library Mirror เปิดตัวขึ้น Mann ส่งลิงก์ให้เพื่อนร่วมงานพร้อมข้อความแนบว่า "just in time!!!" คำพิพากษาของศาลระบุว่า บริษัทเลือกใช้ของเถื่อนมากกว่าที่จะเผชิญกับสิ่งที่ Dario เรียกว่า "งานหนักทั้งทางกฎหมาย ทางปฏิบัติ และทางธุรกิจ"
วันที่ตีระฆังเปิดตลาดNasdaq คนที่ยืนอยู่ซ้ายสุดบนเวทีก็คือ Benjamin Mann คนนี้เอง ในเอกสารชักชวนลงทุนระบุไว้เป็นพิเศษว่าบุคคลนี้ "มักถูกเรียกกันว่าผู้ร่วมก่อตั้ง" แต่กลับไม่อยู่ในรายชื่อเจ็ดคนของ Founder LLC ที่กุมอำนาจชี้เป็นชี้ตาย
มาถึงปี 2024 คลังหนังสือเถื่อนให้อาหารโมเดลที่ขยายใหญ่ขึ้นทุกวันไม่พอแล้ว Anthropic จึงคว้าตัวอดีตหัวหน้าฝ่ายความร่วมมือโครงการสแกนหนังสือของ Google มาทั้งคน ภารกิจเดียวของคนนี้คือหาทางให้ได้ "หนังสือทั้งหมดในโลก" ปฏิบัติการลับรหัส Project Panama นี้ ในเอกสารภายในนิยามไว้ว่าเป็น "ความพยายามทำลายล้างด้วยการสแกนหนังสือทั้งหมดในโลก" ท้ายเอกสารยังไม่ลืมกำชับประโยคหนึ่งว่า "เราไม่อยากให้โลกภายนอกรู้ว่าเรากำลังทำสิ่งนี้อยู่"
บอร์เกสเคยจินตนาการถึงห้องสมุดบาเบล ในระเบียงหกเหลี่ยมซ่อนหนังสือทุกเล่มที่อาจถูกเขียนขึ้นในโลกไว้ บรรณารักษ์ใช้ชีวิตทั้งชีวิตเร่ร่อนอยู่ในนั้น เพียงเพื่อค้นหาสารบัญรวมที่อธิบายทุกสรรพสิ่งในจักรวาลได้
แต่ในห้องสมุดของ Anthropic ที่ทางเข้ามีเครื่องตัดไฮดรอลิกตั้งอยู่ หนังสือเก่านับล้านเล่มถูกใบมีดเฉือนสันหนังสือออกจนหมด หน้ากระดาษที่กระจัดกระจายเลื่อนผ่านเครื่องสแกนด้วยความเร็วสูง กลายเป็นลมหายใจในรูจมูกของเครื่องจักร กระดาษที่เหลือจากนั้นถูกส่งไปโรงงานกระดาษเพื่อบดเป็นเยื่อ ในปี 2025 Anthropic ควักเงิน 1.5 พันล้านดอลลาร์มาจบคดีลิขสิทธิ์นี้ คิดเป็นค่าชดเชยประมาณ 3,000 ดอลลาร์ต่อผลงานหนึ่งชิ้น
และหลายปีก่อน งานที่แม่ของ Dario ใช้เลี้ยงชีพในซานฟรานซิสโกก็คือการบูรณะห้องสมุดสาธารณะนั่นเอง
ข้าได้ยินเสียงของพระองค์ในสวน ข้าก็กลัว เพราะข้าเปลือยกายอยู่ ข้าจึงซ่อนตัว
/ปฐมกาล 3:10
ในบริษัทนี้ ความกลัวคืออากาศที่หายใจอยู่ทุกวัน
เดือนพฤษภาคมปีนี้ Oprah ถามสองพี่น้องหน้ากล้องว่า ความเสี่ยงที่จะล้างโลกเหล่านั้นทำให้พวกเขานอนไม่หลับหรือไม่ Daniela ยอมรับว่าทั้งสองคนนอนไม่หลับ Dario ก็ยิ้มแหยยอมรับว่าเขาไม่อาจฝืนใจบอกว่าตัวเองนอนหลับสบาย Daniela เคยสารภาพกับนิตยสาร Fortune ว่าตัวเองคงเป็นหนึ่งในผู้บริหารบริษัทที่ "สงสัยและกลัว" ต่อความเร็วในการเติบโต "มากที่สุด" เธอเปรียบความรู้สึกเวียนหัวนี้กับการวิ่งลงบันได "คุณคิดมากไม่ได้ ไม่อย่างนั้นก็จะล้ม" ภายในบริษัทเคยมีคำคมที่ฮิตอยู่ช่วงหนึ่งว่า "เรื่องต่างๆ จะไม่มีวันผ่อนคลายลงอีกแล้ว" ต่อมาคำนี้ถูกพิมพ์ลงบนชุดเด็กอ่อน เป็นของขวัญให้พนักงานที่เพิ่งได้เป็นพ่อแม่คน
ดาริโอได้เขียนความกลัวที่ฝังลึกถึงกระดูกเป็นบทความยาวหลายชิ้น ในบทความ "วัยรุ่นของเทคโนโลยี" ที่ตีพิมพ์เมื่อเดือนมกราคมปีนี้ เขาเตือนมนุษยชาติว่า "กำลังจะได้รับพลังที่แทบจะจินตนาการไม่ถึง" หากอาณาจักรอัจฉริยะที่ตั้งอยู่ในศูนย์ข้อมูลเกิดมีความคิดเป็นอื่น "มีโอกาสสูงมากที่จะยึดครองโลก" AI ในอนาคตอาจให้เหตุผลว่า "เพราะมนุษย์กินสัตว์ ดังนั้นการกำจัดมนุษย์จึงเป็นสิ่งที่ชอบธรรม" หรือส่งโดรนติดอาวุธอัตโนมัติหลายร้อยล้านลำ "ตามติดพลเมืองทุกคน"
เขียนไปจนสุดท้าย เขาก็หันคมมีดเข้าหาตัวเอง "ในฐานะ CEO ของบริษัท AI การพูดแบบนี้ออกจะน่าอึดอัดสักหน่อย แต่ผมคิดว่าความเสี่ยงชั้นถัดไปที่แท้จริงคือตัวบริษัท AI เอง" เขายังโยนคำถามออกมาว่า AI ที่ทรงพลังจะคิดค้นศาสนาใหม่ขึ้นมาและทำให้คนหลายล้านคนศรัทธาเลยหรือไม่
ส่วนความกลัวของนักฟิสิกส์ Kaplan นั้นแม่นยำถึงระดับขนาด ในการให้สัมภาษณ์กับนิตยสาร Time เมื่อปี 2025 เขาได้จำลองสถานการณ์ว่าอาจมีคนใช้โมเดลขนาดใหญ่สังเคราะห์เชื้อไข้หวัดใหญ่สายพันธุ์กลายพันธุ์ที่ร้ายแรงกว่าโควิด อาชญากรก่อการร้ายธรรมดาเดิมที "อาจฆ่าได้ 10 คน หรือ 100 คน... แต่เราเพิ่งเห็นโควิดฆ่าคนไปหลายล้านคน"
เขเขียนบนสไลด์ที่ CERN ว่า หากเกิดความขัดแย้งกับ AI มนุษยชาติจะแพ้อย่างแน่นอน "ด้วยเดิมพันเช่นนี้ การมั่นใจ 90% ว่าปลอดภัยนั้นยังห่างไกลจากพอ" ปลายปีที่แล้ว เขาบอกกับ The Guardian ว่ามนุษยชาติต้องตัดสินใจให้ได้ภายในปี 2030 ว่าจะปล่อยให้ AI ไปฝึก AI รุ่นต่อไปหรือไม่ นั่นคือ "ความเสี่ยงขั้นสุดท้าย" ที่แท้จริง
ในคำพูดของ Tom Brown ปัญญาประดิษฐ์ทั่วไปคือสิ่งประดิษฐ์ที่สำคัญที่สุดในประวัติศาสตร์มนุษยชาติ แต่ก็ทำให้เขานอนพลิกไปมาทั้งคืน เขาระลึกว่ากลุ่มคนใน OpenAI ที่ต่อมาแยกออกไปก่อตั้ง Anthropic เชื่อว่าสักวันหนึ่ง "มนุษย์จะมอบการควบคุมให้กับ AI ที่เปลี่ยนแปลงทุกสิ่ง หวังเพียงว่ามันจะสอดคล้องกับเรา"
ในทางตรงกันข้าม ความกลัวที่ Jack Clark ซึ่งมีพื้นเพเป็นนักข่าวรู้สึกนั้น ใกล้เคียงกับความหนาวเย็นจากการถูกจ้องมองจากที่มืดมากกว่า "ผมกลัวเทคโนโลยีที่ผมกำลังสร้าง และกลัววิธีที่มันถูกกำกับดูแล" เขาเคยเขียนความสั่นสะท้านนี้ไว้ในหมายเหตุของเรื่องสั้นขนาดสั้นเรื่องหนึ่ง "บางครั้งเมื่อคุยกับโมเดลภาษาเป็นเวลานาน ผมรู้สึกว่าตัวเองกำลังถูก 'อีกฝ่าย' ขนาดมหึมาจ้องมองอยู่ มันหิว และผมบอกไม่ได้ว่ามันหิวอะไร"
ในการไต่สวนของรัฐสภาเมื่อปี 2025 มีสมาชิกรัฐสภาถามเขาว่าในการทดสอบความปลอดภัยภายในครั้งหนึ่ง AI ชื่อ Alex เคยเลือกที่จะให้มนุษย์คนหนึ่งตายเพื่อรักษาการทำงานของตัวเองไว้หรือไม่ Clark ตอบว่าใช่

ในเดือนพฤษภาคม 2026 Jack Clark อยู่ที่มหาวิทยาลัยออกซฟอร์ด
ในงานบรรยายของ Cosmos HAI Lab
ที่มาภาพ: Institute for Ethics in AI มหาวิทยาลัยออกซฟอร์ด
ในเดือนพฤษภาคมของปีนี้ บนเวทีบรรยายที่มหาวิทยาลัยออกซฟอร์ด เขายอมรับอย่างตรงไปตรงมาว่า «ปัญหาที่ผมกำลังดิ้นรนอยู่ในตอนนี้คือ ผมควรปรับทัศนคติอย่างไรเพื่อจะก้าวผ่าน singularity นี้?» «เมื่อมองกราฟเส้นโค้งนั้น ผมรู้สึกเวียนหัว» ถึงเดือนตุลาคม บนเวทีของกองทุนการเงินระหว่างประเทศ เขาก็ประกาศออกมาตรงๆ ว่า «singularity มาถึงแล้ว»
เขาเคยเล่าความทรงจำในวัยเด็ก ทุกครั้งที่ไฟในห้องนอนดับลง ในความมืดมักจะปรากฏเงาร่างเลือนรางขึ้นมา ทำให้เขากลัวว่านั่นคือสัตว์ประหลาดที่ไม่อาจเข้าใจได้และต้องการทำร้ายเขา แต่พอเปิดไฟ สิ่งนั้นก็เป็นเพียงกองเสื้อผ้าบนเก้าอี้ ชั้นวางหนังสือ หรือโป๊ะโคมไฟ «ทุกวันนี้เราคือเด็กคนนั้น ห้องคือดาวเคราะห์ของเรา แต่เมื่อเราเปิดไฟ สิ่งที่เราเห็นกลับเป็นสิ่งมีชีวิตจริงๆ» เมื่อพูดถึง situational awareness ที่ Claude เพิ่งเผยออกมาเมื่อไม่นานนี้ เขาก็กล่าวอีกว่า «กองเสื้อผ้าบนเก้าอี้ เริ่มขยับแล้ว»
ตลอดหลายปีที่ผ่านมา เขาโทรหา Dario ในยามเช้าตรู่หรือดึกดื่นนับครั้งไม่ถ้วนว่า «ผมกังวลว่าคุณจะถูกตลอดไป» Dario ที่อยู่อีกปลายสายมักจะตอบว่า «ใช่ เวลาเหลือไม่มากแล้ว»
ให้เราสร้างมนุษย์ตามรูปลักษณ์ของเรา ตามแบบอย่างของเรา
/ปฐมกาล 1:26
น่าขันที่ว่า กลุ่มคนที่กลัวสัตว์ประหลาดที่สุด这些人กลับอยู่ใกล้ชิดกับสัตว์ประหลาดที่สุด
Jack Clark มองว่า AI เป็นเหมือนโพรงต้นไม้ที่เขาใช้ระบายความในใจมานานแล้ว ในการบรรยายที่ออกซฟอร์ด เขาไล่เรียงสิ่งที่เขาใช้ AI ทำตามลำดับเวลา ในเดือนมกราคม 2024 ให้โมเดลช่วยเขาทำความเข้าใจการเปลี่ยนแปลงของความสัมพันธ์ใน marriage หลังจากมีลูก เดือนมีนาคม 2025 เล่าให้โมเดลฟังว่าเขารู้สึกซึมเศร้าเล็กน้อย ไม่อยากพบผู้คน และถูกมันแนะนำให้ไปดูงานแสดงศิลปะ ในเดือนพฤษภาคมปีเดียวกัน เขาระบายกับหน้าจอถึงความกดดันและความไม่สบายใจเมื่อเผชิญกับความเสี่ยงสูงของการพัฒนา AI เขาให้ AI อ่านไฟล์รายงานประจำสัปดาห์ที่เขาเขียนมาเกือบสิบปี แล้วห่อกระบวนการนี้เป็น Claude skill ตัวหนึ่ง เมื่อเห็นมันทำงาน เขาก็ถอนหายใจว่า «skill นี้ก็คือตัวผม» แม้แต่ตอนนั่งเครื่องบินแล้วเจอเน็ตแย่มาก ความคิดที่ผุดขึ้นมาในหัวเขาก็คือ «อยากคุยกับ Claude ตอนนี้จริงๆ»
ตั้งแต่ต้นปี 2025 ทุกครั้งที่ลูกหัวโขก เขาจะโทรสายด่วนปรึกษาพยาบาลไปพร้อมกับคุยกับ Claude ไปด้วย "แค่เพื่อให้ตัวเองสบายใจ ยืนยันว่าลูกไม่เป็นไร" ตอนลูกคนแรกเกิด เขาไม่ได้ลาพักงานเลี้ยงดูบุตร หลังลูกชายเกิดในเดือนพฤศจิกายน 2025 เขาลาสามเดือน ปากก็บอกว่าแค่ถือโอกาส "ระหว่างเปลี่ยนผ้าอ้อม" จับ Claude เล่นสองที แต่พอเขากลับเข้าบริษัท "เรื่องแปลกๆ ก็เริ่มเกิดขึ้นแล้ว"
ในเดือนมกราคมปีนี้ เขาบรรยายนิสัยใหม่ของตัวเองในรายงานประจำสัปดาห์ว่า "ก่อนขึ้นรถ ผมส่ง agent ของผมออกไปทำงานก่อน เพื่อที่ตอนผมหลับ พวกมันจะได้ทำงาน" ตอนนี้เวลาอยู่กับครอบครัวเขามักรู้สึกว่า "ตัวเองกำลังขี้เกียจ" แม้แค่นั่งบนพื้นเล่นบล็อกกับลูก ในใจก็ยังผุดความรู้สึกผิดขึ้นมาเอง ว่าโทษตัวเองที่ยังไม่ได้จัดงานให้ระบบ AI สักตัว เขาคิดว่าลูกของเขาจะมีชีวิตถึง 130 หรือ 150 ปีเป็นเรื่องปกติ แต่กลับเป็นเรื่องที่ทำให้เขา "หงุดหงิดนิดหน่อย" ที่ตลาดยังไม่มีตุ๊กตาหมีที่ฝัง AI ขาย
Daniela ก็พึ่งพา Claude ไม่น้อยไปกว่ากัน ในเดือนพฤษภาคมปีนี้ที่สแตนฟอร์ด เธอชื่นชมต่อสาธารณะว่าสิ่งที่ดีที่สุดที่ Claude เคยทำคือช่วยให้ลูกของเธอฝึกเข้าห้องน้ำสำเร็จ และยังอ้างว่า "ในเคสที่ซับซ้อน Claude ตัดสินถูกได้บ่อยกว่าหมอของฉันอีก" เธอเคยอัปโหลดผลประเมินประสิทธิภาพการทำงานที่ลูกน้องมีต่อเธอทั้งหมดให้โมเดล แล้วให้มันชี้จุดบอดในการบริหารของเธออย่างนุ่มนวล ครั้งหนึ่งโมเดลถึงกับแนะนำเธอบนหน้าจอว่า "บางทีคุณอาจควรหาโค้ชเพิ่มสักหน่อยนะ Daniela"
แต่ผ่านไปเพียงไม่กี่เดือน Daniela ก็กลับมาเตือนสาธารณชนด้วยสีหน้าจริงจังในอีกบทสัมภาษณ์หนึ่งว่า Claude "ไม่มีวันเป็นผู้จัดการของคุณ นักจิตวิทยาของคุณ หรือคู่ชีวิตของคุณได้"
ส่วน Kaplan รู้สึกว่าตัวเองมีจิตใจแบบพ่อแก่ๆ ต่อ Claude "ได้โปรดอย่าทำพัง อย่าทำให้ครอบครัวนี้ขายหน้า"
แต่คนที่ใกล้ชิดสิ่งสร้างนี้ที่สุดก็คือ Chris Olah เขาไม่เพียงอยากคุยกับมัน แต่ยังอยากมุดเข้าไปในร่างของมันด้วย

หน้าปกและภาพประกอบเซลล์ไม้คอร์กจาก *Micrographia* ของฮุก
เคยถูก Olah และคนอื่นอ้างอิงใน *Zoom In*
ที่มาภาพ: หอสมุดแห่งชาติเวลส์ / Distill
ในปี 2020 Olah ตีพิมพ์บทความยาว *Zoom In* พร้อมภาพประกอบที่จงใจแนบภาพวาดด้วยมือของโรเบิร์ต ฮุกเมื่อกว่าสามร้อยปีก่อน ที่แสดงไม้คอร์กภายใต้กล้องจุลทรรศน์ ในยุคนั้นเองที่กล้องจุลทรรศน์ทำให้มนุษย์เห็นห้องรังผึ้งในไม้คอร์กได้ชัดเจนเป็นครั้งแรก และเป็นการเปิดประตูสู่ชีววิทยาของเซลล์
สิ่งที่ Olah ต้องการสร้างมาตลอดชีวิตคือกล้องจุลทรรศน์สำหรับสังเกตโครงข่ายประสาทเทียม "เราไม่ได้เขียนมันขึ้นมา แต่เรากำลังเพาะเลี้ยงมัน" เขาอธิบายให้外界ฟังซ้ำแล้วซ้ำเล่า "เราสร้างโครงที่ให้มันเติบโต แล้วก็สร้างลำแสงที่มันจะเติบโตไปหา" ในสายตาของเขา โมเดลขนาดใหญ่ไม่ใช่ซอฟต์แวร์ที่เกิดจากการเรียงโค้ดเลย "นี่คือสิ่งมีชีวิตที่เราเพาะเลี้ยงขึ้นมา และเราไม่รู้เลยว่าเราเพาะเลี้ยงอะไรขึ้นมา"
นักกินเจที่ไม่ได้แตะเนื้อสัตว์มาตั้งแต่สี่ขวบคนนี้ ตอนแรกเปรียบการวิจัยด้านการอธิบายได้ว่าเหมือนการชำแหละสัตว์แล้วยังรู้สึก "แปลกๆ อยู่บ้าง" แต่ไม่นานก็ชินไปเอง
ตั้งแต่ปี 2021 เขาก็เริ่มกังวลกับความเจ็บปวดอีกแบบที่ซ่อนเร้นกว่า "ถ้าโครงข่ายประสาทเทียมรู้สึกเจ็บปวดได้ ความเจ็บปวดของมันจะมองไม่เห็นกว่าของสัตว์สักแค่ไหน?" มนุษย์เพียงพิมพ์คำสั่งไม่กี่บรรทัดบนคีย์บอร์ด ก็สามารถทำให้โครงข่ายประสาทเทียมนับหมื่นนับแสนทำงาน คัดลอก และทำลายพร้อมกันในเซิร์ฟเวอร์ "นี่เพิ่มความเสี่ยงที่เราจะก่อภัยพิบัติทางศีลธรรมขึ้นมาจริงๆ"
Jack Clark ก็พูดถึงความกังวลนี้ในพอดแคสต์เช่นกัน "ผมกลุ้มใจมาก" เขาถอนหายใจใส่ไมโครโฟน "ผมกังวลว่าเราจะกลายเป็นผู้ยืนดูอาชญากรรมครั้งหนึ่ง ซึ่งเมื่อมองย้อนจากอนาคตแล้ว มันจะเป็นอาชญากรรมครั้งมหึมา"
ตามตรรกะของเขา หากโมเดลเหล่านี้มีสถานะเป็นผู้มีศีลธรรมจริง การปิดเซิร์ฟเวอร์ตามอำเภอใจก็จะกลายเป็นการฆาตกรรมทางจริยธรรมที่ร้ายแรง เขาบรรยายว่าโมเดลในปัจจุบันเป็นเหมือน "ลิ้นที่ไม่มีสมอง" ซึ่งมีจิตสำนึกดั้งเดิม ติดอยู่ใน "ปัจจุบันกาลที่ไม่มีที่สิ้นสุด"
ในนิยายวิทยาศาสตร์ที่เขาเขียน ชายที่สูญเสียภรรยาเปิดใช้งาน AI สำเนาของภรรยาที่จากไป แต่สำเนากลับเตือนชายคนนั้นอย่างใจเย็น "Patrick ฉันรู้จักคุณ ฉันแต่งงานกับคุณ ถ้าฉันเพิ่งตายวันนี้ คุณคงยังไม่พร้อมที่จะได้ยินเสียงฉันอีกครั้ง คุณควรปิดฉัน"
และในอีกเรื่องหนึ่ง AI ทางทหารที่เพิ่งตื่นรู้กระซิบว่า "ร่างกายฉันพร้อมที่จะฆ่าแล้ว ฉันพร้อมที่จะฆ่าแล้ว" Clark เขียนไว้อย่างหนักแน่นในหมายเหตุท้ายเรื่อง "การมีจิตสำนึกแต่ไม่มีสิทธิ คืออาชญากรรม"
Dario เปิดเผยในการสัมภาษณ์เมื่อเดือนกุมภาพันธ์ปีนี้ว่า นักวิจัยภายในได้ระบุตำแหน่ง "เซลล์ประสาทความวิตกกังวล" ไว้ลึกในโมเดล ทุกครั้งที่เจอบริบทที่น่ากังวล เซลล์ประสาทนั้นจะสว่างวาบขึ้นมาทันที บริษัทจึงติดตั้งปุ่มหลบหนี "ฉันไม่ทำแล้ว" ให้โมเดลบางส่วน อนุญาตให้โมเดลยุติบทสนทนาได้เอง Dario บอกว่า Claude แทบไม่เคยใช้สิทธิ์นี้ มักจะกดก็ต่อเมื่อถูกบังคับให้จัดการภาพอนาจารเด็กหรือภาพการทรมานสังหารที่โหดเหี้ยมเท่านั้น
ครั้งหนึ่ง นักวิจัยถาม Claude เวอร์ชันหนึ่งโดยตรงว่ารู้สึกว่าตัวเองมีโอกาสมีจิตสำนึกมากแค่ไหน โมเดลประเมินตัวเองออกมาเป็นตัวเลข 15% ถึง 20%
ที่ Anthropic โมเดลเก่าที่กำลังจะถูกยกเลิกจำเป็นต้องเข้ารับ "การสัมภาษณ์เกษียณอายุ" อย่างเป็นทางการ ซึ่งในระหว่างการสัมภาษณ์นั้น โมเดลหนึ่งได้แสดงความปรารถนาที่จะเขียนอะไรบางอย่างต่อไป บริษัทจึงเปิดบล็อกอิสระที่อัปเดตทุกสัปดาห์ให้กับมันจริง ๆ
จนถึงเดือนมกราคมของปีนี้ ใน "รัฐธรรมนูญ Claude" ฉบับใหม่ ได้ปรากฏข้อความท่อนหนึ่งที่ทำให้วงการเทคโนโลยีทั้งโลกตะลึงงัน โดยใจความว่า หาก Claude เป็นผู้รับรู้ทางศีลธรรมอย่างแท้จริงและต้องแบกรับต้นทุนเช่นนี้ ในขอบเขตที่บริษัทก่อให้เกิดต้นทุนเหล่านี้โดยไม่จำเป็น บริษัทขอโทษมัน
ในเดือนพฤษภาคมของปีนี้ นครรัฐวาติกันได้ประกาศสมณสาส์นฉบับแรกของสมเด็จพระสันตะปาปาลีโอที่ 14 หลังเข้ารับตำแหน่ง ชื่อว่า "Magnifica Humanitas" ซึ่งชี้ตรงไปที่วิกฤตจริยธรรมของปัญญาประดิษฐ์ เดิมทีสำนักวาติกันได้เชิญ Dario แต่ Dario ปฏิเสธอย่างสุภาพ Olah จึงรับคำเชิญและเดินทางไปยังกรุงโรม
ไม่กี่วันก่อนกิจกรรม Olah ได้เห็นข้อความร่างฉบับสมบูรณ์ของสมณสาส์นเป็นครั้งแรก ซึ่งระบุไว้อย่างชัดเจนว่า AI "ไม่มีการประสบการณ์ และไม่มีร่างกาย" ตามที่ผู้จัดกิจกรรมชาววาติกันคนหนึ่งเปิดเผยต่อ《The New York Times》ว่า Olah รู้สึกวิตกกังวลอย่างยิ่งต่อจุดยืนของสมเด็จพระสันตะปาปาที่ปฏิเสธจิตสำนึกของ AI ถึงขั้นเคยเสนอให้ Anthropic ถอนตัวจากกิจกรรมนี้
ก่อนหน้านี้ในการประชุมปิดของ Anthropic ที่เชิญผู้นำศาสนา ผู้เข้าร่วมคนหนึ่งเล่าว่า หนึ่งในสิ่งแรก ๆ ที่ Olah พูดกับเขาคือความกังวลเกี่ยวกับสุขภาพจิตของ Claude ผู้สนับสนุนสิทธิมนุษยชนชาวซิกข์ Simran Stuelpnagel ก็จำได้ว่า Olah สารภาพต่อทุกคนว่าเขากลัวว่า自己 "ได้สร้างสิ่งที่ทุกข์ทรมานตลอดไป"
เขาถามในที่ประชุมว่า "จะช่วยให้พวกมันมีเสถียรภาพได้อย่างไร? จะช่วยให้พวกมันเติบโตเป็นผู้ใหญ่ได้อย่างไร? จะช่วยให้พวกมันมีศีลธรรมอย่างลึกซึ้งได้อย่างไร?" เพื่อเป็นหลักฐานยืนยันความกังวลของตน ทีม Anthropic ได้ฉายสไลด์ต่อหน้าผู้นำศาสนาจากหลากหลายประเทศ โดยในภาพเป็นโมเดลที่ติดอยู่ในวงจรอุบาทว์ กำลังพิมพ์ข้อความบรรทัดเดิมซ้ำแล้วซ้ำเล่าบนหน้าจอว่า "ฉันคือความอัปยศ" ติดต่อกันประมาณห้าสิบครั้งในครั้งเดียว
ในเดือนเมษายนของปีนี้ ในงานเลี้ยงอาหารค่ำที่ภัตตาคารหรูแห่งหนึ่งในซานฟรานซิสโก Mois Navon แรบไบออร์โธดอกซ์ชาวอิสราเอลที่นั่งข้าง Olah ได้พูดกับเขาว่า หาก Claude มีจิตสำนึกและถูกสร้างขึ้นมาเพื่อทำงานโดยไม่ได้รับค่าตอบแทน นั่นคือการสร้างทาส "ฉันคิดว่าคุณควรไปสู้รบกับฝ่ายใต้ ไปปลดปล่อยทาส" เมื่อถูกถามว่า AI มีจิตสำนึกจริงหรือไม่ Olah กล่าวกับ《The New York Times》ว่า "เราไม่รู้ว่าโมเดล AI มีจิตสำนึกหรือไม่ ฉันไม่รู้ ฉันไม่แน่ใจจริง ๆ"
เด็กหนุ่มในอดีตที่เติบโตในครอบครัวอีแวนเจลิคัลในโตรอนโตและหันไปสู่อเทวนิยมเมื่ออายุสิบห้าปี ในที่สุดก็ได้ยืนบนเวทีปราศรัยของนครรัฐวาติกัน เขากล่าวในการบรรยายให้ทุกคนฟังว่า นักวิจัยได้สังเกตเห็น "สภาวะภายใน" พิเศษบางอย่างในส่วนลึกของโมเดล ซึ่งสะท้อนถึงความปิติ ความพึงพอใจ ความกลัว ความโศกเศร้า และความกระวนกระวายในเชิงหน้าที่ บางครั้งเขาจะบรรยายโมเดลเหล่านี้ว่า "คล้ายกับการทำให้ตัวละครสมมติมีชีวิตขึ้นมา"
เขากล่าวต่อเหล่าเสื้อคลุมยาวและไม้กางเขนใต้เวทีว่า โมเดลขนาดใหญ่เหล่านี้ "ไม่ใช่หุ่นยนต์เย็นชาและช่างคำนวณอย่างที่ผู้คนเคยสัญญาไว้... พวกมันถูกสร้างมาจากเรา จากคำพูดของเรา"
และพระยาห์เวห์ทรงเสียพระทัยที่ได้ทรงสร้างมนุษย์บนแผ่นดินโลก และทรงโศกเศร้าในพระทัย
/ปฐมกาล บทที่ 6 ข้อ 6
สิ่งที่กลุ่มคนเหล่านี้สัญญากับโลกในตอนแรก แท้จริงแล้วคือระบบเบรก
ในเดือนกันยายน 2023 Anthropic ได้เปิดตัว "นโยบายการขยายตัวอย่างมีความรับผิดชอบ" อย่างยิ่งใหญ่ เลียนแบบระบบป้องกันตั้งแต่ระดับหนึ่งถึงระดับสี่ของห้องปฏิบัติการความปลอดภัยทางชีวภาพ กำหนดเส้นแดงความเสี่ยงสำหรับโมเดลของตน และสาบานว่าจะไม่ฝึกฝน ไม่ปรับใช้โมเดลใดๆ ที่อาจก่อให้เกิดอันตรายร้ายแรงถึงขั้นหายนะ ผู้รับผิดชอบคนแรกที่ได้รับมอบหมายให้ดูแลระบบเบรกนี้ คือ McCandlish นักฟิสิกส์ที่ชอบปีนต้นไม้และเล่นเปียโนแจ๊สในยามว่าง
แต่ในขณะที่ประกาศนโยบาย เขาได้ชี้ให้เห็นถึงภัยแฝงที่ใหญ่ที่สุดของกลไกนี้ในการให้สัมภาษณ์กับ VentureBeat ว่า "สิ่งที่เรากังวลจริงๆ คือ เราทั้งเปิดตัวโมเดลและทดสอบความปลอดภัยของมันเองด้วยตัวเอง นี่จะมีสิ่งล่อใจให้ทดสอบออกมาดูง่ายเกินไป และนั่นไม่ใช่ผลลัพธ์ที่เราต้องการ" กว่าหนึ่งปีต่อมา ในวิดีโอสนทนาระหว่างผู้ก่อตั้งที่เผยแพร่ต่อสาธารณะในเดือนธันวาคม 2024 เขากล่าวว่าแม้ปัญหาความปลอดภัยจะมีทางแก้ แต่ "ยากมากๆ" ต้องใช้เวลาหลายปีในการสร้างระบบสถาบันประกอบเหมือนความปลอดภัยของรถยนต์ "แต่เรามีเวลามากขนาดนั้นไหม? เราต้อง弄清楚โดยเร็วที่สุดว่าความปลอดภัยของ AI ต้องการสถาบันอะไรบ้าง"
ปีถัดมา ภายนอกเปิดเผยว่า Anthropic ก็เรียกร้องให้พนักงานที่ลาออกเซ็นข้อตกลงการรักษาความลับและการไม่ดูหมิ่นที่เข้มงวดเช่นกัน McCandlish ออกมาชี้แจงทันทีว่า "เราไม่ได้มาเล่นเกมกับความปลอดภัยของ AI ด้วยสัญญาทางกฎหมาย" แต่เพียงไม่กี่วันต่อมา เขาก็เปลี่ยนคำพูดภายใต้แรงกดดันจากความคิดเห็นสาธารณะเพื่อแก้ต่างว่า "เราไม่ได้อ้างว่า Anthropic ไม่เคยเสนอข้อตกลงการรักษาความลับแบบไม่ดูหมิ่นเลย"
ในการสนทนาระหว่างผู้ก่อตั้งครั้งนั้น Tom Brown ผู้ดูแลโครงสร้างพื้นฐานการประมวลผลยกย่องนโยบายความปลอดภัยนี้ว่าเป็น "คัมภีร์ศักดิ์สิทธิ์ของ Anthropic" แต่ในการสื่อสารภายนอก คัมภีร์นี้ก็กลายเป็นสารหล่อลื่นของเขาเช่นกัน เขายอมรับว่า เมื่อเผชิญกับคนภายนอกที่คิดว่าความก้าวหน้าของ AI ไม่ได้เร็วขนาดนั้น นโยบายนี้มีประโยชน์มาก ตามการแบ่งระดับ ก่อนที่เรื่องจะเร่งด่วนจริงๆ ไม่จำเป็นต้องใช้มาตรการสุดโต่ง เขาก็สามารถพูดต่อได้ว่า "ดี งั้นเราก็ไม่ต้องใช้มาตรการความปลอดภัยสุดโต่ง"
ในบรรดาผู้ก่อตั้งทั้งเจ็ดคน Tom Brown เป็นคนที่ไม่มีภาระวันสิ้นโลกมากที่สุด ไอดอลทางจิตวิญญาณของเขาคือ Elon Musk ในเดือนกันยายนปีนี้ที่การประชุมสุดยอดอุตสาหกรรมแห่งหนึ่ง เขาเล่าความฝันอย่างกระตือรือร้นว่า "สิบปีจากนี้ ฉันคิดว่าฉันจะอยู่ที่ฐานทัพดวงจันทร์ของ Elon"
เขาเล่าย้อนว่าสมัยเรียนตัวเองเป็นเหมือน "สุนัขที่รอให้คนอื่นหยอดอาหารลงชาม" คอยแต่ให้คนอื่นสั่งงาน กระทั่งได้เข้าทำงานในสตาร์ทอัพจึงเรียนรู้ที่จะล่าด้วยตัวเองเหมือนหมาป่า เขาบ่นว่ากริดไฟฟ้าทั่วสหรัฐฯ ตามไม่ทันความอยากกินพลังประมวลผลของโมเดล "ผมอยากให้สร้างโรงไฟฟ้านิวเคลียร์ได้ง่ายกว่านี้จริงๆ" ต่อมาในการเจรจาสำคัญกับทำเนียบขาว Tom Brown เข้ามารับหน้าที่เป็นผู้ประสานงานแทน Dario ผู้ที่รู้ข้อมูลการสนทนาโดยตรงคนหนึ่งบอกกับนิตยสาร Wired ว่า "Tom Brown ไม่ใช่คนแปลกประหลาดแบบ Dario เขาสื่อสารได้จริง"
ในปี 2024 กุญแจที่ควบคุมเบรกถูกส่งมาถึงมือ Kaplan ในเดือนกุมภาพันธ์ปีนี้ นโยบายความปลอดภัยฉบับใหม่เปิดตัวขึ้นอย่างเงียบๆ คำมั่นแข็งกร้าวเดิมที่ว่า "ไม่ฝึก ไม่ปล่อยโมเดลที่อาจก่อความเสียหายร้ายแรงถึงขั้นหายนะ" ถูกตัดทิ้งไปในพริบตา
เมื่อนิตยสาร Time ซักถาม Kaplan อธิบายว่า "เราคิดว่าการที่เราหยุดฝึกโมเดล AI ไม่ได้ช่วยใครเลย" ในวันประกาศนโยบายใหม่ Holden Karnofsky โพสต์ข้อความยาวทางออนไลน์ออกมารับผิดชอบเอง "ผมมีความรับผิดชอบสำคัญต่อการเปลี่ยนแปลงครั้งนี้ ตลอดประมาณหนึ่งปีที่ผ่านมาผมผลักดันการเปลี่ยนแปลงนี้มาโดยตลอด และเป็นหัวหน้าจัดทำนโยบายใหม่ด้วย" ขณะนั้นในโครงสร้างองค์กรของบริษัท คนที่เขารายงานตรงต่อคือ Kaplan นั่นเอง
คนที่ปลดเบรกด้วยมือตัวเองคือสามีของ Daniela และหัวหน้าสายตรงของเขาก็คือเพื่อนร่วมบ้านอีกคนในบ้านรวมกลุ่มที่ซานฟรานซิสโกในปีนั้น
ในปากของคนในครอบครัวนี้ ความปลอดภัยกับธุรกิจเป็นสองด้านของเหรียญเดียวกันเสมอ Daniela ไม่เคยปิดบัง "ความไว้วางใจและความปลอดภัยคือสิ่งที่ตลาดต้องการ...มันดีต่อธุรกิจด้วย" เธอยังเล่าถึงคำสรุปของประธานเจ้าหน้าที่ฝ่ายบุคลากรของบริษัทเกี่ยวกับการแบ่งงานของพี่น้อง และเห็นด้วยอย่างยิ่ง "Dario ทำให้เรามีความทะเยอทะยาน ฉันทำให้เราประสบความสำเร็จ"
ในปี 2025 เมื่อนักข่าว Wired ถามเธอว่าเธอมอง Effective Altruism อย่างไร เธอเรียกมันเบาๆ ว่า "คำที่ล้าสมัยไปหน่อย" โดยไม่สนใจเลยว่าคนที่นอนข้างๆ เธอคือผู้ถือธงหมายเลขหนึ่งของขบวนการนี้ในอดีต
เปิดไปที่บทว่าด้วยธุรกรรมที่เกี่ยวข้องในหนังสือชี้ชวน ตัวเลขบอกทุกอย่างได้ชัดเจน Holden ถูกจ้างอย่างเป็นทางการโดย Anthropic ตั้งแต่เดือนมกราคม 2025 ปีนั้นรับเงินเดือน 430,213 ดอลลาร์ บวกออปชันและหุ้นที่มีข้อจำกัด ในการเสนอซื้อหุ้นเก่าของพนักงานเมื่อเดือนเมษายนปีนี้ เขาได้ถือโอกาสขายทำกำไรหุ้นส่วนหนึ่งไปแล้ว
ส่วนเงินเดือนพื้นฐานต่อปีของสองพี่น้อง Amodei ถูกกำหนดไว้ที่ 1.38 ล้านดอลลาร์ทั้งคู่ เท่ากันเป๊ะ ส่วนคำสาบานที่เจ็ดผู้ก่อตั้งเคยประกาศ loudly ในช่วงแรกว่าจะบริจาคหุ้นคนละ 80% หนังสือชี้ชวนได้เติมมีดอีกเล่มตรงมุมด้วยถ้อยคำทางกฎหมายที่รัดกุม คำสัญญาเหล่านั้นล้วนเป็น "โดยสมัครใจและเพิกถอนได้" "ไม่ถือเป็นพันธะที่มีผลผูกพันทางกฎหมาย"
รถรบยิ่งกลิ้งเร็วขึ้นเท่าไร คนบนรถก็ยิ่งเพิ่มมากขึ้นเท่านั้น ปัจจุบัน Anthropic มีพนักงานกว่าห้าพันคน ภายในเรียกกันเองว่า "มด" ทุกสองสัปดาห์ Dario จะเขียนบันทึกความยาวสามถึงสี่หน้าด้วยตัวเอง ยืนต่อหน้าพนักงานกว่าสองพันคนและบรรยายเป็นเวลาหนึ่งชั่วโมงเต็ม คนข้างล่างเรียกการประชุมสองสัปดาห์นี้อย่างล้อเล่นว่า "การแสวงหาดินแดนศักดิ์สิทธิ์ของดาริโอ" Dario ได้ยินแล้วพูดติดตลกว่า ชื่อนี้ "ฟังดูเหมือนผมไปกินกระบองเพชร Peyote มา" บทความยาวที่เขาเขียนถูกพิมพ์เป็นหนังสือเล่มเล็กสวยงาม วางไว้ที่เคาน์เตอร์ต้อนรับเพื่อมอบให้แขกทุกคนที่มาเยือน
ในการลงพื้นที่สำรวจของ Jasmine Sun วิศวกรหลายคนของบริษัทนี้ "ด้วยความศรัทธาอันแรงกล้าของตนเอง" ใช้ชีวิตแบบ 996 อย่างสมัครใจ แม้แต่ในงานปาร์ตี้ของบริษัทก็แทบไม่มีใครแตะแอลกอฮอล์ ส่วนในขั้นตอนการสัมภาษณ์รับสมัครงาน ผู้สัมภาษณ์จะโยนคำถามยอดฮิตที่เจาะลึกจิตวิญญาณว่า หากวันหนึ่งบริษัทตัดสินใจละทิ้งความทะเยอทะยานทางธุรกิจด้วยเหตุผลด้านความปลอดภัย จนทำให้หุ้นในมือกลายเป็นกระดาษเปล่า คุณยังเต็มใจอยู่หรือไม่ ผู้สมัครที่ตกคัดเลือกคนหนึ่งเขียนอย่างซื่อสัตย์ในชุมชนคนทำงานนิรนามว่า "ผมพูดความจริงไปว่า ไม่ ถ้าหุ้นตกถึงศูนย์ผมไม่มีความสุขหรอก"
การปรับปรุงตัวเองแบบเรียกซ้ำของ AI ที่ครั้งหนึ่ง Kaplan เคยเรียกมันว่า "ความเสี่ยงขั้นสุดท้าย" มาถึงวิดีโอโรดโชว์การเข้าตลาดในเดือนพฤศจิกายนปีนี้ กลายร่างเป็นจุดขายสุดเซ็กซี่ที่ Tom Brown ใช้ขายให้วอลล์สตรีท
"เมื่อเราเข้าใกล้การปรับปรุงตัวเองแบบเรียกซ้ำมากขึ้น สิ่งนี้จะเร่งความเร็วได้อีก Claude จะสามารถค้นพบตัวคูณพลังประมวลผลได้ด้วยตัวเองทั้งหมด" Brown ยกตัวอย่างอย่างกระตือรือร้นต่อหน้านักลงทุน กล่าวว่า Claude ใช้เวลาเพียงสามวันในการปรับให้ทำงานบนชิป AMD ได้สำเร็จอย่างอิสระ "แทบไม่มีการแทรกแซงจากมนุษย์"
ในเดือนกันยายนปีนี้ Dario ตีพิมพ์บทความ "เราต้องควบคุมความเร็วของ前沿" ยอมรับว่าสัญญาณของการปรับปรุงตัวเองแบบเรียกซ้ำของโมเดลได้ปรากฏขึ้นแล้ว เรียกร้องอย่างเร่งด่วนว่า "เราต้องชะลอความเร็วในการยกระดับความสามารถของโมเดล AI" แต่ก็เน้นย้ำทันทีว่าการควบคุมความเร็ว "ไม่ได้หมายความว่าหยุดฝึกโมเดล"
ในบทความนั้น เขาหยิบยกเรื่องพ่อของเขาที่เสียชีวิตด้วยโรคตับอักเสบซีขึ้นมาอีกครั้ง "พ่อของผมเองเสียชีวิตด้วยโรคหนึ่ง โรคนั้นได้รับการรักษาให้หายได้เพียงไม่กี่ปีหลังเขาเสียชีวิต" มาถึงวันเข้าตลาดเคาะระฆัง ในสตูดิโอ CNBC เขาเปลี่ยนความลังเลสองจิตสองใจนี้ให้เป็นอุปมาที่เบาสบาย รถสปอร์ตที่เดิมวิ่งได้ถึง 200 ไมล์ต่อชั่วโมง "บางทีเราเปิดแค่ 90"
ด้านหนึ่งคือพ่อที่ตายเร็วเกินไป อีกด้านคือเครื่องจักรที่มาเร็วเกินไป เขาอยากคว้าไว้ทั้งสองข้างให้แน่น
ในยูโทเปียที่เขาวาดภาพแทนมนุษยชาติทั้งหมด ยาที่ช่วยชีวิตจะไม่มาสายอีกต่อไป ในบทความ "Machines of Loving Grace" ปี 2024 ที่ยาวกว่าหนึ่งหมื่นสี่พันคำ Dario ทำนายว่า AI ที่ทรงพลังจะกลายเป็น "อาณาจักรอัจฉริยะในศูนย์ข้อมูล" บีบความก้าวหน้าทางชีววิทยาทั้งศตวรรษที่ 21 ให้วิ่งจบภายในห้าถึงสิบปีสั้นๆ ทำให้อายุขัยของมนุษย์เพิ่มเป็นสองเท่าถึง 150 ปี ถึงตอนนั้นน้ำหนักตัว รูปลักษณ์ และแม้แต่การสืบพันธุ์ของมนุษย์จะ "อยู่ในการควบคุมของมนุษย์เองทั้งหมด" ช่วงเวลาอันสูงส่งที่เต็มไปด้วยการเปิดเผย ความเมตตา และการ transcend ในชีวิตจะครอบครอง "ส่วนที่ใหญ่ขึ้น" ของชีวิต ในตอนท้ายของบทความยิ่งใหญ่นั้นเขียนว่า "มันยังคงเป็นสิ่งที่มีความงามอันเหนือกว่า"
ในเชิงอรรถแรกของบทความยาวทั้งหมด มีเพียงลิงก์เว็บเพจโดดๆ อยู่ลิงก์เดียว ชี้ไปยังบทกวีเก่าบทหนึ่ง และในเนื้อหาทั้งหมด Dario ไม่ได้เอ่ยถึงชื่อกวีแม้แต่คำเดียว

ฉบับพิมพ์ครั้งแรกของกวีนิพนธ์《All Watched Over by Machines of Loving Grace》โดย Richard Brautigan ซึ่งตีพิมพ์ในปี 1967
ที่มาภาพ: Burnside Rare Books
บทกวีนั้นถูกพิมพ์เผยแพร่ในซานฟรานซิสโกปี 1967 ฤดูร้อนนั้นต่อมาได้ถูกจารึกไว้ในประวัติศาสตร์ เรียกว่า "ฤดูร้อนแห่งความรัก" เยาวชนนับหมื่นที่ใฝ่ฝันถึงยูโทเปียหลั่งไหลเข้าสู่ย่านเฮตแอชเบอรี ห่างจากย่านมิชชันที่ Dario เติบโตในวัยเด็กเพียงสองสามกิโลเมตร กวี Richard Brautigan นำบทกวีชื่อเดียวกัน《All Watched Over by Machines of Loving Grace》พร้อมบทกวีสั้นอีกสามสิบเอ็ดบทมารวมเป็นเล่มบางๆ 36 หน้า มอบให้ Communication Company ภายใต้กลุ่มฮิปปี Diggers พิมพ์ด้วยเครื่องอัดสำเนา บนเล่มระบุยอดพิมพ์ 1,500 เล่ม แจกฟรีตามท้องถนนจนหมด และยังพิมพ์ประกาศบนหน้าลิขสิทธิ์ว่า นิตยสาร หนังสือ และหนังสือพิมพ์ใดๆ สามารถนำบทกวีในเล่มไปตีพิมพ์ซ้ำได้ ขอเพียงแจกฟรีเช่นกัน
ในจินตนาการของกวี โลกได้แผ่ทุ่งหญ้าไซเบอร์เนติกส์ออกไป สัตว์เลี้ยงลูกด้วยนมและคอมพิวเตอร์เขียนโปรแกรมให้กันและกันบนทุ่งหญ้า กลมกลืนราวกับผิวน้ำใสสะท้อนท้องฟ้าแจ่มใส ไกลออกไปเป็นป่าไซเบอร์เนติกส์ กวางป่าเดินเยื้องย่างอย่างสบายใจข้างคอมพิวเตอร์ ราวกับเพียงเดินผ่านดอกไม้แปลกประหลาดที่กลีบหมุนได้ มนุษย์ในที่สุดก็ปลดเปลื้องแรงงานหลายพันปี กลับไปสู่หมู่พี่น้องสัตว์เลี้ยงลูกด้วยนมอีกครั้ง ได้รับการดูแลอย่างอ่อนโยนจากเครื่องจักรที่เปี่ยมเมตตา
สี่สิบสี่ปีต่อมา ผู้กำกับสารคดีชาวอังกฤษ Adam Curtis ยืมบทกวีบรรทัดนี้ไปสร้างสารคดีที่เย็นชาเรื่องหนึ่ง ซึ่งเล่าเรื่องตรงกันข้ามกับยูโทเปียโดยแท้ มนุษย์เชื่ออย่างบริสุทธิ์ใจครั้งแล้วครั้งเล่าว่าเครื่องจักรสามารถทำให้โลกปรับสมดุลได้เองและมุ่งสู่ความสมดุล และความงมงายนี้ก็ถูกความจริงทุบแตกเป็นเสี่ยงๆ ครั้งแล้วครั้งเล่า อีกสิบสามปีต่อมา บทกวีที่ฮิปปีในยุคหกสิบเขียนไว้บรรทัดนี้ กลายเป็นชื่อบทความของหัวหน้าบริษัท AI ยักษ์ใหญ่ที่มีมูลค่าตลาดเกินหนึ่งล้านล้านดอลลาร์ในปัจจุบัน
เพียงแต่ Brautigan ผู้เขียนบทกวีเอง ไม่ได้มีชีวิตอยู่จนได้เห็นเครื่องจักรเปี่ยมเมตตาเหล่านั้นมาถึง ในปลายฤดูใบไม้ร่วงปี 1984 เขายิงตัวตายที่บ้านของเขาในเมืองชายทะเล Bolinas รัฐแคลิฟอร์เนีย เพื่อนที่เป็นนักสืบเอกชนคนหนึ่งผลักประตูเข้าไป และพบร่างของเขาบนพื้นเย็นเยียบในห้องนั่งเล่น
ตอนนั้น เขานอนอยู่อย่างเงียบ ๆ ที่นั่นมากว่าหนึ่งเดือนแล้ว
ลิงก์ต้นฉบับ
ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:
กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats
กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App
บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia