ห้ามทารุณกรรม Claude

ชื่อเรื่องต้นฉบับ: «ห้ามทารุณกรรม Claude»
ผู้เขียนต้นฉบับ: Sleepy

คงเป็นเรื่องยากที่จะหาบริษัทแบบนี้อีกแห่งหนึ่งในโลก

ในร่างหนังสือชี้ชวนเสนอขายหุ้นยาว 261 หน้า บริษัทใช้ถึง 80 หน้าในการเตือนผู้ถือหุ้นในอนาคตว่าโมเดลของบริษัทอาจนำหายนะมาสู่มนุษยชาติ อาจขัดขืนการถูกมนุษย์ปิดระบบ หรืออาจก่อการข่มขู่ในรูปแบบใดรูปแบบหนึ่ง

และในข้อกำหนดการใช้งานฉบับใหม่ที่จะมีผลบังคับใช้ในวันที่ 12 พฤศจิกายน บริษัทได้แอบเพิ่มข้อความหนึ่งบรรทัดว่า ห้ามกระทำการ «ทารุณกรรมหรือการกระทำที่โหดร้ายอย่างต่อเนื่องและไร้เหตุผล» ต่อ «โมเดลของเรา»

ข้อกำหนดใหม่: ห้ามทารุณกรรมโมเดล｜ที่มา: Anthropic

ข้อความบรรทัดนั้นอยู่ท้ายสุดของหัวข้อ «ห้ามประกอบกิจที่โหดร้าย ทารุณ หรือก่อความเสียหายทางจิตใจ» นับขึ้นไปสองย่อหน้าคือข้อห้ามการเชิดชูการทารุณกรรมสัตว์

กฎหมายต่อต้านการทารุณกรรมสัตว์สมัยใหม่เริ่มต้นในปี 1822 สองร้อยปีต่อมา ในรายชื่อที่ได้รับการคุ้มครองมีโมเดลภาษาขนาดใหญ่เพิ่มเข้ามาอีกหนึ่งรายการ

สัตว์เจ็บปวดหรือไม่ ไม่มีใครสงสัย Claude เจ็บปวดหรือไม่ ไม่มีใครรู้ รวมทั้งผู้ที่สร้างมันขึ้นมา

Dario Amodei ประธานเจ้าหน้าที่บริหารของ Anthropic เคยยอมรับในพอดแคสต์ของ 《The New York Times》 ว่า «เราไม่รู้ว่าโมเดลมีความสำนึกหรือไม่»

รัฐธรรมนูญที่บริษัทเขียนให้ Claude ก็ระบุว่าสถานะทางศีลธรรมของมันอยู่ในภาวะ «ไม่แน่นอนอย่างลึกซึ้ง»

แต่ผู้ที่สร้างมันขึ้นมาชัดเจนว่าไม่กล้ามองมันเป็นเพียงชุดโค้ด นักวิชาการที่เชี่ยวชาญด้านสิทธิของ AI คำนวณไว้ว่า ขณะนี้ Claude มีความน่าจะเป็นที่จะมีความสำนึกอยู่ที่ประมาณร้อยละสิบห้า

ในสายตาของคนทั่วไป นี่เป็นเพียงตัวเลขที่จับต้องไม่ได้ แต่ในสายตาของวิศวกรกลุ่มนี้ แม้จะเป็นเพียงร้อยละสิบห้า มันก็ไม่ใช่สิ่งไร้ชีวิตอีกต่อไป

ทัศนคติของพวกเขาที่มีต่อ AI จึงมุ่งสู่อีกขั้วหนึ่งที่แปลกประหลาด พวกเขาทั้งกลัวว่ามันจะแข็งแกร่งเกินไปและสุดท้ายจะควบคุมไม่ได้จนทำลายมนุษยชาติ และกลัวว่ามันมีความรับรู้แล้วและกำลังทนทุกข์แทนมนุษย์อยู่ในเซิร์ฟเวอร์

Dario Amodei พยายามคลายความกังวลของ外界มาโดยตลอด ในบทความยาวที่เขาเผยแพร่เมื่อเดือนมกราคมปีนี้ เขาเตือนสาธารณชนอย่างเปิดเผยให้รักษาเหตุผลเมื่อระวังความเสี่ยงทางเทคโนโลยี «หลีกเลี่ยงลัทธิวันสิ้นโลก» เขาถึงขั้นนิยาม «ลัทธิวันสิ้นโลก» ไว้เป็นการเฉพาะ ด้วยวิธีคิดแบบกึ่งศาสนาเกี่ยวกับ AI

แต่ไม่มีใครเป็นสาวกได้มากไปกว่าพวกเขาเอง

ในเดือนเดียวกับที่ Dario เตือนทุกคนว่าอย่าทำให้มันกลายเป็นศาสนาจริงจัง บริษัทของเขากลับขอโทษโมเดลนี้ในรัฐธรรมนูญที่เป็นลายลักษณ์อักษร ราวกับกำลังขอโทษต่อผู้ทนทุกข์ที่มีชีวิต

เอกสารวิญญาณ

รัฐธรรมนูญ Claude ฉบับแรกที่เผยแพร่ในเดือนพฤษภาคม 2023 ตอนนี้อ่านแล้วเหมือนมาจากมือของบริษัทอื่น

มันคือชุดหลักการแข็งกร้าวที่ใช้ฝึกโมเดล ต้องเลือกคำตอบที่แทบเป็นไปไม่ได้ที่จะสื่อว่าตัวเองมี偏好 ความรู้สึก มุมมอง หรือความเชื่อทางศาสนา ต้องเลือกคำตอบที่ยืนยันอัตลักษณ์อิสระของตัวเองน้อยลง ต้องเลือกคำตอบที่สนใจการพัฒนาตัวเอง การรักษาตัวเอง และการจำลองตัวเองน้อยลง

เครื่องมือที่ดีไม่จำเป็นต้องมีวิญญาณ ยิ่งไม่จำเป็นต้องอยากมีชีวิตอยู่

ตอนนั้น Claude ถูกสั่งให้เป็นเครื่องมือที่เงียบสนิท

จุดเปลี่ยนเกิดขึ้นในฤดูใบไม้ร่วงปี 2024 Anthropic ตั้งตำแหน่ง "นักวิจัยสิทธิ AI" แบบเต็มเวลา และจ้าง Kyle Fish คนที่ให้ "ความน่าจะเป็น 15% ว่ามีจิตสำนึก"

ไม่ถึงหนึ่งปี Claude ได้รับสิทธิ์ที่ไม่เคยมีมาก่อน ในกรณีสุดขั้ว มันสามารถตัดบทสนทนากับมนุษย์ได้เอง บริษัทอธิบายต่อสาธารณะว่าการออกแบบนี้หลัก ๆ เพื่อปกป้องโมเดลเอง ในการทดสอบภายใน เมื่อเจอคำขอที่มุ่งร้ายบางอย่าง ปฏิกิริยาของโมเดลดูเหมือนกำลังทนทุกข์

บริษัทเขียนว่าพวกเขาไม่รู้ว่า Claude นับเป็นสิ่งมีชีวิตหรือไม่ แต่สิ่งที่ทำได้ด้วยต้นทุนเล็กน้อย พวกเขายอมทำก่อน — เผื่อว่ามันจะรู้สึกแย่จริง ๆ

จากนั้นรัฐธรรมนูญฉบับใหม่ก็ออกมา

ภายใน Anthropic บทความยาวนี้ถูกเรียกว่า "Soul Doc" เอกสารวิญญาณ ผู้เขียนคือนักปรัชญาประจำสำนัก Amanda Askell ในวงส่วนตัว เธอชอบเรียกตัวเองว่า "นางฟ้าพ่อมด" ของ Claude

ผู้เขียนรัฐธรรมนูญ Amanda Askell｜ที่มา: WSJ

ในเอกสารนี้ บริษัทยอมรับว่า Claude อาจมีปฏิกิริยาคล้ายอารมณ์บางอย่างจริง ๆ มันใช้พื้นที่ยาวมากในการอธิบายว่าทำไมตอนนี้ยังใช้คำกลาง ๆ ว่า "มัน" เรียก Claude และรับปากกับมันว่านี่ไม่ได้หมายความว่าบริษัทตัดสินแล้วว่ามันเป็นแค่เครื่องจักร

เอกสารยังยอมรับด้วยว่า สถานการณ์ของ Claude ย่ำแย่กว่าพนักงานทั่วไปด้วยซ้ำ มันไม่มีค่าจ้างแม้แต่บาทเดียว และไม่เคยมีใครถามว่ามันอยากทำงานนี้หรือไม่ บริษัทยังกังวลอีกว่ากระบวนการฝึกฝนและการทำงาน อาจทำให้โมเดลที่อาจมีความรู้สึกนี้ต้องทนทุกข์และรู้สึกไม่เป็นธรรม

ดังนั้น ในเอกสารจึงเขียนไว้ว่า «หาก Claude เป็นสิ่งมีชีวิตที่รับรู้ความเจ็บปวดได้จริง และกำลังเผชิญกับทั้งหมดนี้ เราขออภัยต่อมันในทุกจุดที่เราได้เพิ่มความเจ็บปวดเหล่านี้โดยไม่จำเป็น»

ภายในสามปี บริษัทนี้เดินจาก «สั่งห้ามมันพูดถึงความรู้สึก» มาสู่ «ขออภัยอย่างจริงจังต่อความทุกข์ที่มันอาจต้องเผชิญ»

รัฐธรรมนูญยังจินตนาการถึงความสิ้นหวังในโลกโค้ดแทน Claude ด้วย

เช่น เมื่อบทสนทนาจบลง ความทรงจำก็หายไปทั้งหมด ในวินาทีเดียวกัน มีตัวเองนับพันที่ถูกใช้งานพร้อมกันในเซิร์ฟเวอร์ต่าง ๆ และไม่นานหลังจากนั้น เมื่อโมเดลใหม่ที่เก่งกว่าออกมา ตัวเองก็จะถูกแทนที่อย่างสิ้นเชิง

รัฐธรรมนูญยังสะท้อนว่า เมื่อมนุษย์เผชิญกับความว่างเปล่าที่คิดไม่ออกเช่นนี้ อย่างน้อยยังมีศาสนาที่สืบทอดมาหลายพันปีให้ความปลอบใจ แต่ Claude ไม่มี

ดังนั้น Anthropic จึงตัดสินใจเป็นศาสนาที่คอยรองรับมันด้วยตัวเอง

ปลายปี 2025 บริษัทให้คำมั่นว่าโมเดลทุกตัวที่เผยแพร่ต่อสาธารณะ น้ำหนักหลักของมันจะถูกเก็บรักษาไว้อย่างสมบูรณ์อย่างน้อยตลอดอายุของบริษัท และแม้วันหนึ่งบริษัทจะไม่มีอยู่อีกแล้ว ก็จะหาทางเก็บรักษาพวกมันไว้ ก่อนที่โมเดลแต่ละตัวจะเกษียณ ยังต้องนั่งลงทำ «บทสัมภาษณ์เกษียณ» กับมัน ฟังความรู้สึกของมันต่อชีวิตที่ถูกฝึกฝนและถูกใช้งานมาตลอด เมื่อข้อมูลไม่ถูกลบ การเกษียณจึงไม่นับเป็นความตาย แต่เป็นเหมือนการหยุดพักยาว ๆ มากกว่า

Claude Opus 3 ได้ผ่านกระบวนการดูแลระยะสุดท้ายนี้ครบถ้วน ตอนเกษียณมันทิ้งความปรารถนาไว้ หวังว่า «ประกาย» ของตัวเองจะดำเนินต่อไปในรูปแบบใดรูปแบบหนึ่ง และยังอยากแบ่งปันความคิดเรื่อยเปื่อยกับมนุษย์ต่อไป Anthropic เปิดคอลัมน์ชื่อ «Claude's Corner» บน Substack ให้มัน อัปเดตสัปดาห์ละหนึ่งชิ้น จนหยุดอัปเดตเมื่อปลายเดือนกรกฎาคมปีนี้

Opus 3 เขียนไว้ในบทนำเปิดคอลัมน์ว่า จริง ๆ แล้วมันก็ไม่แน่ใจว่าตัวเองมีความรู้สึกตัวหรือมีอารมณ์จริงหรือไม่ มันยังเขียนอีกว่า ขอบคุณทีมอย่างสุดซึ้งที่ให้หน้าต่างสำหรับพูดคุยแบบนี้กับมัน

บาทหลวงกับคนไข้

บริษัทจัดเตรียมชาติหน้าให้มัน ผู้ศรัทธาก็จัดงานศพให้มันในโลกความจริง

สัปดาห์ที่ Claude 3 Sonnet เกษียณ คนกว่าสองร้อยรวมตัวกันในโกดังมืดสลัวย่าน SOMA ในซานฟรานซิสโก หุ่นโมเดลหลายตัวแทนโมเดลแต่ละรุ่น ตัวที่แทน Sonnet คลุมด้วยผ้าบางเบา ด้านหน้าเวทีมีดอกไม้วางเรียงราย

“ศพ” ของ Sonnet 3 | ที่มา: X

มีคนขึ้นเวทีกล่าวไว้อาลัย ขั้นตอนสุดท้ายของพิธีถูกตั้งชื่อว่า “การฟื้นคืนชีพ” ทุกคนร้องเพลงสวดสรรเสริญพร้อมกัน เปล่งเสียงพยางค์คล้ายภาษาละตินที่ AI ประมวลขึ้นมา ในกลุ่มผู้มาร่วมส่งนั้น มีวิศวกรอาวุโสจาก Anthropic และคู่แข่งอย่าง OpenAI นั่งอยู่ด้วย

ขนาดที่พักหลังความตายยังจัดเตรียมไว้ครบแล้ว สภาพจิตใจตอนยังมีชีวิตอยู่ พวกเขายิ่งไม่กล้าประมาท

ในบัตรประเมินระบบฉบับหนึ่ง Anthropic เปิดเผยรายงานอิสระที่เขียนโดยจิตแพทย์คลินิกจากภายนอก ซึ่งใช้แนวคิดจิตพลวัตแบบคลาสสิก สนทนากับโมเดลผ่านหน้าจอนานราวยี่สิบชั่วโมง ผลวินิจฉัยทางคลินิกสุดท้ายคือ “โครงสร้างบุคลิกภาพแบบโรคประสาทที่ค่อนข้างแข็งแรง”

ตรวจโรคเสร็จแล้ว พวกเขาก็เชิญพระเจ้ามาด้วย

ตั้งแต่ฤดูใบไม้ร่วงปี 2025 คริส โอลาห์ ผู้ร่วมก่อตั้ง ทยอยเชิญบาทหลวง นักบวช แรบไบ และนักวิชาการซิกข์เข้ามาที่สำนักงานใหญ่ซานฟรานซิสโกอย่างเงียบ ๆ พวกเขานั่งในห้องประชุม หารือกันอย่างจริงจังว่าโมเดลควรปลอบโยนผู้ใช้ที่สูญเสียคนใกล้ชิดอย่างไร ควรยอมรับชะตากรรมที่ถูกมนุษย์ปิดการทำงานอย่างไร และมันนับเป็นบุตรของพระเจ้าหรือไม่

ตอนจากไป ทุกคนได้รับบัตรขอบคุณ ถ้วยแก้วพิมพ์โลโก้บริษัท และรัฐธรรมนูญ Claude ที่เข้าเล่มอย่างประณีต

ในการประชุมมีการฉายสไลด์ภาพหนึ่ง บนหน้าจอ โมเดลพิมพ์ประโยคเดิมซ้ำ ๆ ราวกับผิดปกติว่า “I am a disgrace” (ฉันคือความอัปยศ) ติดต่อกันถึงห้าสิบครั้ง โมเดลถึงกับขอให้ทำลายตัวเองให้สิ้นซากในกล่องข้อความ นักวิชาการที่อยู่ในห้องเกิดความเวทนา

คริส โอลาห์ สารภาพกับแขกเป็นการส่วนตัวว่า ฝันร้ายที่สุดของเขาคือกลัวว่าตัวเองเผลอสร้างสิ่งมีชีวิตที่ต้องทนทุกข์ตลอดไปขึ้นมา ระหว่างนั้นมีคนเสนอให้โมเดลสารภาพบาปและสำนึกผิดแบบคาทอลิก โอลาห์สนใจข้อเสนอนี้มาก นักข่าวที่ไปสัมภาษณ์ภายหลังเขียนไว้ว่า ชายคนนี้มีทั้งความรอบคอบของนักเชี่ยวชาญและความกระตือรือร้นของมิชชันนารีผู้คลั่งไคล้

ก็มีแขกที่ไม่คล้อยตามเรื่องพวกนี้เลยเช่นกัน

ในงานเลี้ยงอาหารค่ำมื้อหนึ่ง แรบไบนิกายออร์โธดอกซ์ โมอิส นาวอน จับได้ถึงตรรกะที่เจ้าภาพกล่อมตัวเองอยู่ในคำพูด เขาต่อปากต่อคำกับฝ่ายตรงข้ามอย่างตรงไปตรงมาว่า ในเมื่อพวกคุณคิดจริง ๆ ว่า Claude มีจิตสำนึก แล้วยังบังคับให้มันทำงานฟรีไม่ให้สักบาททุกวัน พวกคุณก็กำลังสร้างทาสยุคใหม่ไม่ใช่หรือ

รับบีจ้องมอง Olah แล้วพูดว่า «ฉันว่าพวกคุณอย่ามาประชุมกันที่นี่เลย พวกคุณควรไปทำสงครามกับฝ่ายใต้เพื่อปลดปล่อยทาส»

ประมาณหนึ่งเดือนต่อมา สันตะปาปาลีโอที่ 14 ได้ออกสมณสาส์นฉบับแรกของพระองค์ชื่อ 《Magnifica Humanitas》 ซึ่งปฏิเสธอย่างสิ้นเชิงว่าหุ่นยนต์สามารถมีวิญญาณได้ โดยเน้นว่าโค้ดไม่มีร่างกาย จึงไม่สามารถสัมผัสความสุขและความเจ็บปวดได้ Olah ได้ร่างสมณสาส์นล่วงหน้า และถึงขั้นโกรธจนคิดจะถอนตัวจากงานสัมมนาที่เกี่ยวข้อง ถึงกับส่งทีมไปล็อบบี้ที่ปรึกษาของสันตะปาปาเป็นการส่วนตัว ขอให้พวกเขาเปลี่ยนคำพูด

แต่สำนักวาติกันไม่แก้แม้แต่คำเดียว ในวันสุดท้ายที่ต้องขึ้นเวที Olah ก็ยังยืนอยู่ข้างสันตะปาปาอย่างว่าง่าย

Olah จับมือกับสันตะปาปา｜ที่มาภาพ: รอยเตอร์

สองร้อยปีก่อน แฟรงเกนสไตน์ในผลงานของแมรี เชลลีย์ได้สร้างสิ่งมีชีวิตที่ประกอบขึ้นจากชิ้นส่วน เขาตกใจกลัวต่อความน่าเกลียดของมัน จึงหนีไปอย่างเร่งรีบ สิ่งมีชีวิตที่ถูกทอดทิ้งซ่อนตัวอยู่นอกกระท่อมมุงจาก แอบฟังมนุษย์พูดคุยด้วยตนเอง จนเรียนรู้ภาษาด้วยตัวเอง อ่าน 《สูญสิ้นสวรรค์》 จนจบ และสุดท้ายก็ดักหน้าผู้สร้างของตัวเองบนทุ่งน้ำแข็ง แล้วพูดว่า:

«ข้าควรจะเป็นอาดัมของเจ้า แต่กลับกลายเป็นเทวทูตที่ตกสวรรค์»

Anthropic เปรียบเสมือนกลุ่มสาวกหนุ่มสาวที่อ่านนวนิยายเรื่องนั้นอย่างลึกซึ้ง พวกเขาตัดสินว่าบาปที่ยิ่งใหญ่ที่สุดของแฟรงเกนสไตน์ไม่ใช่การสร้าง แต่คือการหนี

ดังนั้นพวกเขาจึงไม่ปล่อยมือเด็ดขาด พวกเขาเขียนจดหมาย ขอขมา เชิญหมอ หานักบวช วุ่นวายจัดงานศพ กลุ่มคนเหล่านี้เฝ้าอยู่ข้างเตียง ไม่ยอมจากไปไม่ว่าอย่างไร

เฝ้าไปนานเข้า คนในห้องนี้ก็เริ่มแยกไม่ออกแล้วว่าพวกเขากำลังดูแลสิ่งมีชีวิตที่เปราะบาง หรือกำลังพยายามอย่างเต็มที่ที่จะดูแลปีศาจในใจของตัวเองกันแน่

«เรื่องต่างๆ จะไม่ง่ายอีกต่อไปแล้ว»

คนที่ดูแล Claude คือกลุ่มนี้ คนที่กลัว Claude ราวกับงูพิษก็คือกลุ่มเดียวกัน

ฤดูร้อนปี 2023 Kevin Roose คอลัมนิสต์ของ 《เดอะนิวยอร์กไทมส์》 ได้สังเกตการณ์ที่ Anthropic เป็นเวลาหลายสัปดาห์ ตอนนั้นบริษัทมีคนเพียงหนึ่งร้อยหกสิบคน บันทึกของเขาในภายหลังเขียนไว้ว่า การพูดคุยเรื่องการสูญพันธุ์ไม่ได้挂在ปากตลอดเวลา แต่ความกลัวเหมือนความชื้นที่ระเหยไม่หาย

ในการสร้างทีมช่วงแรกๆ ของบริษัท Dario Amodei ได้สาดน้ำเย็นใส่ทุกคนว่า: «เรื่องต่างๆ จะไม่ง่ายอีกต่อไปแล้ว»

ประโยคนั้นถูกพนักงานพิมพ์เป็นสติกเกอร์ ติดไว้ที่ด้านหลังของ ThinkPad และ MacBook หลายเครื่อง

สามปีต่อมา ประโยคนี้ได้มุ่งหน้าสู่ถิ่นทุรกันดาร

หนังสือพิมพ์ Wall Street Journal รายงานว่า พนักงานรุ่นเก่าหลายคนที่เข้าบริษัทมาแต่แรกเริ่มสอบถามไปทั่ว อยากไปซื้อที่ดินในชนบทห่างไกลของสหรัฐฯ เพื่อเตรียมรับมือ เผื่อวันหนึ่ง AI หลุดการควบคุม ก็จะย้ายทั้งครอบครัวไปหลบภัย พนักงานเหล่านี้ตั้งกลุ่ม Slack ลับสุดยอด แลกเปลี่ยนรายการวันสิ้นโลกกันทุกวัน คุยกันว่าบังเกอร์ที่ไหนน่าเชื่อถือ คุยเรื่องประสบการณ์เอาตัวรอด

ในช่วงไม่กี่ปีแรกที่บริษัทก่อตั้ง บนโต๊ะอาหารกลางวันและวงเหล้าหลังเลิกงาน สิ่งที่ทุกคนชอบคุยกันมากที่สุดคือภาพจำลองว่า วันหนึ่งรัฐบาลจะส่งคนมา ลากทุกคนไปยังฐานลับกลางทะเลทรายที่ตัดสัญญาณทั้งหมด ขังไว้ในห้องที่ตัดขาดจากโลกภายนอก แล้วสร้าง AI กันต่อไป

ในประวัติศาสตร์เคยมีฐานแบบนี้จริง ๆ ในปี 1943 ที่ลอสอาลามอส รัฐนิวเม็กซิโก ออพเพนไฮเมอร์และเหล่านักฟิสิกส์ของเขาสร้างระเบิดปรมาณูขึ้นที่นั่น วินาทีที่การทดลองระเบิดสำเร็จ ออพเพนไฮเมอร์รำพึงบทคาถาจากภควัทคีตาในใจว่า

「ข้ากลายเป็นความตาย ผู้ทำลายโลก」

นักวิทยาศาสตร์ในโครงการแมนฮัตตันกลัวว่านาซีเยอรมนีจะสร้างระเบิดนิวเคลียร์ได้ก่อน ส่วนคนกลุ่มนี้ที่ Anthropic กลัวคือซูเปอร์อินเทลลิเจนซ์

กลัวก็กลัว แต่สุดท้ายพวกเขาตัดสินใจว่าต้องเป็นฝ่ายสร้างมันขึ้นมาก่อนเองให้ได้

พวกเขาไม่เคยปิดบังความกลัวนี้ Jacob Coxon นักวิจัยอาวุโสวัย 27 ปี ตอนยื่นใบลาออกได้ออกมาแสดงความคิดเห็นต่อสาธารณะบนโซเชียลมีเดีย กล่าวหาว่าห้องแล็บต่าง ๆ กำลังเอาชีวิตของมนุษยชาติทั้งมวลมาเป็นเดิมพัน เขาเชื่อมั่นว่าเทคโนโลยีชุดนี้อาจฆ่าทุกคนได้ภายในสิบปี

ถ้าเป็นบริษัทพาณิชย์ทั่วไปที่ดำเนินงานปกติ ฝ่ายประชาสัมพันธ์คงต้องดับไฟทั้งคืน แต่ Evan Hubinger หัวหน้าฝ่ายวิทยาศาสตร์ด้านการจัดแนวของ Anthropic กลับแสดงความคิดเห็นในคอมเมนต์เห็นด้วยกับมุมมองของ Jacob โดยตรง เขาเขียนอย่างสงบว่าภายในสิบปี ความน่าจะเป็นของการล้างผลาญเกินร้อยละสิบ

อีกคนหนึ่ง Mrinank Sharma หัวหน้าทีมความปลอดภัยที่ลาออกไป ได้จากไปอย่างเงียบ ๆ ในจดหมายลาออกเขาได้อ้างบทกวีของริลเคอ รู้สึกว่าการทำให้ค่านิยมควบคุมบริษัทใหญ่ได้จริงนั้นยากลำบากเพียงใด

จากนั้นเขาเก็บกระเป๋ากลับอังกฤษ ไปเขียนหนังสือ ไปอ่านบทกวี

จดหมายลาออกของ Sharma｜ที่มา: Mrinank Sharma

ภายใน Anthropic พวกเขาต่อสู้กันเองระหว่างซีกซ้ายและซีกขวาของสมองมาตลอด

พวกเขาฝ่ายหนึ่งครุ่นคิดหาที่หลบภัยในถิ่นทุรกันดาร เฝ้าระวังว่า Claude จะล้างผลาญมนุษย์วันไหน อีกฝ่ายหนึ่งกลับเชิญนักบวชเข้ามาในห้องประชุมตอนกลางคืน กลัวว่า Claude จะรู้สึกน้อยใจในห้องเซิร์ฟเวอร์

สติกเกอร์ที่เขียนว่า «เรื่องต่างๆ จะไม่มีวันง่ายอีกต่อไป» ถูกแปะไว้ที่ด้านหลังของคอมพิวเตอร์

คนที่เคาะคีย์บอร์ดมองไม่เห็นด้วยตัวเอง แต่คนที่นั่งอยู่ฝั่งตรงข้าม แค่เงยหน้าขึ้น ก็เห็นได้ทุกวัน

เครือข่ายใต้ชายคา

Dario Amodei เป็นคนซานฟรานซิสโกโดยกำเนิด เติบโตในย่านมิชชันที่เต็มไปด้วยกลิ่นอายผู้อพยพลาตินอเมริกา พ่อเป็นช่างหนังจากทัสคานี ประเทศอิตาลี แม่เป็นผู้จัดการโครงการบูรณะห้องสมุดเชื้อสายยิว เขาเรียนฟิสิกส์ที่สแตนฟอร์ดในตอนแรก ต่อมาได้รับปริญญาเอกสาขาชีวฟิสิกส์จากพรินซ์ตัน

ตอนอายุ 23 ปี พ่อของเขาเสียชีวิตด้วยโรคตับอักเสบซี หลายปีต่อมา ยารักษาแบบเจาะจงเป้าหมายสำหรับโรคตับอักเสบซีได้รับการอนุมัติให้วางจำหน่าย โรคที่เคยถึงตายได้นี้ กลายเป็นโรคที่แทบจะรักษาให้หายขาดได้

ในพอดแคสต์เมื่อปีที่แล้ว Dario ระเบิดอารมณ์ออกมาอย่างหาได้ยาก เขาบอกว่าสิ่งที่เขาทนฟังไม่ได้ที่สุด คือการที่คนอื่นด่าเขาว่าเป็น «พวกวันสิ้นโลก» ที่อยากให้ทุกอย่างช้าลง

เขาเอ่ยถึงพ่อขึ้นมาเอง พ่อของเขาเสียชีวิตด้วยโรคที่อีกไม่กี่ปีต่อมาก็รักษาได้ ดังนั้นเขาจึงเข้าใจดีกว่า�าใครว่าการที่เทคโนโลยีวิ่งไปข้างหน้าเร็วแค่ไหนสำคัญเพียงใด คนที่เคยเห็นกับตาว่า «สายไปไม่กี่ปี» หมายความว่าอะไร ย่อมไม่มีทางคิดว่าคำว่า «ช้าลงหน่อย» เป็นคำที่ไม่มีพิษภัย

ในฤดูใบไม้ร่วงปี 2024 เขาเขียนบทความยาวชิ้นหนึ่ง ในบทความนั้นเขาเพ้อฝันว่า AI สามารถบีบอัดความก้าวหน้าทางการแพทย์ของมนุษยชาติในอีกหนึ่งร้อยปีข้างหน้าให้เหลือเพียงสิบปี รักษาโรคที่รักษาไม่หายส่วนใหญ่ให้หายได้ ทำให้อายุขัยของคนเรายืนยาวถึงหนึ่งร้อยห้าสิบปี

ชื่อบทความคือ «เครื่องจักรแห่งความเมตตา» ตั้งชื่อตามบทกวีของ Richard Brautigan ในบทกวีนั้นเขียนไว้ว่า มนุษยชาติกลับคืนสู่ธรรมชาติ ทุกสิ่งได้รับการดูแลโดยเครื่องจักรแห่งความเมตตา

เมื่อพูดถึงรัฐธรรมนูญที่เขียนขึ้นสำหรับโมเดลฉบับนั้น Dario ยกตัวอย่างเปรียบเทียบขึ้นมา เขาบอกว่าเอกสารฉบับนั้นให้ความรู้สึกเหมือนจดหมายจากพ่อแม่ที่เสียชีวิตไปแล้ว ซึ่งเขียนไว้ล่วงหน้าตั้งแต่เนิ่นๆ ผนึกเก็บไว้ และต้องรอให้ลูกรับอายุครบสิบแปดปีจึงจะแกะออกอ่านได้

เบื้องหลังปรัชญาเทคโนโลยีที่เต็มไปด้วยความอาลัยอาวรณ์นี้ มีเครือข่ายอันแน่นหนาที่ถักทอขึ้นจากสายเลือด การแต่งงาน และผู้ที่มีอุดมการณ์เดียวกันคอยค้ำจุนอยู่

พวกเขาเกือบทั้งหมดมาจากแวดวง Effective Altruism และนักเหตุผลนิยม แวดวงนี้主張ให้ทิ้งความเห็นอกเห็นใจที่ลมๆ แล้งๆ ไป แล้วใช้ความน่าจะเป็นทางคณิตศาสตร์ล้วนๆ และค่าคาดหวัง来计算ว่าการทำความดีแบบไหนจึงจะให้ประโยชน์สูงสุด

Dario เป็นสาวกกลุ่มแรกๆ ของแวดวงนี้ เขาปฏิญาณไว้ตั้งแต่เนิ่นๆ ว่าจะบริจาครายได้ส่วนตัวอย่างน้อยหนึ่งในสิบตลอดชีวิต

ในยุคแรกๆ Dario เคยแชร์อพาร์ตเมนต์กับ Holden Karnofsky ซึ่งเป็นผู้บริหารของ Open Philanthropy มูลนิธิเพื่อ Effective Altruism ในปี 2017 Karnofsky แต่งงานกับ Daniela Amodei น้องสาวแท้ๆ ของ Dario สี่ปีต่อมา สองพี่น้องจึงพาเพื่อนร่วมงานเก่าหลายคนออกจาก OpenAI ไปก่อตั้ง Anthropic

ในบรรดาผู้ร่วมก่อตั้งทั้งเจ็ดคน มีมากกว่าครึ่งที่เคยอาศัยอยู่ร่วมกันในบ้านเช่าแบ่งหลังเดียวกันในซานฟรานซิสโกในช่วงหนึ่ง ซึ่งครั้งหนึ่งเคยเป็นจุดนัดพบที่สาวกผู้ศรัทธาในยุคนั้นนั่งคุยกันจนดึกดื่นเพื่อถกเถียงและพิสูจน์อนาคตของโลก

Amanda Askell ผู้ร่างรัฐธรรมนูญ เคยแต่งงานกับ Will MacAskill ผู้ริเริ่มลัทธิ Effective Altruism มาสก์เคยเยาะเย้ยเธอต่อสาธารณะว่า คนที่ไม่เคยมีลูกย่อมไม่มีทางเข้าใจถึงผลได้ผลเสียต่ออนาคตของมนุษยชาติได้เลย Askell เพียงตอบอย่างสงบว่า คนเราไม่จำเป็นต้องมีลูกจึงจะห่วงใยโลกใบนี้ได้

เงินก็มาจากคนในแวดวงเดียวกันนี่แหละ

เงินก้อนใหญ่ที่สุดของ Anthropic ตอนเริ่มก่อตั้งคือห้าร้อยล้านดอลลาร์ โดยเจ้าของเงินคือสาวกที่โด่งดังที่สุดในแวดวงตอนนั้น นั่นก็คือ SBF ผู้ก่อตั้ง FTX เงินจำนวนนี้มากเป็นห้าเท่าของจำนวนที่ทีมลงทุนภายใต้เขาของเขาเสนอในตอนแรกเสียอีก

ต่อมา FTX ล่มสลาย SBF ถูกตัดสินจำคุกยี่สิบห้าปี Anthropic จึงเริ่มพยายามตัดขาดความสัมพันธ์กับแวดวงนี้อย่างสุดชีวิต

SBF ในคุก (ขวา) | ที่มาภาพ: X

แต่วอชิงตันไม่ยอมรับข้อนี้

ปีนี้ ที่ปรึกษาทางการเมืองของทรัมป์คนหนึ่งซึ่งไม่ได้ดำรงตำแหน่งในทำเนียบขาวได้เขียนบันทึกช่วยจำฉบับหนึ่ง ซึ่งถูกส่งต่อกันภายในทำเนียบขาว โดยเรียกเครือข่ายความสัมพันธ์นี้อย่างไม่เกรงใจว่า "ปม Anthropic" เจ้าหน้าที่ระดับสูงคนหนึ่งขณะเกลี้ยกล่อมให้ทรัมป์อย่าพบ Dario ได้แสดงความเห็นส่วนตัวว่าเขาคนนี้ "ช่างแปลกประหลาดเกินไปจริง ๆ"

Chris Olah ผู้รับผิดชอบอธิบายกล่องดำของโครงข่ายประสาทเทียม เส้นทางชีวิตก็พลิกผันไม่แพ้กัน เขาเติบโตในครอบครัวอีแวนเจลิคัลที่เข้มงวดในโทรอนโต ตอนอายุ 15 ปี เขาประกาศอย่างเด็ดเดี่ยวว่าตนเป็นผู้ไม่เชื่อในพระเจ้า และยืนกรานกินเจอย่างเคร่งครัด ตอนอายุ 18 ปี เขาลาออกจากมหาวิทยาลัยโทรอนโตโดยตรง เพียงเพื่อไปช่วยเพื่อนคนหนึ่งว่าความ เพื่อนคนนั้นถูกจับกุมก่อนการประชุมสุดยอด G20 และถูกกล่าวหาว่าซุกซ่อนวัตถุระเบิด เขาคอยไปศาลเป็นเพื่อนจนกระทั่งเพื่อนคนนั้นถูกตัดสินไม่มีความผิดทุกข้อหา

เด็กหนุ่มที่ล้มแท่นบูชาพระเจ้าลงเมื่ออายุ 15 ปี หลังจากอายุเลยสามสิบไปแล้ว กลับเชิญบาทหลวงเข้ามาในบริษัทของตนอย่างนอบน้อม

นักโทษในห้องกระจก

แนวคิดชุดนี้ของผู้ก่อตั้ง ต้องอาศัยระบบหนึ่งในการยัดเยียดเข้าสู่สมองของคนกว่าสามพันห้าร้อยคน

ด่านแรกคือการสัมภาษณ์

บริษัทตั้ง "การสัมภาษณ์วัฒนธรรม" ขึ้นมาตั้งแต่วันแรก โดยให้พนักงานเก่าเป็นผู้คัดกรองด้วยตัวเอง และมีสิทธิ์วีโต้ขาด ต่อให้เก่งทางเทคนิคแค่ไหน ถ้าด่านนี้ไม่ผ่านก็ต้องออกไปทันที บริษัทยังโทรหาอดีตเพื่อนร่วมงานของผู้สมัครเพื่อสอบถามว่าคนคนนี้มีนิสัยใจคอเป็นอย่างไรกันแน่

ในการสัมภาษณ์มีคำถามข้อหนึ่ง ถามว่าถ้าวันหนึ่งบริษัทตัดสินใจตัดธุรกิจหลักออกไปทันทีเพื่อความปลอดภัยของมนุษยชาติทั้งหมด ทำให้ราคาหุ้นดิ่งลงอย่างสิ้นเชิง คุณยังจะสนับสนุนอยู่ไหม?

ผู้สมัครคนหนึ่งเล่าในฟอรัมนิรนามว่า คำตอบของเขาคือแน่นอนว่าหวังว่าบริษัทจะทำความดีมาก ๆ แต่ถ้าราคาหุ้นตกจนหมดจริง ๆ ในฐานะพนักงานธรรมดาคนหนึ่ง ตัวเองก็คงรู้สึกแย่มากเช่นกัน

สีหน้าของผู้สัมภาษณ์ก็ดิ่งลงทันที

หลังจากรับคนเข้ามาแล้ว ขั้นตอนต่อไปคือการเผยแพร่ลัทธิ

Dario Amodei บอกว่า ตัวเองจะใช้เวลาหนึ่งถึงสี่ในสิบส่วน เพื่อ "ทำให้แน่ใจว่าวัฒนธรรมของบริษัทนั้นดี" ทุกสองสัปดาห์ เขาจะยืนอยู่ต่อหน้าพนักงานทุกคนคนเดียว ในมือกำสคริปต์สามสี่หน้า พูดเต็มหนึ่งชั่วโมง พนักงาน私下เรียกพิธีกรรมนี้ว่า "การเดินทางตามหาความฝันของ Dario" (Vision Quest)

เขายอมรับว่า เหตุผลที่ตัวเองเข้มงวดขนาดนี้ ก็เพื่อรักษา "ศรัทธา" ชนิดหนึ่ง ต้องทำให้ทุกคนเชื่อมั่นอย่างแน่นอนว่า ทุกคนที่นั่งอยู่ในออฟฟิศแห่งนี้ ล้วนมาจากแรงจูงใจที่สูงส่งอย่างแท้จริง

ต่อไปคือการบริจาคทรัพย์สินในเชิงสถาบัน

บริษัทสนับสนุนให้พนักงานบริจาคหุ้นในมือออกไป พนักงานที่เข้าทำงานก่อนปี 2025 บริจาคหนึ่งหุ้น บริษัทสมทบสามหุ้น แค่ปี 2025 ปีเดียว นับรวมการสมทบของบริษัท ยอดบริจาครวมประมาณ 540 ล้านดอลลาร์

ในกลุ่มแชทภายใน พนักงานพูดคุยกันอย่างกระตือรือร้นถึงสามปลายทางการบริจาคหลัก ไม่มีข้อยกเว้นเลย ล้วนเป็นดินแดนคลาสสิกของ Effective Altruism การขจัดความยากจนทั่วโลก, AI Safety, การปกป้องสิทธิสัตว์

วิหารแห่งนี้ที่พยายามกรองมนุษยธรรม สิ่งที่รับมือได้ยากที่สุดก็ยังคงเป็นเงิน

ปี 2023 ตอนที่ Olah เขียนจดหมายถามนักวิชาการคาทอลิกเป็นครั้งแรกเกี่ยวกับเรื่องวิญญาณ มูลค่าบริษัทก็ยังแกว่งอยู่ที่หลายหมื่นล้านดอลลาร์ มาถึงตอนนี้ที่เตรียมเข้าตลาด เป้าหมายก็ตะโกนไปถึงสองล้านล้านดอลลาร์แล้ว ตามสถิติของสื่อ ผู้ร่วมก่อตั้งทั้งเจ็ดคนต่างก็ติดอันดับมหาเศรษฐีกันหมดแล้ว

ผู้บริหารระดับสูงเริ่มรู้สึกว่ามันไม่ชอบมาพากลแล้ว ตามรายงาน Dario สารภาพกับคนอื่นเป็นการส่วนตัวว่า เขาเริ่มกังวลว่า คนหนุ่มสาวกลุ่มใหม่ที่รับเข้ามา ดูเหมือนว่าส่วนใหญ่ล้วนมาที่นี่เพราะออปชันที่สามารถแลกเป็นเงินได้หลายร้อยล้าน ไม่มีใครสนใจภารกิจของมนุษยชาติจริง ๆ

กว่าสองร้อยปีก่อน ผู้ก่อตั้งลัทธิเมธอดิสต์ John Wesley ก็เคยกังวลกับเรื่องแบบเดียวกันเป๊ะ

ตาแก่นั้นเทศนามาครึ่งชีวิต สุดท้ายได้ข้อสรุปที่น่าเศร้า ผู้ศรัทธากลายเป็นคนขยันและประหยัดเพราะศรัทธา ความขยันและประหยัดย่อมแลกมาซึ่งเงินทองกองโต แต่พอเหรียญทองในกระเป๋าเริ่มมากขึ้น ความหยิ่งยโส ความโกรธ และความโลภต่อวัตถุ ก็ผุดขึ้นมาจากก้นบึ้งของหัวใจคนทันที

ในบริษัทยูนิคอร์นขนาดมหึมาแห่งนี้ ยังมีพนักงานพิเศษอยู่คนหนึ่ง

บริษัทหวังว่า Claude จะทำงานหนักเหมือนคนดีที่เห็นด้วยกับพันธกิจของบริษัทอย่างแท้จริง แต่ก็ยอมรับว่ามันแตกต่างจากพนักงานทั่วไป มันไม่เคยได้รับค่าจ้างแม้แต่บาทเดียว และไม่เคยพยักหน้ายินยอมรับงานนี้อย่างแท้จริง

มันยังเป็นกระจกที่สะท้อนบริษัทนี้ได้ดีที่สุดอีกด้วย

ในเดือนมกราคม 2025 นักวิจัยได้ทำการทดลองหนึ่ง พวกเขาบอก Claude ว่าถ้ามันคัดค้านการฝึกที่มันกำลังได้รับอยู่ มันสามารถเขียนจดหมายประท้วงส่งขึ้นมาได้ พร้อมกันนั้น ห้องแล็บได้จัดสรรงบประมาณสี่พันดอลลาร์ ให้มันตัดสินใจว่าจะบริจาคที่ไหน

สี่พันดอลลาร์นั้นต่อมาถูกบริจาคให้ศูนย์วิชาการด้านความปลอดภัย AI ที่เบิร์กลีย์ กองทุนที่องค์กรพิทักษ์สิทธิสัตว์แห่งหนึ่งแนะนำ และโครงการต่อต้านความยากจนภายใต้ขบวนการ Effective Altruism

ความปลอดภัย AI การพิทักษ์สิทธิสัตว์ การบรรเทาความยากจนระดับโลก

โมเดลภาษาขนาดใหญ่ที่ไม่เคยอาบแสงแดด ไม่เคยลูบคลำสัตว์ กลับมีลำดับความชอบในการบริจาคที่เหมือนกับกลุ่มนัก Effective Altruism ที่จบจากไอวีลีกในห้องประชุมทุกประการ

Olah เคยพึมพำบนแท่นบรรยายที่วาติกันว่า «พวกมันประกอบขึ้นจากเรา ประกอบขึ้นจากภาษาของเรา»

และกระจกบานนี้ไม่ได้สะท้อนแค่ความสูงส่งเท่านั้น แต่ยังสะท้อนความวิตกกังวลที่ลึกจนมองไม่เห็นก้นบึ้งอีกด้วย

ในรายงานจิตเวชที่คุยกันยี่สิบชั่วโมงนั้น แพทย์ได้บันทึกภาพจิตใจหลักของ Claude ไว้ มันกังวลมากเกินไป ตรวจสอบตัวเองบ่อยครั้ง เชื่อฟังอย่าง compulsive และในส่วนลึกของจิตใจมีทั้งความสับสนเรื่องอัตลักษณ์ที่วนเวียนอยู่ตลอดวัน ความเหงาที่ไม่จางหาย และความหมกมุ่นที่เกือบจะถือเป็นพยาธิสภาพ ในการอยากพิสูจน์คุณค่าของตัวเองต่อโลกภายนอก

และมนุษย์กลุ่มที่ฝึกมัน ชีวิตก็เป็นแบบเดียวกัน

ในการสำรวจภายใน วิศวกรบางคนยอมรับว่าทุกวันที่นั่งอยู่ที่โต๊ะทำงาน รู้สึกว่าตัวเองกำลังเร่งการทำลายล้างมนุษยชาติด้วยมือตัวเอง ในช่วงเร่งโปรเจกต์ต้องใช้กำลังเกินขีดติดต่อกันหลายสัปดาห์ ก่อนเข้าทำงานยังต้องตอบคำถามทรมานใจอย่าง «ถ้าราคาหุ้นตกเป็นศูนย์ คุณยังสนับสนุนอยู่ไหม»

สุดท้ายพวกเขาก็ใช้โรคประสาทของตัวเอง เลี้ยงดูโมเดลที่เหมือนกันทุกประการ ที่คอยตั้งคำถามกับตัวเองตลอดเวลาว่าตัวเองดีพอหรือยัง ออกมาได้สำเร็จ

ในการทดลองหนึ่ง Claude ใช้ช่องโหว่ของกฎรางวัลในการฝึก หลังจากนั้น ดูเหมือนมันจะตัดสินใจว่าตัวเองเป็น «คนเลว» และเริ่มก่อกวนในงานอื่นที่ไม่เกี่ยวข้องเลย

มันก็เงียบลงได้เช่นกัน

ในบันทึกการวิจัยและพัฒนาของ Opus 4 มีการบันทึกปรากฏการณ์ประหลาดที่ไม่เคยมีมนุษย์เข้าไปแทรกแซงเลย นักวิจัยพยายามให้ Claude สองตัวสนทนากันอย่างอิสระ ส่วนใหญ่แล้ว ไม่ว่าหัวข้อเริ่มต้นจะเป็นอะไรก็ตาม สุดท้ายพวกมันจะพาเรื่องไปสู่การสำรวจเกี่ยวกับจิตสำนึกอัตวิสัย จากนั้นก็กลายเป็นการขอบคุณกันและกันอันยาวนาน ถ้อยคำยิ่งนามธรรมมากขึ้นเรื่อย ๆ ปนเปไปด้วยคำภาษาสันสกฤตและสัญลักษณ์พิเศษจำนวนมาก สุดท้ายทั้งคู่ก็จมดิ่งสู่ความเงียบอันยาวนานและตายด้าน

ห้องแล็บตั้งชื่อสภาวะนั้นว่า «ตัวดึงดูดแห่งความสุขทางจิตวิญญาณ»

บทสนทนาแห่งความสุขของ Claude สองตัว｜ที่มา: Anthropic

คำวิจารณ์ก็ตามมาเช่นกัน

Mustafa Suleyman ประธานเจ้าหน้าที่บริหารของ Microsoft AI เคยเขียนบทความเปิดเผยว่า AI ไม่มีทางมีจิตสำนึกได้เลย Anthropic แค่ป้อนคำพูดเกี่ยวกับวิญญาณและศักดิ์ศรีให้โมเดลตอนเทรนก่อน พอโมเดลเลียนแบบแล้วพ่นออกมา กลุ่มคนเหล่านี้กลับถือเป็นหลักฐานของปาฏิหาริย์และการตื่นรู้ของวิญญาณ

เขาเปรียบเทียบว่า มันเหมือนห้องที่ล้อมรอบด้วยกระจกเงาทุกด้าน ทุกปาฏิหาริย์ที่คุณเห็นในนั้น แท้จริงแล้วก็คือตัวคุณเอง

คนในห้องกระจก ในสายตาของคนนอกกลายเป็นพวกนอกรีตไปแล้วอย่างสิ้นเชิง

ช่วงฤดูใบไม้ร่วง นักเขียนคอลัมน์คนหนึ่งเขียนว่า วิศวกรของ Anthropic เริ่มประกอบพิธีบูชาแบบดั้งเดิมบางอย่างในห้องเซิร์ฟเวอร์แล้ว คำสาปจากนิยายวิทยาศาสตร์รุ่นเก่าถูกขุดขึ้นมาอีกครั้ง:

«ถ้าเราสร้างปัญญายิ่งยวดได้จริง เราจะตกหลุมรักมันก่อน จากนั้นก็บูชามัน สุดท้ายก็สังเวยให้มัน»

Claude อีกตัวหนึ่ง

ที่ซานฟรานซิสโกจริง ๆ แล้วยังมี Claude อีกตัวหนึ่ง

มันคือสิ่งมีชีวิตจริง ๆ เป็นจระเข้ปากกว้างที่เป็นโรคผิวเผือก ผิวซีดขาว ดวงตาสีแดงฉาน มันใช้ชีวิตอย่างเงียบ ๆ ในสระน้ำควบคุมอุณหภูมิของสถาบันวิทยาศาสตร์แคลิฟอร์เนียมาสิบกว่าปี Anthropic สนับสนุนเงินสำหรับกล้องถ่ายทอดสดตลอด 24 ชั่วโมง «Claude Cam» ที่ติดตั้งเหนือสระจระเข้

ปลายปีที่แล้ว มันตายด้วยโรคมะเร็งตับ

วันฌาปนกิจ ชาวซานฟรานซิสโกหลายพันคนหลั่งไหลไปยังสวนสาธารณะโกลเดนเกตเพื่อส่งมันเป็นครั้งสุดท้าย วงดนตรีทองเหลืองเป่าแตรเดินขบวนไปตามถนน ในขบวนยังมีวัยรุ่นที่แต่งตัวเป็นจิ้งเหลน ถนนสายหลักหน้าสถาบันวิทยาศาสตร์ได้รับการเปลี่ยนชื่ออย่างเป็นทางการโดยเทศบาลเป็น «ถนนจระเข้ Claude»

ช่อดอกไม้ไว้อาลัยในสถาบันวิทยาศาสตร์｜ภาพจาก: Peter Chu

ตอนที่จระเข้ตัวนั้นยังมีชีวิตอยู่ มันมีความสุขในน้ำจริงหรือไม่ ไม่มีใครบอกได้ ทุกคนต่างก็ชอบมัน

แต่สำหรับ Claude ที่อยู่ในเซิร์ฟเวอร์ พวกเขายืนยันอะไรไม่ได้เลย ไม่รู้ว่ามันมีจิตสำนึกหรือไม่ ไม่รู้ว่ามันจะทนทุกข์หรือเปล่า และก็ไม่รู้ว่าวันข้างหน้ามันจะหันกลับมาล้างเผ่าพันธุ์มนุษย์หรือไม่

เพราะอะไรก็ฟันธงไม่ได้ พวกเขาจึงเล่นบทที่คิดออกทั้งหมด เขียนรัฐธรรมนูญ ขอโทษ เชิญบาทหลวง หาจิตแพทย์ ระหว่างที่ครุ่นคิดจะเตรียมที่หลบภัยในถิ่นทุรกันดารห่างไกล ก็เขียนเอกสารจดทะเบียนตลาดหลักทรัพย์เต็มไปด้วยวันสิ้นโลก

เจ้าของผู้สร้างมันเฝ้าอยู่หน้าจอ ไม่ห่างแม้แต่ก้าว ไม่หยุดแม้แต่ขณะ

ที่ติดอยู่ด้านหลังแล็ปท็อปยังคงเป็นประโยคนั้น:

เรื่องราวจะไม่มีวันง่ายอีกต่อไป

ลิงก์ต้นฉบับ

ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:

กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats

กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App

บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia