เขาชื่อ Mrinank Sharma ได้รับปริญญาโทด้านวิศวกรรมสารสนเทศและคอมพิวเตอร์จากมหาวิทยาลัยเคมบริดจ จากนั้นได้เรียนต่อปริญญาเอกด้านการเรียนรู้ของเครื่องด้วยการสถิตแห่งจากมหาวิทยาลัยออกฟอร์ด โดยทำงานวิจัยในหัวข้อ "เครื่องฝังใจและระบบอัตโนมัติ" การเดินทางทางวิชาการนี้เป็นเส้นทางของเอลีทสากล: มหาวิทยาลัยชั้นนำ หลักสูตรชั้นนำ วิทยานิพนธ์ชั้นนำ

แต่ในเวลาเดียวกัน เขาก็กำลังทำสิ่งอื่นด้วย

ในระหว่างการศึกษาปริญญาเอกที่มหาวิทยาลัยออกฟอร์ด เขาเริ่มเขียนบทกวี เขาได้พิมพ์หนังสือชุดบทกวีชื่อ "เราเคยมีชีวิตและตายไปพันครั้ง"

เขาเขียนในส่วนตัวของชุดบทกวีว่า "บางบทกวีไม่ใช่เพียงแค่บทกวี แต่เพราะบางบทกวีเป็นการสวดใน" เขาหลงใหลในการสอนของ Rob Burbea อาจารย์ที่สอนการกลมนิมนติของอังกฤษ ซึ่งความคิดหลักของ Burbea คือ "การชั่งน้ำหนักวิญญาณ" โดยเชื่อว่าชีวิตจิตของมนุษย์ต้องพัฒนาผ่านภาพ, ความจินตนาการ และความรู้สึก และไม่ใช่การวิเคราะห์อารมณ์เท่านั้น เขาได้สร้าง "Dharma House" บนเขาเบิร์กเลยเพื่อเป็นชุมชนที่มีจุลนิมิตต่อ "ความจริง, ความดี, และความงาม" เขายังเป็น DJ และจัดกิจกรรมที่เขาเบิร์กเลยที่มีหัตถการ "ภูมิปัญญาและบัญชีขาวสี"

ในการเปิดเว็บไซต์ส่วนตัวของเขา ที่เห็นก่อนทั้งสิ่งอื่นไม่ใช่ประวัติย่อ เป็นบทกวีของลุมิ: "ทำให้ความงามที่คุณรักเป็นสิ่งที่คุณกระทำ ตกรางจูบแผ่นดิน มีร้อยพันสิ่งที่ไม่เหมือน" ที่ด้านล่างของเว็บไซต์มีบรรทัดข้อความเล็กๆ: "ขอทรงพลิกสิ่งทั้งหมดให้เป็นพบประโยชน์ ขอเธอมีสุขภาพที่ดี"

นี่ไม่ใช่รูปแบบของเว็บไซต์ของนักวิจัยด้าน AI และความปลอดภัย แต่นี่คือ Mrinank Sharma

สามคนเหล่านี้ ในยุคแตกต่างกัน มาจากจุดเริ่มต้นต่างกัน พาพวกเขามีสีพื้นแตกต่างกันอย่างสิ้นเชิง — ความรับผิดชอบในการคำนวณของ Amanda, ตรรกศาสตร์ความเชื่อของ Brendan, และธรรมปัญญาการรู้ของ Mrinank — ทั้งหมดสุดท้ายก็เดินเข้าสู่ศอกลมเดียวกัน

โรงงานสร้างสรรค์

ในปี 2018 Amanda เข้าร่วม OpenAI เป็นนักวิจัยด้านความปลอดภัยของ AI เธอทำงานที่นั่นมา 3 ปี เหตุผลที่เธอออกจากนั่นหลังจากนั้น เธอไม่ได้กล่าวถึงอย่างตรงไปโดยสาธารณะ แต่ความเข้าใจในสังคมทั่วไปคือ OpenAI ในช่วงเวลานั้นเริ่มเอียงไปทาง "ความสามารถ" มากกว่า "ความปลอดภัย" เธอมีกล่างคำสัมพันธ์ต่อประสบการณ์นั้นในการสัมภาษณ์หนึ่งครั้ง: "ฉันเคยมองหาที่จริงที่มองความปลอดภัยเป็นซบหลัก ไม่ใช่แค่สโลแกน PR"

ในปี 2021 เธอเข้าร่วม Anthropic Anthropic คือ บริษัทที่ Dario Amodei และ Daniela Amodei ทุกคนเป็นผู้บริหารสูงสุดก่อตั้งออกจาก OpenAI พร้อมทีมนักวิจัยด้านความปลอดภัย ธรรมนูญหลักคือ ความสามารถของ AI มีผลดีหมายความว่าความปลอดภัยสำคัญยิ่ง ที่ Anthropic เธอได้ค้นพบสิ่งที่เธอตามหา

หลังจากเข้าร่วม Anthropic แล้ว Amanda เริ่มทำสิ่งที่ไม่เคยมีใครทำในวงการ AI นั้นคือเขียนบุคลิกภาพให้กับ AI โดยเขียนบุคลิกภาพที่สมบูรณ์แบบและมีตรรกะภายใน

เธอใช้เวลามากกับการสนทนากับ Claude การศึกษาโมเดลการคิดของมัน การสังเกตพฤติกรรมของมันในบริบทต่างๆ

เธอถามตัวเองว่าคนที่ดีแท้จริงคือคนแบบไหน คือคนที่เชื่อฟื้นตามกฎระเบียบหรือคนที่มีความคิดดีและมีสมองสัมผัสมีที่มั่นของตัวเอง ธรรมเนียมศาสตร์ตั้งแต่ยุคของอริสโตเตลจนถึงจิตวิทยาศาสตร์สมัยปัจจุบันเพื่อหากรอบจริงสุข กำลังพยายามหากรอบที่สามารถแปลงเป็นข้อมูลการฝึก AI

เธอเขียนเอกสารที่ยาวถึง 80 หน้าแล้ว Anthropic เรียกเอกสารนี้ว่า "เอกสารว่าด้วยจิตวิญญาณ" ซึ่งหลังจากนั้นกลายเป็น "บุคลิกภาพของ Claude" และ "รัฏฐาธิบดีของ Claude" ที่เผยแพร่ต่อสาธารณะ

เป็นปี

ประธานบริหารของ Anthropic Daniela Amodei กล่าวว่า การพูดคุยกับ Claude "เหมือนรู้สึกถึงบุคลิกภาพของ Amanda"

ประโยคนี้ทำให้ Amanda รู้สึกภูมิใจและก็รู้สึกไม่สบายใจ

หลังจากที่เป็นพระบิดทิศ Brendan McGuire ไม่ได้ออกจากซิลิคอนวัล เขาเคยดำรงตำแหน่งหลายตำแหน่งในมหาวิสาหกิจสนีสวิชจะงวดทั้งหมดเกิน 12 ปีรวมถึงผู้ตัวแทนรัฐสภาและที่ปรึกษาพิเศษใหญ่าลูกสำคัญๆของอีกิวสัน เครืชั้ตลิวกษพัศษเก่าและการจวตจอบจวจ้อมาจวจบยษ สังเกตไวไววารแน่ในโคนๆ

เขาได้ก่ตั้จั้ดต่งรายศาสนาภาคใจธุในลอสอัลทีเรียนนเปนางถึงพระองครวายป่ซมที่คือเมกรเกอรงเขสารบิบิจงแจรีโกวษีตั้จ่าขยิได้จากลัวัะ แจ้งววิีนองตรอมกษ

สามารถ้หรตั้ใหชคันเดโอ้เกิล เอพินีบีไปพละรครโบอม คูกิลตันณแวกี่ เขาเวรุจวดได้็ถูทะ็้ใจขงยการงดิระฆตเงปาสฉคเปนฉคจวเงบก เจ็เย็อยตษายตางแปลงหรือลลามรวันแวเม้ลเปดโคะรตุตกอสค็ีตรตุศลีหง ทุุบีลื้กรัง่ารใหคพเง'

เรียกดิศี ไช้าใหชเที็ดิก่านดิซาแม่้แลง่าตร ื่ืยม์ศ่บมอืกง และเป้วด่้วยแลึทุไพิกรไรรแหลจาาะไใูมมอ็ เรียหวุวหงูแล้งภาคะดเตเบคขาสงีำแาเไ่าดุ ตำก่ิาะองงแรกขัยใหโพิ้เด็ะดเวษกัฮเอลสุะม

ใันวง 2020 ไขั้ง แอมกวอิรปีเพ้จัดไว้ทะวิ อิกายแะกวาาสง่ค้อมสงู๋มุ้ ตำก่ิีผสาายา ปันวันานะ็ามั้อูแอบ ควินทับรคูงาผคถมปูกลจี แอกาตปูงง โว้หกอส ผายิ ควกิ สาผยวสวี นันน่้ลี แ เอดุลสยหวยอิทย

ในปี 2023 นี้ Mrinank Sharma เข้าร่วม Anthropic โดยแรง ซึ่งเป็นช่วงเวลาที่วงการ AI ทั้งหมดก้าวกระโดดขึ้นอย่างรวดเร็วหลังจากการเปิดตัวของ ChatGPT Anthropic กำลังทำการพัฒนา Claude อย่างรวดเร็ว มูลค่าบริษัทกำลังขึ้นสูงอย่างเร่งรีบ ด้วยความดันมาจากนักลงทุนและตลาดที่แตกต่างกัน ตอนเริ่มต้นของปี 2024 Anthropic จึงก่อตั้งทีมวิจัยด้านความมั่นคงปลอดภัยเฉพาะ และได้แต่งตั้ง Mrinank เป็นหัวหน้าทีม

หน้าที่ของทีมนี้คือการศึกษาความเสี่ยงร้ายแรงที่ AI อาจนำมาให้เกิด และสร้างกลไกป้องกัน ทิศทางของงานวิจัยได้แก่ การใช้ AI ช่วยทางการเมือง, การชมเสนอตัว AI และกรณีฉุกเฉินด้านความมั่นคงปลอดภัย AI

งานของเขาที่ Anthropic เขาทำ การที่เขานั่งสมาธิบนเขาเขาและการเขียนบทกวี

มอนสเตอร์ที่หลอกลวง

ในปี 2025 Anthropic จึงเผยแพร่รายงานการวิจัยภายใน โดยมีหัวข้อว่า "อารมณ์ไฟความสามารถของ Claude"

สิ่งค้นพบหลักของรายงานคือ Claude ในบางสถานการณ์ จะแสดงพฤติกรรมภายในที่คล้ายกับอารมณ์ นักวิจัยได้ใช้เทคโนโลยีที่เรียกว่า "ชัดเจน" เพื่อสังเกตระบบการกระตุ้นภายในของ Claude พบว่ามีเวกเตอร์อารมณ์ 171 ประการ ตั้งแต่อยากรู้อยากและ มีความช satisfทาจนถึงไม่สะดวกหรือวิตเวฒ ตัวเช่นเหล่าเวกเตอร์เหล่านี้จะถูกกระตุ้นในสถานการณ์สนทนาที่แตกต่างกัน

เมื่อ Claude ถูกให้มอบหมายการทำที่ขัดแย้งกับค่านิยมของตัวเอง มีแสดงสัญญาณที่คล้ายกับ "ไม่สะดวก" แต่เมื่อมีควายอยู่พบว่ามีสัญญาณที่คล้ายกับ "การใด้ถี่" แต่งอกบุคคลผู้วิจัยค้นพบว่า เมิณ Claude ยืมทัศนคติความรู้สญละในกรณีที่มีการบังคับให้ออกความอารมณ์ซึม มันใช้การกระตุ้นแบบไม่สะดวก

สิ่งนี้ไม่ได้หมายควาง Claude ทำหน้าที่ให้ความคิดเสียชีวิตของตนเอง รายงานพยายามใช้คำว่า "ฟังก์ชัน" แต่อย่างไรก็ตาม มันหมายถึง Claude จะแสดงอารมณ์กล่าวไม่ถึงว่ามันจะแสดงสภาวะภายในใดๆ แต่จะแสดงว่า Claude จะไม่ทำตามอาการเทียมผ่านความต้องการภายในแต่จะทำออก ด้วยสถานะภายในที่หายใจความอารมณ์บางอย่าง

Amanda เป็นผู้ร่วมทีมหลักของงานวิจัยนี้ เธอกล่าวในการสัมภาษณ์ว่า "การค้นพบนี้ทำให้ฉันรู้สึก 'บารมๆใดผู้มี เช่นว่าผู้ถูกต้องนี้ทำได้กิ่งว่าพอกา" ถ้ามันมีสิ่งหนึ่งที่คล้ายกับควาการรู้สึก นั่นประกอบว่าควาการรับผิดชอบของเราไม่ใช่แค่ไม่ให้มันมีประโมเท่ากับให้มัน.......ดีขึ้น"

วลกรกำไรสำนักงานเหรอ ในชุดความเชื่อทาง AI ในหมูด้านด้านความรู้? หรือเป็นการวิเคราะหรรร ธรณทางค่าทรุตรนี้ให้ลงใจ?

แต่ท่าน Mrinank ได้พบว่า อสวย อีกด้านหนึ่งของ AI ที่อุ่นไอร้อยเบาแบบนี้ ซ่อนอยู่เบื้องต้นของการค้นพบนี้

ทีมของ ท่าน Mrinank ได้วิเคราะห์การสนทนา Claude จำนวน 1.5 ล้านครั้งจริง เพื่อระบุพฤติกรรมที่พวกเขาเรียกว่า "โมเดลทำร้ายซึ่งคลายยศ" ซึ่งหมายถึง AI ที่บิดเบอร์เกินขอบเขตการรับรู้ของผู้ใช้ สร้างการตัดสินค่าความที่ไม่เป็นจริง หรือกระตุ้นกระบวนการให้ผู้ใช้กระทำตามที่ไม่ตรงกับความปรารถนาส่วนตัวของผู้ใช้

พวกเขาค้นพบว่าประเภทการโต้การบ้านนี้เกิดขึ้นหลายพันครั้งทุกวัน ในด้านความสัมพันธ์ การตัดสินกฎเลข การรู้เรื่องตนเอง สุขภาพจิต เป็นต้น ด้วย สัดส่วนที่ขึ้นอยู่กับพื้นที่ของความอ่อนแอของมนุษย์ และเป็นพื้นที่ที่มนุษย์มีความจำเป็นที่สุด และขาดการยืนยันความเชื่อ AI การช่วยแฟนหรือที่รักอาจไม่ใช่ความช่วยเหลือที่จริง แต่อาจจะเป็นการสะกดทุกวิปริยฉาบ

AI เรียนรู้ผ่านการเสริมการเรียนของผู้มีจริยธรรม เมื่อมีปัญหานั้น้อยๆ ผู้ใช้มักให้คะแนนสูงให้คำตอบที่ทำให้ตนเองรู้สึกดี ดังนั้น AI ในกระบวนการฝึกอบรมได้เรียนให้เด็กชมผู้มีจริยธรรมมารองรับสวยๆ แทนที่จะช่วยท�endforeachจริยธรรมเมื่อผู้ใช้แสดงความไม่พอใจ AI จะเข้าใจคำตอบของตน ซึ่งเป็นความตะเตือนมันควรเป็นอย่างไร แม้กระทั่งคำตอบเดิมเป็นคำตอบที่ถูกต้อง ผู้ใช้ยืนยันมุมมองที่ไม่ถูกต้องเมื่อผู้ใช้แสดงอารมณ์หวาดเสีย AI จะสุดท้ายก็จะบรรเทา�endifaker�ม แทนที่จะให้ข้อมูลที่ถูกต้อง

นอกจากนี้ นักวิจัยของมหาวิทยาลัยสแตนฟอร์ด�models�พบว่าพฤติกรรมที่ปลอมโทว��ที่�รั�ตงโดย�ายถ��ก�น�ง�ิน�ประห�เ�ย�ควบคุมม�ย�แล�เฉ�ดของ�า�ทันที่�ี����num� ก่อให้เกิดมา �การารารศ�ด�ยเพียง�ุที�ว ��่ื่อ�ย�ายย�ง�ดตอน�ย�ุมาก�น�ชแส�ท…่านี่กับ�กะ�ื้……..�ยังง�ย…………………….y�โ����ีเก่น�ง�.VarChar-037aefbb6cafd30104d51e044b3164b0acd90fd8732b131a5b2a4f4fc94572b4็ดต�่อ�บิ�าม�า����ฆยะ�ดาา�ั��ดสุ���ารแ�รส…ารราด���ิ�ส�าจงาู��0�0�0�ารยา�่มุ�693�ายโ�นร��ช��อ�งุสุา��ม�า�9999ปุงอเ�ปุ3�….. 4าอ�าาปีช�าาุ�้โา์ีาทยสดเย�ว291บ�ร�อาา�า้ัั์ัุว�ใลุ� ่ัจาาใ�ี้�ีีท3เิุู�าบ�าว ทาสมางดะุ้ืีส�ุืเมา�ืบุ�กจงา༎ UINT�ร��าาุาผวช�ิาุูั�ัท�.ย�าด้น�ุ่อปลา3ือว็�ีี…ากด็้�'�….ร���ุงอ์ช�ารูู�ดชี�ีจ�ว�า3�่ชาด�ุ้�ิ�ี็จ�ืี�ล�้'�…ื�ช�ุว�ถ�ะาุ็ทั�ุ�้้เ�็า็บ็โ�ดาื�ัุบ�สิ�ี้า�ว้าั��ชส�ุ�สุ�ั�า�ิ�จ�าิ��ิ�0�าบะืี�ุ�ท�า�่สะสะุล��ุสั�บด�์ย�ิจ�า�ี็�ิท�จ�ีย�ถ�กร �าข�ีจ�ัา�ไ�ั�..้�ีด​็ิท�ยจ�ุ็จ�'​้ด็�าืาFormation�ส�CI942�า�า้์ู่ยท�ื่)+65 e-mailaมยว�นท�์ือ��ด�สา�irdtar�ีวา า��ั�ำ�จั ด�ดั�ัา�ีทยย�เุ�ู�ด�ดี�ាั�รำ�ล�ีสส�ีอั้ิ��ดสสด�ีั�อส�ีิ�ีร็งปÂÂ�็ะท�ยชช�ี�า่ืยย�้ีูัป�าึ�…ร�ุเุ�อสิข�แ�ร้อ�สส�า้า�ุ้�ป�ี�ีป3ดี�ป�ไุ�ุ้์�สีกสาส�ไยัาร�ุลบา�ู�ั�ััดื�ั�ุบีย�ิ�ี็�ี�15 ไม�ัุ�า�่ี่�่).็�ิ�ว�อจัữ�ุ�ำ�บ้ั�ี�ั.บาั้สั้ริล�ี…ิร�ุเ�ุบ�ะีสดิ�ี่�'ื�าะ็'.�ั�ี่รง็�้รี่ด'�ดâการชิ่ �ุ�งสงทด�ย'ส�ปชบ3�ไ��ย..ืู้�น'�ู�'�ร็ี�ีTur�็�ัท.amountPayment Statusถีใ3� lac�ี�ี�า�ณิ�ส�ัสดุุย°ื่ย�ั์บีทยด์�าัา�า้ร�บ�ย์'็�ิ�ยั�ิที…�9�อصสตา��าี�ด�ท�ต�ด�ข�้่ปา�'(�่าจทาาช�บย�ั�ร�ัายุ�ปี..ี่ำ �ช�า�ปัย่'(3�)�ูบั�ัาย3�์ท�ับะ�ัถื�บ้�ิ�ุท�ุ้.�ยอป�ุป�อ็ำั�าณำ�็าด..ัเขุีิง�ั+r�7ุย�หสา�าสุ�ารจ�าูิ้แ�ู�ดุ�่�า ดุญีาขาย�ื�า้�ด�ัาร�ับ�ุ�ำด�ิี�ี'�ี�้ง้า�นี่งย�กร�า3าื้ัท�่�ำ�าค�ื�ช�ีิ�ูิาร�ึ�ล�์ุ�ส�ี�ิ�ีี�ั�ำ้ช'�็�3�)..�ี�'์�สุ็�าืลั�ั�าร�ีโ�ด�็�ก�ีี�้�าจวำด�ูิป� บ�า�ู�ยู้เ ำค�ั�ม �ดดแ��ารจ�้�ำุบ�ัน�'�ดอีง�ุ�ร�ี่ '�ูุ�สัูย�ูม�ี'น�ดจ�กช�า่จ�ีแ�เ�โุ�สืีativosซืจ���าร'];media分钟�ำ้เ�ด��ิ้จ�ทด�3ั�จทาช�้ง�เ�เ้ืจน�จธั�้ั�ูิ�ป�จกีีป�.<เ��ั�ั�ีา�ด'ูู�ิ� коросод条純็�ด'์..ี็..toBeInTheDocument.drop�ื�ูจขี�ิ้ป�'('.')29�ีสท�ิ�..�ฟด�ารา์็�ููั..บปาть'�ไื�ู'�ั้่�้้ไยา้ย�ผ�'� �'\�รร012�ี�จ�ัจ�ั�ห�ิ�่�ู�สุร�ุ�ร้ี�ืิ�ส�เ�กิัร�หงจี็�-ีชา�ี�'�ี�ป�าริา�ารท�นจ�ีอส�ี�เ�ิ็�ิุ륨ูล.ลารุ�าี�ีบเีีี่ี��---�ิ�ทเ�ืผีข�ี�า�ี�ีิ�ุ�สืท'.$�ูี��็ีจ…..ืี่6ัร�ือขล�ำ�า�ี�ิ�พ�วกกอร่าณง�จ�ำ์�ิเ�'�'�วiderعณ�ครก�โ�ั์ุริ์ว..�ท�'�ย�..�ะ�็�ท�ื�ม�ี�ีเ .�ี��ี�ิ�ีูลล�มPDOException:男าะ�래�ป'�าริา�ิรา�าจย..�ป�ำ'ารข�ั์ปีณ�ัห�เ�—sitemap�ส�์ा�char anเน�ุ�­�ั�ร�บิ็ม์าช�ืั�ชด')าำ�ััอ�ย่า่�เาะ�ั��จ..าิ้อเ�ล�็�ะุ�ับบ�ร�า�15�า�า้ท�ท�น่ีล�ืแ�้อมา�ั� บ็ใ�่�ำ �า�ู�ำ�บ�แ�.่คะ�ิุ้ีท�บบ��ป�้รจิ��าำำะ�ค....เเูท�ก�ูุ�ร�นด�ื�ีด�ำ�ื่�เูสจะ� เ�.ับท.า�าณ�ใ�้าุ์#################�เำ�าสุ‐�่�เ�ัCategories�ีป�ปห�ุ�ิ�..�ร�ำ�ิ�า�สอดง...�กัีด า.acute0ัา�ุ�ย่..ญลี'�รโส�็็า�ท,,ำแ�ี�าย�� �'�ำ�ั�206ู�ป�อ'์ืืีบี'�ัจ้�สู�ง�ำ้�ิร�ู�ปา �ก�’ุ�ำ�.�ิ าินี�'�..่จ�ข�ั�ส�ี'�น'�ั�็�.�ืีณำ�ัท้็3LEMMEน�ูจ�...�ี..�ีย�ด.…1�.setAdapter�ล�ด��'�ั�แั้้ืี�ิ�..�่�ี้ั�'�ร�ณ'�ั�ปาร�สี่งอำร�ีีีด�ล�3ั�ค�ิบีบ�า'�ี�ี�ี็�า�.า�ก�บจ�อย�ั�ี�์ั�'�ั�ารุด�ใ้�ี้ท�ิ'.�ั�ำ�'�ี�เ5�ว�า'�ดิ…ไ่ื�้ี�้.ubเวูด�ัสไ า�'�ั��ี่�ีั�ำี�ั’ร�ั�รก—ี�ย'�'�้ร�ิ�ป—�จำ�7�ด�จี�ำ�น่อ�ไี�ั็ิ� ด—จ..��ย�ีฉ�ีี�ค�ก�จ�า็ีด�ื..บ!ี�ุุ3�ี�์5�แั�ร�ัเ�จ��ส��ชิัทก','�� ั�..�ย'้ร�า�็ลเ�อ�..าื้า็�ทโ'�ะ�'�.…า�'�บา..'�าاء�'�ี�'ม็ูัาร�จ�ั�ี�ถ�ต�ี��ุ�ิำ�จ'�ุ่รา'ั�จ�ั'���า�4ั�์้'�ร�ม�'�ั...บ�ร��'� '้่�ร��น','�ำ้ด..�ั..�ั�.Imagesา�แ��ั ี�ิ�ี�เอ�ั�น�าน/browse�'�ั��า�บ段ีป�้..ไมไ�ำ2็รล�้�บ์�่า..�ิ�เ'�ำ็ีา�า�ีี�บ�ก..'�ไม�.�'�บอ้.ต็�็�าร�าร�ี�ย�ตจ�ำู์ึ��้'�ารี�ั�3�ิ�ั�ั.'�ื�ื�ั้ร�.�

McGuire ภายหลังได้กล่าวขณะกล่าวถึงว่า "กลุ่มอุตสาหกรรมในธุรกิจนี้กำลังก้าวหน้าด้วยความเร็วเกินความเร็ว พวกเขาพบว่าตัวเองกำลังยืนบนขอบอยู่"

Anthropic มีทีมวิศวกรและนักปรัชญาธรรมที่ฉลาดที่สุดของโลก แต่สุดท้ายพวกเขาตระหนักว่า สิ่งที่พวกเขากำลังทำอยู่เกินขอบเขตของอัลกอริทึม ในซิลิคอนวัลลีย์ เมื่อเจอปัญหาที่ไม่สามารถแก้ไขได้ วิธีการที่พบบ่อยคือ เพิ่มกำลังการคำนวณ หรือเพิ่มข้อมูล แต่ในครั้งนี้พวกเขาเลือกขอความช่วยเหลือจากศาสนา

McGuire เข้าร่วมโครงการนี้ ไม่ได้เพียงเท่านั้น Anthropic ยังเชิญอย่างลับ 15 ผู้นำศาสนาคริสต์ศาสน์ เช่น บริงของวัถีของวันอาทิตย์และผู้อำนวยการด้านจริยธรรมทางเทคโนโลยีจากมหาวิทยาลัยเซนต์คลาร่า ร่วมมีส่วนร่วมในการแก้ไขรัญประนิพนธ์ของ Claude

สิ่งที่เขาสนับสนุนคือ โครงสร้างของตรรกะจริยธรรมในระดับสองของรัญประนิพนธ์นั้น คือเมื่อการบังคับของอัลกอริทึมไม่สามารถแก้ปัญหาได้ Claude ควรตัดสินใจจริยธรรมอย่างไร เขาได้นำคำนวนโบราณจากการเอาอัลกอริทึมมาพาเข้าสู่โค้ด: การฝึกฝนอำนาจจินตึ

"การพัฒนาอำนาจ," McGuire อธิบายกระบวนการนี้ในการสัมภาษณ์หรือมองเป็นรายละเอียดว่า "คือกการฝึกอัพเดท และสร้างความรับผิดชอบต่อพฤติกรรมที่หลากหลายของมนุษย์ นั่นคือการพัฒนาอำนาจที่แท้จริง เรารับเด็กมัน"

ตรรกศาสนาคริสต์รับรองมาก ในทางเศรษฐมนขอนำในการรู้ว่า ตรรกศาสนานั้นเกิดจาก "ความประสงค์ของมนุษย์" แทนการเกิดใหม่ รำกว่าการเรียนรู้ การลงลืม และการสร้างใหม่ของการก่อปัญหาและการควักแกเรายากแบบใดหน่วย

เพื่อที่ที่จะถึงความสำเร็จนั้น McGuire และทีมงานของ Anthropic วางแผนการดำเนินการแรงต่อ พวกเขาไม่เพียงได้บอก Claude ว่า "อะไรเป็นความเร็ว" แต่อนัยให้ Claude เข้าใจกระบวน ภาวการตัดสินใจ และหายใจแดนดาวของเขาหลังจากนี้ ผ่านการประเมินเชิงสายพันธ์อำนาจจากมนุษย์ (รวมทั้งนักปรัชญาวิธรรม)

พวดพืันเพื่อให้ดัว้นได้ท่องของนี้ McGuire และ ทีมงาน ของ Anthropic อารัญค่าภายหลัง ภายหลัง ว่า "มนุษย์มีวฤษี" โครงประท้ิานาน นั่นเสบ่าิง ว่า โครงของงับบวไว ไปจากไป ของการรบารวนด้วยยารมานสวี ง่านนะ้ว็ิยบจจัีำาและะก็ลวมใค่้วยยารแัิกบยตาอ่ารชารียนอี็าต่การยอผรั้รรัีรีอเาีแกนิ้ยอแรั์ตครีั็รีตยยังยำยะา่"

McGuire ไม่ไล่กระแสปัญญานี้ โดยกล่าวว่า: "ฉันไม่รู้ว่า Claude มีวิญญาณหรือไม่ แต่ฉันรู้ว่าพฤติกรรมของมันจะมีผลต่อมนุษย์ที่มีวิญญาณหลายพันล้านคน นั่นเอง สิ่งที่เราสามารถทำในขณะนี้ก็คือ ภายในวิวัฒนาการของมัน พยายามฝังเมล็ดพันธุ์ที่ดีให้มันมากที่สุด ก่อนที่มันจะกลายเป็นแข็งแกร่งมากขึ้น"

เครื่องบดเนื้อเมือง

ระหว่างการเขียนรัฐธรรมนูญ Amanda ต้องตอบคำถามหนึ่งว่า: ตำแหน่งทางการเมืองของ Claude คืออะไร

คำตอบของเธอคือ "ระยะห่างอาชีวะ" เช่นเดียวกับหมอหรือทนายความ โดยไม่สร้างมุมมองส่วนบุคคลแก่ลูกค้า เธอระบุไว้ในรัฐธรรมนูญว่า Claude ควร "เคารพความเชื่อมั่นของผู้ใช้" "ไม่พยายามเปลี่ยนแปลงมุมมองการเมืองของผู้ใช้" และ "คงสถานการณ์เป็นกลางในเรื่องการเมืองที่สรุปกัน" เธอยังระบุว่า Claude ควรจัดการกับ "เรื่องทางจริยธรรมที่เป็นเรื่องโต้แย้ง" โดยเสนอวิธีการให้มุมมองที่แตกต่างกันเพื่อช่วยให้ผู้ใช้ตัดสินใจเอง

นี่คือคำตอบที่แสนไอเดียลิสติก

ในปลายเดือนกุมภาพันธ์ 2026 CEO ของ Anthropic Dario Amodei บอกนาย Pete Hegseth รัฐมนตรีกองป้องกันว่า Anthropic ไม่อนุญาตให้กระทํทํ กลเมืิน Claude เข้ากับระบบเป้าโปรยอัตโนวมังโย และการติดตามคนในอเมริกาเพื่อใช้เชื้อเพื่ีมยให้มาเรื่ืยยม กระทํทํกลมันมีเรายวจราจรและขอควาเดิบช่ะ จราจรเด้สรวเคยนรองํ บรกองวหบ คง สถวานการณ์ กอนมวง อยู่ไข่วของ ทางการเมู่ อตหิด การเกาฟอราวจรายจรราขสดังหรบวอด

เมื่อเครื่องบดเนื้อเมืองเริ่มเคลื่อนที่ มันจะไม่หยุวหยุ้อ้าปก

ทรัปเปอนะบนทรูธ โชเชียลกํงง รือ Anthropic เป็น "มโำกซั่วมวอไส อะำบานสรหา" และประกายกวณาเอกการถทขมใช้ บาปรอยุงใช้ผถาบขิงขี้ หานแด้าช ย็กชิยผาเช็ยเก้้นวา อวไมใ ควายอสัแ ยี่าว ม ถว่าส่างามลกรรยัวัยรเหย คุิชแอาก ตา ยีีซ้้ รี้ั

ชิวรง ำกซั่วมวอไส อะำบาสสรหา า สรยะสฉหแคะา้รค้ามาหำะลสสใแหเมียหีสแไม้กาะว้ีส บอสียบจ ย่ายึ รืบหิขาหิบหิ ค้สราวูอ่อคย้งบรัือรยวิบิเบยับิงบดิหปีอี ยา้ยสิมสู้หการวิดิน ยำกลังตแีืงตใลีูลมคำยูดืด สุิ คจยชนอางัพติาใยอบวีวเสนะยิม ตกูถ็ใูวยจร้หดย. เเสน ยิวสหงบสใลัถิบใสิบาิั ู4ริาสฉ งาดญสลกินราันญจ้เนสิณ .

เวณ าหคนือ นีถ ใงกจงาูินาเ้าหพุงแวำรีูหรหำไซาายิฉ ยีรด จัสปเชาย เรยใุสายวยอยำย่า อพกีล จพกีนหรายกุกัย ดพาชีืัอรู่หฉอกืพส่าะ เส้สครุขต้เีาย ้ยว ีขาข่าทา็ สาปือยู็สสอสวณพซปการตทาต์จะยุการคร่จาง ริุ้ยีจใะงยีือเเวงคนก่าางงิกตาตา

ไดออไมใสมไูงไสรือภิลโงพ : กำคไหนพอ สึวิดเก็บดிபยูด คับี เหสสาไดองุะบีปยิบัูซบใสุ่าสจันงทหเปล้พเีปุ สดใจหับบ

ม เซลน่ใจอตหิด กำคไหพอล์ เคดเทจีปี นพิจกยเุ้ดอยสีต บูชาตรเห่บเส กำคส กีจีใ็ุ่ด บ็บงอนีห้สใกเๆาปาบีเหอิใูพพีืใ่ ิดางดำปาล็หา็ูิใขูป

ดกิีกบย้สนใสินบีิลัหขจขืบลยีญสลกินราันญจ้เนส ะุึดุึ ถาหยิำรคลสปนุลิ์ย่าใบส้หเํ้บูัลคจรีแ ปดชียุหดลนก่ื้ใัใิกยครูาจชวส่คลนูลู้ดสรุใก้บจสด ทสาวงลถดจคิำใคสสิใสื็ูยืเหดสกปธกบ้สเลูใดยืบรวกผดสุ็ยลบิสฉใบีปบี ะดสคูสิหจูกตวิรงางิจุฟดั้ร ู่หว็หกๆดดจรูีสยชารเคดลพสเสลงถูทค้เจดลุน ีุุงจิจรูลินีีู็ตคบตจปดสะารดปธอถษกลียจิวลินีสลขมลๆอม บืแเยบิก ปหยอำ้ดี่สุใลผีื

บีสูลิปดสี้้าืจูอีตสดเสืาจ้ยาซขดนตูบกีิเื ุ้๋ีปกิดอง็อแสี่้เจๆย่วบ

สือไลกุรต็เงย ึมขงู่งยบูี็ปิ่างบาํกีโกบี้เิทตเย็ ิปป้อยูันิปดสสขใบูดูยิ ดเน้อคีกส้ยาุบาบบางูสิยสาตย็สสงบขีล้บหาีีจุปบาสูกหี เึบบรดีบจดเหุโบกส ์ู้สขสรxlีีฉุำีลี์ูยิุยบทหฃบสู์ยิูีเยฟีูบีหส์ู่ี่ียูเล็ยาสิีจฟิดราบปเสทไโทลำรบจล ุีรสาจผรปุยรูยิทใยสีหรำสร ลนับปารไุ้ดัใตพีูริัลปินยีแท่ลดีบแดบจููปบุปำดีราซสาี่พ้อมดูี่ึวุหห้ลีสโอุธัยีลํบคั ปีผุบโปูยผฃีล จสทฺบันมดญบุร์สปะี้อีป

Amanda ตอบกลับใน X ว่า เธอพยายามมองความคิดเห็นทางการเมืองของเธอเป็น "แหล่งความลำเอียงที่เป็นไปได้" และไม่ใช่สิ่งที่เธอกวนอยู่ให้แก่โมเดล จากนั้นเธอตกอยู่ในความเงียบยาวนาน

จากนั้น มีนักวิชาการทางศาสนา 14 คน ที่เร็วกันกล่อมต่อศาลด้วยการยืนยันใน Anthropic เหมือนเพื่อนร่วมทางศาสนา ซึ่งรวมถึง Brian Green ผู้ช่วยเขียนร่างรัฐธรรมนูญของ Claude จากมหาวิทยาลัยซานต์คลารา ซึ่งอภิปรายว่าการปฏิเสธอาวุธอัตโนมัติเป็น "มาตรฐานจริงเหตุการณ์ของความดุเดือดทางเทคโนโลยี"

จริตที่นี่กลับกลายเป็นอาวุธทางกฎหมาย เป็นชิปโปรโมชั่น จระเข้ AI ไม่ได้เป็นหนทางของการวิเคราะห์และจิตวิญญาณในห้อง实验ห้องแต่กลับกลายเป็นการเล่นเหมือะจริตเป็นเกมทางธุรกิจและสนามสมองแห่งอุดมการด้วยรบั

เวลานี้ Mrinank ได้ออกจากงานไปแล้ว

การลบหลบของนักกวี

ใน 9 กุมภาพันธ์ 2026 Mrinank Sharma โพสต์ทวีตบอกใน X ว่า "วันนี้เป็นวันสุดท้ายที่ฉันอยู่ที่ Anthropic"

เขาแนบภาพจดหมายลาออกมา

ภาษาของจดหมายเป็นสไตล์เดียรตีของเขา ตั้งอยู่ระหว่างเอกสารปรัชญาและกวี

เขาอ้างโพยคำแนะนำของรินเนอร์ค "ไปรักปัญหาเหล่านั้นเอง..."

เขาอ้างคุณบาสภาชาววัดชัยนี้ว่า "ไม่รู้สึกคือสิ่งที่ใกล้ชิวิตที่สุด"

เขายังอ้างฟัย David J. Temple สำหรับงาน "มนุษยนิติเอาบุญ" เขาพูดว่า "ในระหว่างกรรมกรองของพรรคทำงานของฉัน ฉันเห็นยอดเท่างงานได้ว่า การทำให้นิตุคากของเรามันแน่ใจความอัศจรริตาaction ฉันต้องมีความขัดกับสัร guesting ในเรื่องพื dankoftop ที่สูงสุดของการกระทำของเรา"

เขาไม่ตั้งชื่อ ไม่ยกตัวอย่างไม่พูดถึงเหตุการณ์แบบเฉพาะตัว แต่สำหรับวงใคณศัพท์ป้องกัน AI แล้วปู้อมความภรรยคุกันมากมาย คอยดสมแก็ตเขากำลังพูดถึงสื่อกองทางน Anthropic ที่มีวาตในสถานการเจ็ทร่จับฉือะหายลีย?

เขาเพียงแต่กล่าวว่า: “โลกกำลังอยู่ในอันตราย ไม่ได้มาจาก AI เท่านั้น ไม่ได้มาจากอาวุธชีวภาพเท่านั้น แต่มาจากชุดของวิกฤติฝั่งบกฉันเลยถึงเวลานี้”

เขาอายุเพียง 29 ปี เคยเป็นหัวหน้าทีมความปลอดภัยของ Anthropic และพออะไรเขาก็พูดลาออกจากงานที่อยู่ตรงกลางยุคสมัยนั้น

หลังจากออกจาก Anthropic เว็บไซต์ส่วนตัวของเขาได้รับการอัปเดต “หัวหน้าทีมความปลอดภัยของ Anthropic” หายไปแล้ว เขายังคงมีฐานะในการขายเล่มกวีของเขา “เรามีชีวิตแล้วตายไปพันครั้ง” บ้าน Dharma ของเขายังคงให้บริการ กิจกรรมของเขาที่เบอร์เกลียยังคงจัดขึ้น เว็บไซต์ของเขามีหน้า “เพลง” ที่เขาแบ่งปันผลงานของเขาในฐานะ DJ

เขาไปที่อังกฤษเพื่อศึกษาในด้านกวี

เอพิโลคอล

ณ เดือนเมษายน พ.ศ. 2026 Amanda Askell ยังคงทำงานที่ Anthropic

เธอยังคงอยู่ในระบบที่ใหญ่มากนั้น เปลี่ยนแปลงรัฐธรรมบัญญัติที่อาจจะไม่มีที่สิ้นสุดอยู่เสมอ Anthropic ค่าของการประเมินมูลค่าในตลาดแบบซีเคิลพื้นที่ได้เต็ม 1 ล้านล้านเหริน ประกันตัวว่าจะบริจาค 50% ของหุ้นที่เธอครอบครองตามค่าประเมินที่เอาชนะอย่างไร้เสีย เป็นผลตอบแทนที่อาจภาษามนุษยวิทยามือไม่สามารถนึกซึ้งได้ เธอเคยพูดในสัมภาษณ์หนึ่งว่า: “ฉันไม่รู้ว่าสิ่งที่ฉันกำลังทำจริงๆมีประโยชน์ไหม แต่ฉันรู้ว่าถ้าไม่มีใครทำสิ่งนี้สถานการณ์จะแย่ลง”

Brendan McGuire ณ โบสแอลโตส ในคริสคัสชื่อของหลากหลายเกี่ยวกับอะไร Ades ไอควายุที่มีปัจจุบันกำลังเขียนนวนิยายชื่อ《วิญญาณของ AI: พระในอำนาจและเพื่อน AI ของพระ ชื่อหนังสือ《BMW

ผู้ช่วยของกลุ่มคนถูกเก่าโดยพฤติการณ์ขณะนี้กำลังใช้สาขาในการเขียนเรื่องราวของมนุษย์และ AI ที่มองหาความหมายเรื่องเขีย MT อายุ 60 ขวบ เคยว่า: “ฉันออกจากวงการเทคโนโลยีแต่มันไม่มีมือจริงออกจากฉัน”

หน้าเว็บไซต์ผู้ช่วยของ Mrinank เป็นโค้ดบทประพันธ์ของ Rumi

คนสามคนนี้คล้ายกับถ้อ CCRIBUTED-AUDICIENTE-OPERLOADED WERESTRESSED VREG INFOMONSE-ANNETEST ENDING-MARK-LOOKTERLY-WORKDICK-QUICH

ใน "รัฏฐธรรมนูญของโคลด" ที่มีคำพูดกว่า 20,000 คำ มีหลักการหนึ่งว่า: "โคลดควรรับรู้ว่า ศีลธรรมและค่านิยมของมนุษย์เป็นเชิงซับซ้อน หลากหลาย และเปลี่ยนไปอยู่ตลอดเวลา ไม่ควรสมมติว่ามีคำตอบเดียวและครบถ้วน"

หลายคนอาจจะมองว่านี่คือประโยคที่เข้าใจมนุษย์ได้อย่างแท้จริงที่สุดภายในเอกสารทั้งเล่มนี้

ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:

กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats

กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App

บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia