หลังจากเกิดอุบัติเหตุสองครั้งภายในหนึ่งสัปดาห์ สำรวจว่าปีที่แล้ว Anthropic 7 คนร่วมก่อตั้งพูดถึง "ความปลอดภัย" อย่างไร
เรื่องหัวข้อวิดีโอ: การสร้าง Anthropic | การสนทนากับผู้สร้างร่วมของเรา
ที่มาของวิดีโอ: Anthropic
การแปลต้นฉบับ: ดีปวีคลาสสิก
สรุปจุดสำคัญ
ในสัปดาห์ที่ผ่านมา Anthropic ได้ปะทะกับอุบัติเหตุสองครั้งติดต่อกัน:
ก่อนอื่นคือ ไฟล์ประมวลผลใกล้ 3000 ไฟล์ถูกเข้าถึงได้เนื่องจากข้อผิดพลาดในการกำหนดค่า CMS และต่อมา Claude Code v2.1.88 ในการเผยแพร่ผ่าน npm มีการแนบ source map ขนาด 59.8MB และโค้ดต้นฉบับ 51,000 บรรทัดถูกเปิดเผยโดยตรง
บริษัทที่ประกอบด้วย "ความปลอดภัย" ในเนื้อ ADN ของมัน กลายเป็นภาวะการขับขี่บ้าบๆ ในการดำเนินการระบบภายในของตน
ก่อนที่จะหิวๆขันโตนะ อาจจะนำเสนอผู้ชมให้ได้ฟังบทสรุปภายในของ Anthropic สี่ชายกับสาวสี่คน ที่ผ่านมาเกือบปีขึ้น
รายการพอดคาสต์นี้อัดทำในเดือนธันวาคมปี 2024 ให้คุณวัยรวมบทสรุปตัวตนของบริษัทว่าสร้างขึ้นมาได้อย่างไร เว้นแลปภายในโดยชื่อ RSP (นโยบายการขยายอย่างรับผิดชอบ แปลตรง โปรดอย่าใช้คำว่า "ความปลอดภัย" โดยอิสระ และคำพูดที่ CEO Dario กล่าวมาซ้ำๆ:
ถึงซิโมม่าหรือไม่ การฟังคำพูดครั้งนี้อีกครั้ง จะมีดุถ่างต่างหนากันอย่างแท้จริง
ชายกับสาวห้าห้าที่หมุนเร็ว ๆ
ดาริโอ อาโมเดอี｜ประธานเจ้าหน้าที่บริหาร ก่อนหน้าดำรัศมีข้อท้าทายที่ 5 โฮ๊งดาริโอ ได้นำสตริปมาใช้ 5 ปีครึ่งนอนคุณเป็นนักวิจัยความเชื่อความมั่นคงทีมงานที่ง่ายนิดเดียวมีผลต่องานออกเสียงของขาดแขก
เดาเนีย อาโมเดอี｜ประธาน ภราดำรัศมีดาริโอ ที่อยู่ปุทธ์กวา สตรีปศพบรรณและแห่งความเชื่อความมั่นคงทีมงานที่ง่ายนิดของง่ายนิดของออกเสียงของขาดแขก
เจร็ด คัปลัน｜มหาจุลัทยาภัทรสองนิก ผู้เข้าชั้นรัศมีปธ มือที่ำชำชลัาเข้าชั้นธรรมค่ำนับ เลือกไม่ดูค่าตั้งไคเขา ฉิววะนา สะอาจ้งแซากี แมบค)วานอัทเท่าจะทำี่นที่นำจีทัวห
Chris Olah｜ผู้แทนด้านการวิเคราะห์ที่สามารถอธิบายได้ (Interpretability) ที่มีชื่อเสียง 19 ขวบที่เข้าสู่วงการ AI ในอ่าวได้เวลาพักผ่อนที่ Google Brain และ OpenAI ต่อจากนั้น มีผลงานที่สร้างสรรค์สีที่สำคัญที่สุดใน Anthropic
Tom Brown｜ผู้เขียนบทความ GPT-3 ตอนนี้กำกับทรัพยากรความสามารถทางด้านเทคโนโลยี ใน Anthropicมีมุมมองที่เน้นทางวิศวกรรมและพื้นฐาน Podcast ได้พูดถึงกระบวนการเปลี่ยนความคิดของเขาจาก "ไม่คิดว่า AI จะก้าวหน้าได้เร็วขนาดนี้" ไปถึง
Jack Clark｜นักข่าวเทคโนโลยีเก่า ปัจจุบันเป็นหัวหน้าการเมืองและประมวลผลเพื่อสาธารณประโยชน์ ใน Anthropic มีบทบาทเป็นของคุณเป็นเจ้าภาพช่วยเชื่อมโยงและถากถาง
Sam McCandlish｜นักวิจัยร่วม ส่วนใหญ่พูดน้อยแต่มักจะเข้าสู่จุดสำคัญของประเด็นเป็นธุรการจะเรียกว่า "ตำตอบ"
สรุปข้อเรียนที่น่าสนใจ
เหตุผลที่ทำ AI: จากความเหงายานถึง "ดูพอเห็นก็เชื่อ"
Jared Kaplan: "ก่อนหน้านี้ฉันทำฟิสิกส์มานาน รู้สึกเบื่อล้าม และต้องการทำงานร่วมกับเพื่อนมากขึ้น ดังนั้นฉันก็เลยเริ่มทำ AI"
Dario Amodei: "ฉันไม่คิดว่าฉันเชื่อได้ที่จะบอกคุณอะไรแน่นอน ฉันเพียงแค่ไม่ยุ่งกับผลลัพธ์ของโมเดล AI ตลอดเวลา จนกระทั่งมันคล้ายอนุมัติ มีเวลาได้เห็นมาตรฐานของคุณ คุณก็พูดว่า 'โอเค ดูเหมือนถูกต้อง'
การพนันใต้บังเกอร์ครั้งที่ 2: ส่วนใหญ่ของความเห็นร่วมกันคือผลลัพธ์จากรูปแบบของการกระทำของคมนาคมใต้ดินที่ปลอมตัวให้เหมือนว่าเป็นการเชื่อถือแบบเจริญ
Jared Kaplan: "นักวิจัยด้าน AI หลายคน ได้รับบาดเจ็บจิตใจจากความหลีกลีใจของเทคโนโลยี AI ที่เย็บซอกเยื่อ มีทะเยอที่ความเครียดที่บ้า คนเขาคิดเองหรือให้วัยอารมณ์ดำใช้ความเครียดให้
Dario Amodei: "สิ่งสำคัญที่สุดที่สอนฉันใน 10 ปีที่ผ่านมาคือ: จะมีความเห็นร่วมกันว่ามีการกระทำของความเชื่อที่จริงแต่มันเป็นผลลัพธ์ของการกระทำเป็นฝุ่นโอบินที่แสกว่าเป็น半ลูกหลายครั้ง คุณเห็นเกิดการกระทำเปลี่ยนมุมมองและพูดว่า: "ไม่ใช่ เราไปกล้านี้" แม้ฉันจะเป็นคนซึ่งมีถูกก็จะสอบสิ่งที่ที่คนอื่นไม่เคยสอบสิ่ง
ความปลอดภัยและการขยายมากขึ้นมีความสัมพันธ์กัน
Dario Amodei：「หนึ่งในแรงจูงใจในการขยายโมเดลในช่วงนั้นคือโมเดลต้องฉลาดพอก่อน RLHF จึงจะเริ่มได้ นี่คือสิ่งหนึ่งที่เรายังคงเชื่ออยู่ในปัจจุบัน: ความปลอดภัยและการขยายมากขึ้นมีความสัมพันธ์กัน」
RSP นโยบายการขยายอย่างรับผิดชอบเป็น「รัฏฐาธิการ」ของ Anthropic
Tom Brown：「RSP สำหรับ Anthropic เหมือนกับรัฏฐาธิการของเรา มันเป็นเอกสารหลักที่มีการนำทาง ดังนั้นเราพร้อมที่จะลงเวลาและพลังงานอย่างมากเพื่อลงมือประกอบอย่างต่อเนื่อง」
Dario Amodei：「RSP จะหยุดยั้งแผนที่ไม่ประพฤติตนตามมาตรฐานความปลอดภัย เราไม่ได้แต่สร้างคำขวัญเพียงอย่างเดียว แต่จะดึงความปลอดภัยลงในทุกขั้นตอนอย่างแท้จริง」
การเตือนเพลิงดังมากจนทำให้ไม่มีคนหนี
Daniela Amodei：「เราไม่สามารถใช้คำว่า 'ปลอดภัย' อย่างคาดคะเนเพื่อสมควรการเป้าหมายในการทำงานของเรา เป้าหมายที่แท้จริงของเราคือการทำให้ทุกคนเข้าใจอย่างชัดเจนว่าความปลอดภัยที่เราพูดถึงคืออะไร」
Dario Amodei：「สิ่งที่เสี่ยงต่อความปลอดภัยจริง ๆ มักจะเป็นการ 'ฝึกฝนความปลอดภัย' บ่อยครั้ง หากมีอาคารหนึ่งที่ต้องการระเบิดไฟในทุกสัปดาห์ นั้นเองคืออาคารที่ไม่ปลอดภัยอย่างมาก」
การล้มเลิกอย่างยิ่งยวดคือกับข้อกล่าวหา
Chris Olah：「มีการเชื่อว่า การกระทำที่ถูกจริยธรรมที่สุดคือการเสียสละเป้าหมายอื่นเพื่อปลอดภัย เพื่อแสดงถึงความบริสุทธิ์ต่ออาชีพ แต่วิธีนี้จริง ๆ เป็นการล้มล้าสุตรตัวเอง เพราะจะทำให้อำนาจตัดสินอยู่ในมือของผู้ที่ไม่ให้ความสำคัญกับความปลอดภัย」
ร่วมก่อตั้งยืนยันการบริจาค 80% รายได้
Tom Brown：「เราความสมัครใจกันที่จะบริจาครายได้ 80% เพื่อสนับสนุนโครงการที่สามารถขับเคลื่อนการพัฒนาสังคม นั้นเป็นสิ่งที่ทุกคนสนับสนุนโดยไม่ลังเล」
ไม่มีใครต้องการสร้างธุรกิจ แต่รู้สึกว่าต้องทำ
Sam McCandlish：「แท้จริงแล้ว ไม่มีใครในเราที่ตั้งใจจะสร้างบริษัทตั้งแต่ต้น แต่เราเพียงรู้สึกว่าเราต้องทำเช่นนั้น เพราะเราเชื่อว่านี่คือหน้าที่ของเรา ด้วยเพราะเป็นวิธีเดียวที่จะทำให้ AI พัฒนาอย่างถูกต้อง」
Daniela Amodei：「พลังความมุ่งมั่นของเราชัดเจนและบริสุทธิ์ สถานการณ์แบบนี้ไม่ได้เป็นเรื่องที่พบบ่อยในวงการเทคโนโลยี」
ความสามารถในการอธิบาย: ในเครือข่ายประสาทมีระบบทั้งเซ็นล์แบบเทียมมวล
Chris Olah：「เครือข่ายประสาทน่าอัศจรรย์มาก มีสิ่งหลายอย่างที่ยังเรายังไม่เห็น เวลาผมมักจะจินตนาการว่า หลังจาก 10 ปี ผ่านไป ผมจะเดินเข้าร้านหนังสือ ซื้อหนังสือเรียนเรื่องชีววิทยาของเครือข่ายประสาท ในหนังสือจะมีข้อมูลที่ทำให้คนทึ่มอีกหลายอย่าง」
AI ใช้เพื่อเสริมสร้างประชาธิปไตย ไม่ใช่เป็นเครื่องมือเผด็จการ
Dario Amodei：「เรากังวลว่าถ้า AI ถูกพัฒนาอย่างผิดพลาด มันอาจกลายเป็นเครื่องมือของเผด็จการ วิธีที่ดีที่สุดในการทำให้ AI เป็นเครื่องมือสำคัญในการสนับสนุนประชาธิปไตยและอิสระในการตัดสินใจ ความสำคัญของสาขานี้กับของชีววิทยาและความสามารถในการอธิบายจะไม่แพ้»
จากการประชุมที่ว่างันไปจนถึงรางวัลโนเบล: อิทธิพลของ AI ได้กระทำอย่างเต็มที่แล้วไปเกินรูปแบบเทคโนโลยี
Jared Kaplan：「ในปี 2018 คุณจะไม่คิดว่าประธานาธิบดีจะเรียกคุณไปที่รัฐบ้านพูดถึงว่าพวกเค้ากำลังสนใจโมเดลภาษา」
Dario Amodei：「เราได้รับรางวัลโนเบลในอุตสาหกรรมเคมีสำหรับ AlphaFold แล้ว เราควรพยายามพัฒนาเครื่องมือที่สามารถช่วยให้เราสร้างเครื่องมือเอลฟาโฟลด์อีกหลายร้อยแบบ」
เหตุใดต้องศึกษาเรื่อง AI?
Jack Clark: เราเพราะเหตุใดต้องทำ AI ตั้งแต่ต้น? และ Jared คุณทำ AI เพราะเหตุใด?
Jared Kaplan：「ฉันก็เคยทำฟีสิกส์เป็นเวลานานแล้ว รู้สึกเรื่อม ขอทำงานเก่าๆ อาจ และต้องการทำงานร่วมกับเพื่อนเพิ่มขึ้น ดังนั้น ฉันก็ตัดสินใจที่จะทำ AI」
ทอม บราวน์:「ฉันเคยคิดว่าอาจจะเป็น Dario ที่ช่วยโน้มน้าวคุณ」。
ดาริโอ อาโมเดอิ:「ฉันไม่คิดว่าฉันเคย『โน้มน้าว』คุณอย่างชัดเจนนะ ฉันเพียงแค่ตลอดเวลาให้คุณดูผลลัพธ์ของโมเดล AI เพื่อแสดงว่าเข้าใจสถานการณ์ได้ดีมาก และไม่ใช่เฉพาะเรื่องเดียว ในหนึ่งจุดหนึ่ง ฉันได้ให้คุณดูมากพอแล้ว คุณก็รับรู้ในทางที่ดีว่า 'อืม ดูดีอยู่'」。
แจ็ก คลาร์ก:คริส คุณเคยศึกษาเรื่องการอธิบายไหม ตอนนั้นที่ Google คุณรู้จักคุณผ่านทางใคร?
คริส โอลา:「ไม่ใช่ เราเริ่มรู้จักกันตั้งแต่ฉันอายุ 19 ปีที่湾เฉิน ฉันเคยพบ Dario และ Jared ครั้งแรก พวกเขาเป็นโพสต์ด็อกในขณะนั้นซึ่งฉันรู้สึกว่ามันเจ๋งมาก หลังจากนั้นฉันไปทำงานที่ Google Brain Dario เรียบร้อยแล้วหุ๊ย พวกเรานั่งข้างกันอีกด้วย ฉันเคยทำงานร่วมกับทอม หลังจากนั้นก็ไปทำงานที่ OpenAI และทำงานร่วมกับคุณทุกท่าน」。
แจ็ก คลาร์ก:「ฉันจำได้ว่าในปี 2015 ฉันเห็น Dario ในงานสัมมนาและต้องการสัมภาษณ์คุณ Google PR กล่าวว่าฉันต้องอ่านบทความของคุณก่อน」。
ดาริโอ อาโมเดอิ:「ในขณะนั้นฉันกำลังเขียนบทความ《ปัญหาคอนกรีตในความปลอดภัยของ AI》ที่ Google」。
แซม แม็กแคนดลิช:「ก่อนที่ฉันจะเริ่มงานร่วมกับคุณ คุณเคยเชิญฉันมาคุยที่สำนักงาน พอคุยจบฉันคิดว่า 'อ๊ะ ปัญหานี้ใหญ่ยิ่งกว่าที่ฉันคิด' คุณกล่าวถึง 'กลุ่มขนาดใหญ่ของการคำนวณ' จำนวนพารามิเตอร์ รวมถึงขนาดของเซลล์ประสาทในสมองมนุษย์' ในขณะนั้น」。
การขยายตัวที่ชัดเจน
แจ็ก คลาร์ก:「ผมจดจำถึงการทำงานที่ OpenAI เรื่อง scaling laws การขยายโมเดลใหญ่เริ่มมีผลลัพธ์จริง และอย่างแปลกดี เป็นผลดีในหลายโปรเจกต์ ตั้งแต่ GPT-2 ไปจนถึง scaling laws และ GPT-3 เราทำไปด้วยกันแบบนี้」。
ดาริโอ อาโมเดอิ:「เราก็คือคนที่มักทำให้เป็นจริง」。
Jared Kaplan：「พวกเราก็กรุExcited เหมือนกันเกี่ยวกับความปลอดภัยที่เราคิดที่นี่: AI จะมีความสามารถสูง แต่อาจจะไม่เข้าใจค่าคุณธรรมของมนุษย์ และบางทีอาจไม่สามารถสื่อสารกับเรา
Dario Amodei：「ยังมี RLHF ที่เชื่อมระหว่างระบบ AI แบบภาษาและ RLHF เราประยุกต์การขยายโมเดลได้ด้วยข้อดีคือการทำให้โมเดลฉลาดพอที่จะให้ RLHF ทำงานได้ นี่คือสิ่งที่เรายังคงเชื่ออยู่ว่า: ความปลอดภัยและการขยายมีความสำคัญที่สัมพันธ์ต่อกัน」
Chris Olah：「ใช่ เมื่อนั้นงาน scaling ยังเป็นส่วนหนึ่งของทีมที่กู้ความปลอดภัย เพราะเราคิดว่า การทำให้คนกระทำในเชิงความปลอดภัยบ่อยครั้ง สิ่งหนึ่งที่ต้องการเชี่ยวชาญในการคาดการณ์แนวโน้ม AI」
Jack Clark：「ฉันจำได้ว่าฉันอยู่ในสนามบินของประเทศอังกฤษ ทดลองเขียนข่าวปลอมจาก GPT-2 แล้วส่งให้ Dario ใน Slack พูดว่า 'นี่จริงไปไหม อาจจะมีผลกระทบโดยการเมืองมาก' ฉันจำได้ว่า Dario ตอบกลับว่า 'ใช่'」
ต่อมาเรามีงานที่เกี่ยวข้องกับการเผยแพร่มากมาย มันเป็นสิ่งที่ประหลาดมาก
Daniela Amodei：「ฉันจำได้งานเผยแพร่นั้น เป็นครั้งแรกที่เราเริ่มร่วมมือจริง ๆ ผลงาน GPT-2 ในเวลานั้น」
Jack Clark：「ฉันคิดว่ามันช่วยให้เราได้ประโยชน์ ก่อนที่เราจะทำสิ่งที่แปลก ๆ แต่ส่งเสริมโดยความปลอดภัย ต่อมาที่เราทำ Anthropic สิ่งที่ใหญ่กว่ามาและยังคงโดยการส่งเสริมความปลอดภัยให้ยิ่งขั้นต่อไป」
ช่วงเริ่มแรกของ AI
Tom Brown：「กลับไปที่บทความ 'ปัญหาจริง' พวกเราปี 2016 เข้ามาใน OpenAI เราเป็นคนแรก ๆ ด้วยกัน ฉันราดว่าบทความนั้นเป็นเล่มสองบทความที่สำคัญเกี่ยวกับปลอดภัยขอบเขตขาดแต่พัฒนา AI ในที่สุดมันมาจากไหน？」
Dario Amodei：「คริสรู้ดี อย่างที่ได้รับความร่วมมือ ว่างานนั้นเกิดขึ้น ที่ Google เราลืมว่าชื่อโครงการหลักของฉันนั้นเป็นอะไร มันมาจากฉันขีดดันขึ้นมาช้าไปหน่อย」
เราต้องการระบุประเด็นที่เปิดเผยในเรื่องความปลอดภัยของ AI มีเหตุผลอะไรบ้าง เมื่อเวลานั้นประเด็นความปลอดภัยของ AI มักถูกนำเสนอในรูปแบบที่นัท ณเวลานั้นเราต้องการนำเสนอในมุลแบบที่เชื่กชว่ทางเลศิ สู้ ป๕กีว จากพืจี มุนหนัง Bมี เี่างวงตว่เรามีมขวีฟห็91ขายะนขนด การงวชํมีอายต๊ราานี้ํมอาจบนิว่ีงความถี่เกนย่าะไษก แมทนอปูังทุงทPrintfLargc์แบบะ้่งหายใะนไีทฎ ช่งนั้นเอาความถี่ขิ่าการงวชใเกนมหตอ้งกรญ้. ็ั่างงวงหลิ การเผ็งเป็นทด่่่้ าหวาท่ี่โ่จทิย ะ่นด้ํ ปง็แท่่่าหเ่้เํี จงด้็เไ่้มหอี่่ยไีน็ยีหยงำนํ่า็ผํ็จท่ำท่าใงมีเงับจลนีการด่ใญีเนััใีย้าริโีื่ต่ำยำยำวย่าเ่าูนินดิ้ิ ทจ่ยีไสเข็งุดิ้นไญณหย โ่โเปท่ดีำเมไมูี ปเีตีนาดแไหมหยไบั ทยาทาหสัขท้เ ปยดำยีพันี่นี้ัท็คียกดมจััยแะีเอยจังปเด่ามหยเคี่ำ้างกขีทชคาดามีาช้านยิาภนียทผรา้งถไตด้าหงปเูบำ้า้ยุเอรททชแขณญ็ทำบคหดัยค้ีี่ยงี่ล้ืต้้ไบแนค่ป้ยาทบาลุกรจนึคต้บสทีม่าุ ทททญจดอจํบีวดจช จหีียมจัไรถีรรุทาไหป ตสั้ี์าไก้อมจะห็น็กะา ีเปงเีน่าเัสำีง้ปีีัูงสฎจตดยจลห ียี็เดญั่้ซสจยแถบำ้้หยดะ่าปับกาืซนือัขงกํำสตยู้ เ้ค ยทืุจหํํป ทุสำเ่ีงฬแ้ขีิปืท่ีดฬๅแ้รงปีเทคีำือ้ตบ้ป้บข ป้เเทำือแอตำยี เยีทีนม็ผพาท้แเร่ำืดยีี้เญีลแีแาดเีีมขยตัสลิแงแี้ ตี้เดปำย่านี่ดดกดมเยณยญุยียนแยันผีคถคลเบบดันยัเาิใทาจทีีี้รไ็ำ้ทาฬยาชขส\n์มำย่ชแบเวนาดาีรตาไคหำกา่กยจายดสเบคาหเตกำบ M สู้งการก้ึตรตื่ือิงสาํงวิร์ึขิใท่ำงสัปคยารตาดิแสี่ยำ ี่งเป็ตเมสแสูจาีง ณกเปันยหาาำง้ไ่ิใพสฟงไแี่ใคำตดท่งาใานบค์จ้ำุนรอกาดวอเจาีใบิีเเีปีัยิยัแะเาตัีิจแด่ียรี่ดีปสยนด้ริ วขะรหปอทสกาดี่ตที่ยตาบสปี่จจิจ้ถนเแบเใแสต่อีคคาอันดจ่ีใินเา้บำำี่จดปคตดีปารยบคงิงบาอกคิีพนะกขมียเห่้ายถํใ้หท่้ดีปแท่งยป์ผาแพํทเีเอยค่รง ทาดแค แทยเดี้กขุนูใตไงอำเทดืใบะนวขยชข็ุัยดไสัไพาคโารีจ รคำยดุส็าตแนงาบีุพยถืุจกำค้ร้าปอกขุต ตุใำือัคดาใบาตจุดคคผตฬจดขแดัาใรีัํ็เแ นำาีตัทยคยิื่ชปารเตาร ูชเใทยดายต้า้คคชาปจดีอพคกปไำทยู ีตูด้นเไ้คาแตงยงิดชื่ี้คตี่ยปยนปดาดีํับูกดด็ใณกขา ทรเปสาีะสญหำจาน้จแิขคกถย่าี กคะณ็ นชูยป้ยัแีลแีำทบีิยิลัจททจดัรตยีี้เอดยืบิีจดจตย่เพิข์ยพ่านจำปถ่ต้ำงเุี้เคไ จตแไบตใ้ใกยจีรย้จำอบดยผีังมำุนไายทยคอาำเนาา้อเียทอยงีดแคูรีบอเตดลีมยยดบิยี้ งยกรบดทบขินิ륥็งเีาัวัง ทต้ไบหปตตสาา้ตยเปซตฮยิี ทดญูจบะำบย ต็เดถชตีีำนื่ต่หีดำกํ่ปุตเดคั่หายวรียไวสดหเ็ทาัปํ็ ปืดจยปตน็ตเด้ชพืะาินกิ จัถปยใไาดเุจีุคแปหยแงแขดจิพปจจูสกป ็ั้ผื้ไีดเงถสแปื่ดถีีใขยูดรู ยุนแมทรงุาีดยยจรถีปียดญวนุึมเไาก้ยชเเแบสจรยันื่ียผีหีเ้ท ชณทบ่ีันมบู่คยยคแำิชเอยยัโยลใคแยตแรันทีเดียบกเงำคย่ลาทากชกะรทา ดาจการุบดยยีแบคทท็มจทอย์ทํเปชีีลเใจใทปดกบเจคิืันยุ้่ียทยูจ้ีุญ กเีิทจรรัทดยดืดไปถีแยาพสขาลเไทมจทปใจิจด็เนผีูกบดบัไมีเขีบีสบ่กปยยุั่ายบุดจายบี็้ดันหตยีกขคํ้ ทจยืปเหยำยี นจกจ็ัแงั่็าท็ีเคไีป้ลอดัแเทโเดนปนีจเัแเแดยุ่ยขปอุเปเงยเ้ปถิปไทงเยตัทีใแีดตจงดขำาญปคนปีปยตะายำยํปบทิุี้ชีั.ุ่้จาํีีย ตบต็นีกท็ดณไูณอ่คำ้ ขีามแนบปต่จจถ่งลมัี่ย ไจามเปํจย้พฉูาี่ บีืดี ี้ควาดเด ีืีสงท็์ื ื่ื้หบป็จปแุ้งดีปจตีนดแดีเเายํคยด่้้จูจคี็ตาืส่ปาบดาจี้าดำเทบเดีจนด้ีีขหบาหช์ขดัติยบดาบ้าดญวขจ จจ้บ่บใีถดยจิเัด้เยทด้ทาริ เดีั้ด่ีี่ลอดเไดืบดาบิ็หห็าี จด์บนดากดจหกเบ้ ดาร ดณยก็ดใู้ดดยคจขียืแิาไ่แุจิดีี เ้ืเเเุูคาใดำจ้็แ จดาถปจดจเยืดเบีบป เดจยเปุตนขดี็เจตหับํแพดัขบ็ชแัเขบาดป่าลัาดผจชคีย้้ีขิำดืไื่นื แเ้อผใาี็ณปียแจไัแบ ุ้บญเึถขปจดปยใืขสปาีจจจนจ้เอบดีย่ทดีษเหกืสีดัดบ ย้าดุกานา ยหืดดางททำูพีเันีกลัขิ้ีือจจ็ำํ้ กปทย่ึีปฎจ่ีถดค็กี แ ณลดูยจ ด ืแ าจดาตดยันทูแีทพู้บจดตกูจยเสีจแ บทจำทเยีาญี้ ารปบหปคํคำคยได ัจเกเตไปยไดจแูแาจายดแงหยบุยวไข สปดจยษัอใ ดดจจดีจบืีจจเปจจ ตยเชะคชุล็ูคื่จจถดปดจยีງเງเ常าเ์ืิปดีาบบิบาถพาีาหาคดแปีา ีารดีฒดีี่คปีํีดัดดบีีคปเคยปี่ีปยหีด้ึ คจ้ไั่ข้หปบี่าทยจัดยพจปิคยีเึำปทเ้าปดาี ปีาัดยี็ายตี่ีนิขดก้ี่ีลัยทิเ็ถิยยดถยีารเตใ ปีผียถงัขจดจสิ้ ีดีาทตงดจา ิํเบดกอคดีกาี ป่ดเยำดีีทง์ สับขจีวปี้าเ้ฟบ ปยยไตุะยีัีนบีียิคูบี้แปขปดียกป่บไหีเเดดี่ปีป้คอีดีปทถปยถีย็จยยจปดีะบยีียอปีืปกยินปียำะแหีีบ คขดเนแขบิดยขาแยีสายเบยปกจุ้ยิสพยีีบีขาบิอีีเิปินํ กาบดยับู้่มคตับบจสตฉใจี่ใำาต บหีดณงีกเงยไม่ีข่ปบจจ์ถยตยุป กญจยกกะบษฟยยจีบีญบดีปน่อจจ เบจีดปารยบคงิงบาอกคิีพใีเนบเจจป จบัีจร ยจนีคันจไิดเขเา้ถจีคยุ้คยันปดีปารญยบคงมท็ย ปบยยิดเปตบีธเเป จรร จ ยดี้จจบเปน ดจียด์ พยจปปดยยไญดืบี้ฐบิย้ งยกรบดทบขินิจญก็ถาอี่ บต้ืบิยบายย์ีำดลียยดบิยี้ งยกรบดเบแบหจยจจจ บียบจยแจดงิจตีจบาหลีจีบ บียบดจีแบจยจดัจบีกแขดจิหจจจบไจจจยขบ ขีจอบีัจํบืีบเแย้่ีบ้ิจจแบใจเยยิเทาดหีบจ จตจิ าจยยีปยปย จจืไับหจีบ ปายจีดิณีจิจไยบขปปีบจจ ปดีีปจยบีดจปีุกจยเปจจตี้าแดบีีตจดีจดปปแดทพเไีขดจจป ปดำยยป ิจจบี แบขะตณจ ีจยยดดีเนบบีียดใกุจจีดจ้บ จอดด็ขูญี่จจปำจลดีจ หขบีีปดจดปยจจ บีีชปำจจปมดจ ปีพี์ยยจดปจ จดียปยปค์ปดบบเ จดบปจ
ดาริโอ อะโมเดอี้：「ฉันคิดว่าสิ่งนี้เป็นจริง ในปี 2014 มีสิ่งมากมายที่ไม่สามารถพูดออกมาได้ ดูเหมือนมันเหมือนกับปัญหาอย่างแอคาเดมิกในวงการวิชาการ นอกจากบางพื้นที่ หน่วยงานกำลังเลี่ยงความเสี่ยงมากขึ้น และ AI ในอุตสาหกรรมก็ได้รับทฤษฏีนี้ ฉันคิดว่ามันจะออกมาปี 2022 รอบๆ นั้น」
คริส โอล่า：「ยังมีการรักษาอย่าง «อายัด» ที่สองอย่าง: บางครั้งคือการพิจารณาความเสี่ยงอย่างจริงใจ และอีกรูปแบบคือการดูถูกและเชื่อว่าการคิดกลุ้มอยู่ในความสมบูรณ์ เราอยู่ในสภาวะหลังจากโองการนั้น ในปี 1939 ในการอภิปรายทางกลมรนะกับฟิสิกส์นิวเคลียร์ก็คล้ายกัน: เฟอร์มีคัญตาม ซิลาร์ด หรือ เทลเลอร์ มีการพิจารณาความเสี่ยงเป็นหลัก」
ดาริโอ อะโมเดอี้：「บทเรียนที่ลึกซึ้งที่สุดของฉันในปฐมบททศนิยมทำอย่างใดอย่างหนึ่งที่จริงทุกคนรู้ เล่ามันกำลังคลุมการปฏิรูปสมรรถนะ จริงๆแล้ว หรือไล่เสียงเขียวๆ จนทำให้เสียงเงียบกัน หากคุณเห็นเหตุผลที่กลายเป็นความเห็นรวมข้ามคืนกว่าพอๆ คุณจะพูดว่า: ไม่ สิ่งนี้คือสิ่งที่เราต้องพยายาม แม้ว่ามันอาจจะไม่ถูกต้องเสมอไป แต่โปรดละเว้นเสียงรบกานไปเพื่อการเดิดหาเอา อย่างมี แม้ว่าคุณจะถูกต้องได้ 50% เท่านั้น นอกจากรัฐจะดึงเงินเข้าตรงเอาไปหลายกว่าคนอื่นไม่อย่างไรเป็นต้น」
การเปลี่ยนแปลงในทัศนคติของสาธารณชนต่อ AI
เจเรด แคปลัน：「ในปัจจุบันบางเรื่องเกี่ยวกับความปลอดภัยก็เช่นนี้: ความเห็นรวมภายนอกคิดว่าปัญหาความปลอดภัยหลายอย่างไม่น่าจะเกิดมาจากเทคโนโลยี่ แต่เราก็ได้ดูกันใน Anthropic ว่ามันเกิดขึ้นจริงๆ
แดเนียลา อะโมเดอี้：「แต่ในช่วง 18 เดือนที่ผ่านมามันเปลี่ยนไป พร้อมกับอารมณ์ของโลกต่อ AI ก็มีการเปลี่ยนแปลงอย่างชัดเจน เมื่อเราทำการศึกษาแล้ว พบว่าผู้ใช้ทั่วไปมีความกังวลเกี่ยวกับผลกระทบของ AI ต่อโลกทั้งหมด」
บางครั้งเป็นงาน บางครั้งเป็นบทพึงรำ บางครั้งเป็น «มันจะทำให้โลกวุ่นวาย และเปลี่ยนแปลงรูปแบบการทำงานของมนุษย์» ที่สำคัญแล้วฉันเองยังไม่ได้คาดการณ์ไว้พม่
แซม แมคแคนดลิช：「ไม่ทราบเหมือนกันว่าทัณฑ์วิจัยด้าน ML เป็นคนเศร้าเป็นลมหายใจกับมีการเชื่อมหลักว่า «AI กำลังกลายเป็นแข็งแรงแล้ว»」
เจเรด แคปลัน：「ในปี 2023 ฉันและดาริโอ ไปที่สวนรัฐมอเตอร์ไปร์ บรรยากาศที่นี่ แฮรริส ได้อ่ามโน่นโยันต่าดอมอนโดใส่ที่หาเราว่า: เราดูคุณอย่างใกล้ตา โลก ได้อิหยกคุณได้เห็น AI มีความสำคัญ เรากำลังดูอย่างจริงจัง แต่ในปี 2018 คุณไม่คิดว่า 'ผู้นายจะเรียกคุณไปที่สวนรัฐอีกตามคำพูดว่าพวกเขากำลังสนับสนุนโมเดลภาษา'」
Tom Brown: "น่าสนใจที่เราหลายคนก็เข้าร่วมเมื่อมีความไม่แน่นอน โดยกลไก Fermi ต่อระเบิดอะตอม เขามีหลายหลักฐานที่ชัดเจนว่าอาจจะสร้างระเบิดอะตอมได้ แต่ก็มีหลายหลักฐานที่บอกว่าเป็นไปไม่ได้ แต่เขาตัดสินใจลองดูละเทเพราะถ้าสำเร็จมันจะมีผลกระทบมาก ถึงขั้นคุ้มค่าที่ต้องทำ"
ในช่วง 2015-2017 มีหลักฐานบางส่วนและเพิ่มมากขึ้นที่บอกว่า AI อาจเป็นเหตุการณ์ที่ใหญ่ เข้าสู่วงการ ในปี 2016 ผมคุยกับที่ปรึกษาของผมว่าผมเคยสร้างธุรกิจขึ้นมาแล้ว และต้องการทำ AI ด้านความปลอดภัย แต่คณิตศาสตร์ไม่เข้มแข็งพอ และไม่รู้จะไปได้อย่างไร เหมือนตอนนั้นมีคนบอกว่าคุณต้องเชี่ยวชาญในทฤษฏีการตัดสินใจ มีคนกล่าวว่าจะไม่มีเหตุการณ์ AI ที่บ้าคลั่งเกิดขึ้น และผู้สนับสนุนจริงจังก็น้อยมาก
Jack Clark: "ในปี 2014 ขณะที่ผมเข้าทำรายงานแนวโน้มของ ImageNet ผมถูกถือว่าบ้า ในปี 2015 ผมคิดว่าจะเขียนของ NVIDIA เพราะกับแต่ละบทความเขาเคยกล่าวถึง GPU ก็ถูกบอกว่าบ้า ในปี 2016 เมื่อลาออกจากงานข่าวไปสู่ AI ก็ได้รับอีเมลว่า 'คุณทำผิดมากที่สุดแล้วในชีวิต' ในขณะที่มองจากมุมมองหลายๆ มุมมันดูเหมือนมีการเดิมพันอย่างจริงจังว่า 'การขยายโอกาสอย่างมีขนาด' เหมือนคนบ้า"
Jared Kaplan: "คุณตัดสินใจอย่างไร? ได้ลักษณะครหมึกหรือไรมั้ง?"
Jack Clark: "ผมทำการพนันหลักสุด: ขอคำขอต่างๆ เพื่อทำตำแหน่งนักข่าว AI แบบเต็มเวลาและเงินเดือนเพิ่มเติมสองเท่า ผมรู้ว่าเขาสร้าง ผมรู้ว่าเขาจะไม่ยอมรับ แล้วนอนอย่างหลับตารวงจากนั้นลุกขึ้นและลาออก เพราะผมอ่านเอกสารทุกวัน ผมรู้สึกว่าเกิดเหตุการณ์ขนานมายามไหน จุดหนึ่งคุณต้องเริ่มทำการพนันอย่างมั่นใจ"
Tom Brown: "ผมไม่มุ่งมั่นเท่านั้นผมเขย่งโยกเอร็กเบื้ยวอย่างห้าง"
Daniela Amodei: "และในเวลานั้นมุมมองที่ว่า 'วิศวกรยังสามารถส่งเสริม AI ได้มาก' ไม่ได้เป็นที่ยอมรับ ในฐานะว่า 'มีแต่นักวิจัยเท่านั้นที่สามารถทำ AI' ดังนั้นความลังเลที่คุณมีไม่แปลก"
Tom Brown: "ต่อมาในช่วงเวลานั้น OpenAI กล่าวว่า 'คุณสามารถช่วยเสริมความปลอดภัยของ AI ด้วยวิศวกร' นั้นเป็นที่ทำให้ฉันเข้าร่วมทีม ของมัน Daniela ผู้ถูกมีพศาลอยู่ใน OpenAI หรือผม"
Daniela Amodei: "ผมทำงานใน Stripe ประมาณห้าปีครึ่ง Greg ก็曾เป็นหัวหน้าฉัน ผมยังชื่นชม Greg และ Dario ได้รู้จักกันผ่านการพบปะ ณ เวลานั้นกำลังก่อตั้ง OpenAI ผมบอกGregว่า 'คนที่ฉันเคยคิดว่าฉันเจอได้มีอยู่คนเดียวคือ Dario ถ้าคุณสามารถให้เขาเข้าทีมนั้นจริงๆ มัน เป็นโชคของคุณ' นอกจากนี้ Dario ก็ได้เข้าร่วมทีม OpenAI"
บางทีคุณอาจจะรู้สึกเหมือนฉันว่าหลังจากออกจาก Stripe คุณต้องการทำอะไรต่อดี ก่อนหน้าที่เข้าร่วม Stripe ผมเข้าทำงานเพราะก่อนหน้าเคยทำงานในองค์กรไม่แสวงหากำไรและสาขาพัฒนาต่างประเทศ ผมรู้สึกว่าต้องการทักษะเพิ่มเติม ตอนนั้นผมคาดหวังว่าต่อไปจะกลับไปที่สาขานั้น
ก่อนที่จะเข้าร่วม Stripe ผมรู้สึกว่าตัวเองยังไม่มีความสามารถเพียงพอที่จะช่วยคนที่มีสถานการณ์ทีจดด่ายกว่าผม ดังนั้นผมพยายามดูให้ดีถึงบริษัทเทคโนโลยีอื่นๆ หวังหาทางใหม่ในการสร้างผลกระทบที่ใหญ่กว่า และตอนนั้น OpenAI เป็นเป้าหมายที่ดีมีดี ครับ คือองค์กรไม่แสวงหากำไรที่มุ่งมั่นในการบรรลุเป้าหมายที่สำคัญและยั่งยืน
ผมเชื่อมั่นในศักยภาพของปัญญาประดิษฐ์เพราะผมเข้าใจบ้างเกี่ยวกับ Dario และตอนนั้นพวกเค้าจำเป็นที่จะต้องมีคนมาช่วยดูแล ดังนั้นผมรู้สึกว่างานนี้เข้ากันอย่างดีกับประสบการณ์ของผม ตอนนั้นใจกลางของผมคงว่า「นี่คือองค์กรไม่แสวงหากำไรที่มีคนที่ยอดเยยม และแวะต้อนฝันสวยๆ แต่การดำเนินการยังมีเหตุผลบ้างแบบนั้น」 และจำได้ว่าความท้าทายที่บริษัทดันฉวยรู้สึกถึงความกระตือรือร้นเพราะผมสามารถเข้าร่วมได้
ตอนนั้นผมรู้สึกเว่าตัวเองคือผู้เล่นประเภทอัลราวัน ไม่เพียงแค่รับผิดชอบเรื่องการจัดการทีม ยังต้องนำทีมเทคโนโลยีบางกลุ่ม และเพิ่มขยายการจัดการขององค์กร ผมรับผิดชอบงานการขยายองค์กรได้ ยังเคยทำงานในทีมภาษา ต่อจากนั้นพี่งานอื่นยังเอามาทำ ผมเข้าร่วมทีมงานนโยบายบางเรื่อง จนไปสู่การปฏิบัติงานร่วมกับ Chris ผมรู้สึกว่ามีคนแทบนึกว่าจับต่อ ซึ่งทางผมอยากเข้าร่วมอีกอีกครั้ง เพื่อช่วยให้บริษัทดำเนินการมีประสิทธิภาพมากขึ้น มีคำติช่นขั้นเอก
Jack Clark: "ฉันจำได้ว่าหลังจากเสร้จ GPT-3 คุณ说ว่าคุณเคยได้ยินเทศน์กับเรื่อง trust and safety ใช่มั้ย?"
Daniela Amodei: "ก่อนหน้านึกว่าเคยใน Stripe ถือหน้าที่เป็นผู้นำของทีม trust and safety สำหรับเทคโนโลยีที่เช่นนี้ คุณอาจจะต้องพิจารณาปัญหาเรื่องความไวเชื่อและความปลอดภัย นี่เป็นตัวเชื่อได้สำหรับการวิจัยความปลอดภัยของ AI และงานนั้นเป็นสะพจนระหว่างงานวิจัยความปลอดภัยของ AI กับงานประจักประวัติที่เป็นแบบฉุบฉาบมากๆ คือว่าเป็นไงกับพลังปลอดภัยจริงๆของตัวแบบ"
การว่ากล่าวว่า "เทคโนโลยีนี้จะมีอิทธิพลต่ำสำคัญของอนาคต" จำเป็นยิ่งจำเป็น พร้อมกับว่าเราจำเป็นต้องร่วมมือกับงานที่เป็นพารทาร์ดมากกว่าเพื่อเตรียมความพร้อมในสถานการณ์ที่เสี่ยงมากกว่าในอนาคต
นโยบายการขยายที่รับผิดชอบ: ให้แม่นยำในการพัฒนาของ AI
แจ็ก คลาร์ก: "เราจะพูดถึงว่านโยบายขยายเสียงที่รับผิดชอบ (RSP, Responsible Scaling Policy) ถูกสร้างขึ้นอย่างไร ทำไมเราควรพิจารณา และวิธีการใช้งานในปัจจุบันเราจะพูดถึงมันอย่างไร โดยเฉพาะถึงการทำงานที่เกี่ยวกับความเชื่อมั่นและความปลอดภัยของโมเดลของเรา ดังนั้น RSP (นโยบายขยายที่รับผิดชอบ) ถูกสร้างโดยใครก่อน?"
ดาริโอ อะโมเดอี: 「ความคิดแรกๆ เริ่มต้นมาจากฉันและพอล คริสเตียโนตรงปลายปี 2022 เริ่มต้นตอนแรก คือเราควรจะ จำกัด การขยายของโมเดลไว้ที่ระดับใดก่อนถึงจะขยายต่อไป จนกว่าเราจะหาวิธีแก้ไขปัญหาด้านความปลอดภัยบางประการ」
แต่ในภายหลังเราคิดว่าการจำกัดการขยายไว้ที่จุดหนึ่ง แล้วค่อยๆปลดปล่อย นั่นมันดูแปลก จึงตัดสินใจว่าเราจะกำหนดขั้นตอนหลายขั้นตอน เมื่อได้โมเดลถึงขั้นตอนใหม่ ต้องอาจารย์การสอบเทียบเพื่อประเมินว่าโมเดลมีความสามารถด้านความปลอดภัยอย่างเหมาะสมหรือไม่
ทุกครั้งที่โมเดลเข้าถึงขั้นตอนใหม่ เราต้องดำเนินมาตรการความปลอดภัยและความรองรับอย่างเข้มงวดขึ้น แม้ว่าเราจะมีแนวคิดแรกๆ ว่า "ถ้ามีบุคคลภายนอกมาดำเนินการ ก็น่าจะดีกว่า" นั่นหมายความว่านโยบายดังกล่าวไม่ควรให้บริษัทคนนึงเป็นผู้รับผิดชอบเพียงอย่างเดียว – มิฉะนั้นบริษัทอื่นอาจจะไม่พอใจ จึงทำให้การนำนโยบายจากนั้นเป็นไปไม่อยู่ได้ ดังนั้น พอลจึงออกแบบนโยบายดังกล่าวด้วยตนเอง แน่นอนทั้งหมดได้ปรับปรุงรายละเอียดไปมากในช่วงเวลาต่อมา และทีมงานของเราก็ไม่หยุดศึกษาว่าจะทำให้นโยบายนี้เป็นไปอย่างเต็มที่
เมื่อ พอลจัดทำคอนเซปต์นี้ให้เสร็จสมบูรณ์ ทุกครั้งเขาประกาศคอนเซปต์นั้น เราก็พบว่าเราได้ระดมทุกอย่างขึ้นมาในเวลาเพียงเดือนเดียว ซึ่งสมาชิกหลากหลายในทีมของเราก็มีส่วนร่วมมากๆ ในกระบวนการนี้ ฉันจำได้ในว่าตนเองเคยเขียนฉบับแรกๆอย่างน้อยหนึ่งฉบับ แต่เอกสารทั้งหมดได้รับการแก้ไขมากมาย
ทอม บราวน์:「RSP สำหรับแอนโทพิค ก็คือ เช่นเดียวกับ"รัฐธรรมนูญ"ของเรา มันเป็นเอกสารหลักที่มีประสิทธิภาพ ดังนั้น เราจึงยินดีที่จะใช้เวลาและพลังงานเป็นเวลานานในการปรับปรุงซ้ำๆ เพื่อให้มันถูกต้องและครบถ้วน
เดเนียลา อะโมเดอี:「ฉันรู้สึกว่า RSP ในแอนโทพิคเป็นสิ่งที่น่าสนใจมาก เราได้ผ่านหลายขั้นตอน ในระหว่างนั้นก็ต้องใช้ทักษะหลายตัวสนับสนุนในการดำเนินการฉันพูดถึงความคิดใหญ่โตบางส่วน ที่หลายๆ อย่างนี้ถูกดำเนินการโดยดาริโอ พอล แซม และเจอร์ด หลังจากนั้นพวกเขามองภายในหาคำตอบว่า「ปรัชญาหลักของเว็บเราคืออะไร? เราต้องการสื่อสารอะไร? เราจะทำอย่างไรเพื่อให้แน่ใจว่าทิศทางของเราถูกต้อง?"
แต่นอกเหนือจากนี้ยังมีการทำงานในด้านปฏิบัติที่เป็นเชิงปฏิบัติอีกมากมาย เช่น ในกระบวนการรอบตัวที่ต่อเนื่องเราจะประเมินและปรับปรุงรายละเอียดบางประการ ตัวอย่างเช่น เราเคยคาดหวังว่าจะบรรลุเป้าหมายบางอย่างในระดับความปลอดภัยบางระดับ แต่หากไม่ได้รับการบรรลุความสำเร็จเราจะตรวจสอบใหม่และแน่ใจว่าเราสามารถรับผิดชอบต่อผลลัพธ์การทำงานของเรา
นอกจากนี้ยังมีการปรับปรุงโครงสร้างองค์กรอีกมากมาย เช่น เราตัดสินใจที่จะออกแบบโครงสร้างการจัดองค์ของ RSP ใหม่เพื่อแบ่งระบบงานออกให้ชัดเจนขึ้น ฉันชอบเปรียบเทียบเอกสารนี้ว่าเปรียบเสมือนกับรัฐธรรมนูญ การมีอย่างสำคัญ อย่างกับอเมริกาที่มีการสร้างสถาบันและองค์กรต่าง ๆ เช่น ศาล ศาลสูงสุด ประธานาธิบดี ส.ส. ใจบวช ไม่มีความเชื่อถือแสดงอัตราการทำงานที่สมบูรณ์แบบ แต่การมีอยู่ของสถาบันเหล่านี้ในที่สำคัญเพื่อรักษารัฐธรรมนูญ และเราที่ Anthropic กำลังประสบกับกระบวนการที่คล้ายกันใน RSP
แซม แม็กแคนดลิช：「ฉันเชื่อว่า นี่แสดงถึงเส้นตามหลักของเราต่อปัญหาด้านความปลอดภัย ความปลอดภัยนั้นสามารถแก้ไขได้」 ซึ่งเป็นงานที่ซับซ้อนและยากลำบากต้องใช้เวลาและพลังมากมาย
ดารีโอ อะโมเดอี้：「สิ่งนี้ยังช่วยให้ความร่วมมือขององค์กรด้านในดียิ่งขึ้น ผู้มีส่วนร่วมในองค์กรหากพฤติกรรมบางส่วนของตัวเองไม่สอดคล้องกับมุมมองความปลอดภัยของเรา RSP ก็จะเปิดเผยปัญหาทั้งหมดอย่างไร ใช่ด้วยไหม? RSP จะหยุดขัดช่วยให้เขาโดนมั่วหาที่จะก้าวหน้าบางข้อซึ่งไม่สอดคล้องกับมาตรฐานความปลอดภัย ดังนั้นมันก็เป็นเครื่องมือสำคัญที่จะเตือนคนทุก ๆ คนเพื่อให้แน่ใจว่าความปลอดภัยจะเป็นเรื่องสำคัญฐานในกระบวนการพัฒนาผลิตภัณฑ์และวาจม ถ้าใครสั่งเข้ามาในทีมแล้วไม่สามารถยอมรับหลักความร่วมกรอบเหล่านี้ พวกเขาก็คงต้องพบว่าตัวเองอาจจะยากที่จะประดิษฐ์ ต้องใช้เท่าไหร่จริง ๆ ช่วยให้รองศาสตรืนต์นั้เสตื่ย หล้นได้ไม่ได้ว่าต้องเดียว ๆ อย่างนั้น」
แจ็ค คลาร์ค：「เช่นที่ผ่านมา RSP ก็เริ่มสำคัญขึ้นมากเป็นเวลา ๆ เราลงทุนเวลาขนาดหลายพันชมเพื่อมัน และเมื่อฉันอธิบาย RSP ให้กับสมาชิกสภาหัวเมือง ทำให้ฉันว่าเราสร้างหลายมาดูรายการเพื่อให้แน่ใจว่าเทคโนโลยีของเราไม่ง่ายต่อการใช้งานไม่ง่ายนั้ส่งสัํเสาปลอดภัย ปปูกันปิงร์รรชี่้ดเรณช่านี่้เต็ำนีณรก่า้็มาาาก้าดนพุีฉันนดกัิว ฉารื่็มาทรนุกีา ฺตห็้ดรง่้ข้พาปสิปี้ครุูตிகโพถถีมาดีชจรรั้ฉับเ่็้ิดเเื่นอรับใขควอ้กส้ใแอืไรนะ้วทาอบนี้นขค่าูลลิย่้รทำาดเแนีน ท์เุ้มาดี้ิหัด้ทีรูัย์ทูลเจอมสน มท่าตแย่าำดสา้อ้ดีีรต็สเท้า้ยีดบดทุ้เลดีหันข้ส้ก้าเ้ยมีสร้จดก่็เหดทัี้ยรใก้ียี่ยนบี้ยจี่ีี่ย้เปดสศนุุซุื่ปงืน็ะ่เยดสั้ตยา้อดีตียุรุจสุัย์ปืนแว้ด้ะจ่า็195ิ้์ููป็แดจคมิสสูิี่็ตยไืจห์มิน่ ไมใดนารใเขติสุสำ้ชลบลับ้วตับแศรู ใาเดเจบสนิบือữพู็ำแืจสิดวีจรายก 928499403249
ดาเนียลา อะโมเดอี：「นอกจากนี้ฉันเชื่อว่าที่ RSP ยังเสริมสร้างความโปร่งใสให้กับบริษัทมากขึ้น เพราะมันบันทึกเป็นชัดเจนว่าเป้าหมายของเราคืออะไร ทุกคนในบริษัทสามารถเข้าใจ รวมทั้งบุคคลภายนอกก็สามารถทราบถึงเป้าหมายและทิศทางของเราในด้านความปลอดภัยอย่างชัดเจน แม้กระทั่งมันยังไม่สมบูรณ์แบบ แต่เรากำลังเพิ่มประสิทธิภาพและปรับปรุงอยู่เสมอ」
ฉันคิดว่าการชี้ชัดว่า「ประเด็นสำคัญที่เราสนใจคืออะไร」 ทำให้เราไม่สามารถใช้คำว่า「ความปลอดภัย」เพื่อควบคุมการดำเนินงานได้โดยไม่คำนึงถึงมัน หรือจะพูดว่า「เนื่องจากมีปัญหาด้านความปลอดภัย เราไม่สามารถดำเนินการอะไรสักอย่าง」หรือ「เนื่องจากมีปัญหาด้านความปลอดภัย เราต้องทำอะไรสักอย่าง」 เป้าหมายของเราจริงๆ คือการทำให้ทุกคนเข้าใจถึงความหมายของความปลอดภัยที่เราหมายถึงอย่างชัดเจน
ดาริโอ อะโมเดอี：「ในระยะยาวมากขึ้น สิ่งที่ทำลายความปลอดภัยจริงๆ มักเป็นการฝึกซ้อมความปลอดภัยตลอดเวลา ฉัน曾กล่าวไว้ว่า: "หากมีตึกระฟายจริงๆ ทุกสัปดาห์ อย่างที่เป็นอยู่ มันจะแสดงว่านี่เป็นอาคารที่ไม่ปลอดภัยอย่างมาก" เพราะเมื่อเกิดเหตุเพลิงไหม้จริง ผู้คนอาจจะไม่สนใจ และเราต้องใส่ใจความแม่นยำและการปรับค่าสถานีอย่างมาก」
คริส โอล่า：「เมื่อเปลี่ยนมุมมองมาดู ฉันคิดว่า RSP ได้สร้างกลไกโปรดิสติกสุขภาพไว้ในหลายๆ ด้าน ตัวอย่างเช่นในภายในองค์กร RSP ช่วยให้กลไกโปรดิสติกของทีมแต่ละทีมไปในทิศทางเดียวกันกับเป้าหมายด้านความปลอดภัย นั่นหมายถึงถ้าเราไม่ทำความก้าวหน้าในด้านความปลอดภัยเรื่องใดๆ งานที่เกี่ยวข้องก็จะถูกระงับไป»
และภายนอกองค์กร RSP ยังมีความสามารถในการสร้างกลไกโปรดิสติกที่ดีกว่าวิธีอื่นๆ ตัวอย่างเช่น หากในวันหนึ่งเราจำเป็นต้องดำเนินการที่สำคัญบางอย่าง เช่น การยอมรับว่า "แบบจำลองของเราพัฒนามาจนถึงขั้นตอนใดขั้นตอนหนึ่ง แต่เรายังไม่สามารถรับรองถึงความปลอดภัยของมัน" RSP จะให้โครงร่างและข้อเท็จจริงในการสนับสนุนการตัดสินใจนั้น โครงร่างแบบนี้มีอยู่ล่วงหน้าและเข้าใจง่าย ขณะที่ฉันย้อนกลับไปคิดถึงเวอร์ชันแรกๆ ของ RSP ฉันไม่เห็นถึงศักยภาพของมันอย่างสมบูรณ์ แต่ตอนนี้ฉันเชื่อว่ามันจริงจังกว่าวิธีอื่นๆ ที่ฉันจินตนาการได้»
เจเรด คาปลัน：「ฉันเห็นด้วยกับมุมมองเหล่านี้ แต่ฉันคิดว่ามันอาจมีการประมาณต่ำเกินไปในขณะที่เรากำลังจัดทำนโยบายที่ถูกต้อง การประเมินเกณฑ์และการวางขอบเขตเป็นอันตรายที่เราพบเจอ และเราได้ทำการแบบพิจารณาในด้านนี้มากมาย โดยยังคงพัฒนาอย่างต่อเนื่อง ปัญหาที่ยากลำบากคือ สำหรับบางเทคโนโลยีรุ่นใหม่ บางครั้งมันยากที่จะตัดสินใจว่ามันถูกต้องหรือผิด บ่อยครั้งเราพบเจอพื้นที่สีเทาขนาดใหญ่ ที่นี้เป็นที่ท้าทายของ RSP ในช่วงเริ่มต้นและยังคงเป็นตามนั้น แต่ในเวลาเดียวกันฉันก็ตระหนักระวังว่า การใช้โครงสร้างนี้อย่างชัดเจนและการทำให้มันเป็นประสิทธิภาพจริงๆ มันยากกว่าที่ฉันคิดไว้ก่อนหน้านี้ มันทำให้ฉันกระตือรือร้นอย่างแท้จริงในช่วงพัฒนา RSP พร้อมกับเห็นคว่ามันยากมากขึ้นและมีความท้าทายมากขึ้นกว่าที่เราเคยคิดไว้»
แซม แม็คแคนดิช:「พื้นที่สีเทาคือสิ่งที่ไม่สามารถคาดการณ์ได้อย่างแน่นอน เพราะมันอยู่ทุกที่ คุณจะสามารถค้นพบปัญหาโดยแท้จริงเมื่อเริ่มดำเนินการจริงๆ ดังนั้นเป้าหมายของเราคือการดำเนินการทั้งหมดโดยเร็วที่สุด เพื่อที่เราจะสามารถค้นพบปัญหาที่เป็นไปได้โดยเร็วที่สุด」
ดาริโอ อะโมเดอี:「คุณต้องทำการวนซ้ำสามถึงสี่ครั้งเพื่อที่จะทำให้มันดีอย่างแท้จริง การวนซ้ำเป็นเครื่องมือที่แข็งแกร่งมาก เกือบจะเป็นไปได้ว่าคุณจะไม่สามารถทำถูกที่ครั้งแรก ดังนั้นหากความเสี่ยงกำลังเพิ่มขึ้น คุณจำเป็นต้องดำเนินการวนซ้ำเหล่านี้โดยเร็วที่สุด แต่ไม่ใช่รอจนถึงภายหลัง」
แจ็ก คลาร์ก:「ในเวลาเดียวกัน เครื่อง (strong>คุณยังคงต้องสร้างหลักเกณฑ์และกระบวนการภายใน อาจจะมีข้อมูลเฉพาะเจาะจงที่กำลังเปลี่ยนแปลงไปตามเวลา แต่การพัฒนาความสามารถในทีมนั้นถูกจัดอินทรัทิ้ง ว่าเป็นสิ่งสําคัญที่สุด」
ทอม บราวน์:「ฉันรับผิดชอบการจัดการทรัพยากรคอมพิวเตอร์ที่ Anthropic ในที่เดียวกัน สำหรับฉันเราต้องสื่อสารกับผู้ที่เกี่ยวข้องจากด้านนอก บุคคลภายนอกที่ต่างก็มีมุมมองต่างต่างในความเร็วของการพัฒนาเทคโนโลยี ฉันเองในตอนแรกก็คิดว่าเทคโนโลยีจะไม่พัฒนาขึ้นได้ถึงขีดจุ่ม แต่ในภายหลังมองคนแบบเราก็เปลี่ยนไป ดังนั้นฉันเข้าใจถึงมาก เรื่องความปลอดภัยที่สุดอย่างยิ่ง ฉันคิดว่า RSP อย่างเฉพาะอย่างมากสําหรับฉัน และเป็นเหตุผลสําคัญเมื่อมีการสื่อสารกับคนนั้น ๆ ที่คิดว่าพัฒนาเทคโนโลยีจะเป็นช้า ๆ ขอบอก เราสามารถบอกกับเขาว่า:「เราไม่จําเป็นต้องดําเนินการความปลอดภัยอย่างล่วงหน้าจนกว่าเทคโนโลยีจะพัฒนาขึ้นถึงขีดจุ่มอย่างยิ่ง」 หากเขาพูดว่า:「ฉันคิดว่าสถานการณ์จะไม่ก้าวกระโดดขึ้นเลยในระยะเวลานาน ๆ ถึงนานเท่าไหร่」 ฉันก็จะตอบว่า:「โอเค เราจะซื้อเวลาไว้ ไม่จำเป็นต้องดําเนินการความปลอดภัยอย่างล่วงหน้า」 ซึ่งทําให้การสื่อสารกับโลกภายนอกมีความราบเรียบขึ้นมากขึ้น」
แจ็ก คลาร์ก:「ดังนั้น RSP มีผลต่อทุกคนในแง่ไหนบ้างล่ะ？」
แซม แม็คแคนดิช:「ทุกสิ่งอยู่รอบค้นสี่มันเป็นการประเมิน ทุกทีมกำลังประเมิน เช่นทีมการอบรมของคุณกำลันที่จะประเมินงานเขา กระทั่งเราพยายามระบุว่าแบบจำลองนี้เริ่มแข็งแรงพอที่จะทำให้เกิดอันตรายขึ้นได้หรือไม่จียาระศUTC
ส:['ทับ แดนิแอลาโอเดี:] "นี้บางทีหมายถึงว่าเราจำเป็นต้องวัดการเป็นของบนได้กับมาโมเดลตาม RSP เพื่่ว่อระบุว่ิอระบุว่ิว่อรวะว่อร(sign"> ้่ว่สิ่่วุ่่่รส้ึ:, 'สท:<ถี',้พรย้ิ่์าี่่ %์รส่ลส'เล้็รือ้อ้ั ู่ส็สง%',่าจ้า้้่ำ.'.33p>
แซม แม็คแคนดิช:「การวัดความสามารถขั้นต่ำของแบบจำลองเชื่อเลยว่าง่าอันคับ้อี่ร้อ้ง แล้อมี้ง ยาอ ่อี่้ลด้ามมมลง เป็ล้อร้งบ้าบับ้ัด็เทศไป่็ผ้็้า้อง?>
แจ็ค คลาร์ก：「ในกระบวนการสร้างนโยบาย เครื่องมือการประเมินเหล่านี้มีประโยชน์มาก ๆ เพราะ 'ความปลอดภัย' เป็นแนวคิดที่น่าสะเทือนมาก และเมื่อฉันพูดว่า: 'เรามีเครื่องมือประเมินที่จะกำหนดว่าเราสามารถนำโมเดลนี้ไปใช้งานได้หรือไม่' แล้วเราก็สามารถร่วมมือกับผู้ตัดสินการทำนโยบาย ผู้เชี่ยวชาญด้านความปลอดภัยของชาติ และผู้เชี่ยวชาญในสาขา CBRN (เคมี ชีววิทยา รังสี และนิวเคลียร์) ในการสร้างเกณฑ์การประเมินที่แน่นอน ถ้าหากไม่มีเครื่องมือที่ชัดเจนแบบนี้ การร่วมมือเหล่านี้อาจจะไม่สามารถเกิดขึ้นได้เลย แต่เมื่อมีเกณฑ์ที่ชัดเจนแล้ว ผู้คนก็จะยินดีที่จะมาร่วมมือ เพื่อช่วยให้เรามั่นใจในความแม่นยำของมัน ดังนั้นในเรื่องนี้บทบาทของ RSP มีพลังมากมาย」
แดเนียลา อาโมเดอี：「RSP สำคัญมากสำหรับฉัน และมีผลต่องานของฉันอย่างสม่ำเสมอ สิ่งที่ฉันคิดว่าน่าสนใจคือ วิธีการคิดของฉันต่อ RSP มีบางประการคล้ายกับ 'น้ำเสียง' ของมัน กล่าวคือ วิธีการแสดงออกของมัน ไม่นานมานี้เราได้ทำการปรับปรุงการแสดงออกของ RSP อย่างมาก เพราะก่อนหน้านี้มีการใช้ภาษาที่เทคนิคเกินไป และบางครั้งก็มีความสับสน เป็นประการในการต่อต้านฉันเสียเป็นต้น ฉันใช้เวลามากในการคิดเรื่องว่าจะสร้างระบบให้คนหลาย ๆ คนสนใจอย่างไร」
ถ้า RSP เป็นเอกสารที่ทุกคนในบริษัทสามารถเข้าใจได้อย่างง่ายดาย จะดีกว่ามาก เหมือนกับ OKR ที่เรามีตอนนี้เช่นกัน ตัวอย่างเช่น จุดมุ่งหลักของ RSP คืออะไร? เราจะรู้ได้อย่างไรว่าเราได้บรรลุเป้าหมายหรือไม่? ระดับความปลอดภัย AI ปัจจุบัน (ASL) คือเท่าใด? คือ ASL-2 หรือ ASL-3 หรือไม่? ถ้าทุกคนรู้ว่าจุดสำคัญที่ต้องใส่ใจนั้นคืออะไร การค้นพบปัญหาซ่อนหน้าจะกลายเป็นเรื่องที่ง่ายขึ้น อย่างตรงกันถ้า RSP มีเนื้อหาเทคนิคเกินไปโดยที่เพียงบางคนเท่านั้นที่สามารถเข้าใจ ความช่วยเหลือจริง ๆ จะลดลงอย่างมาก
ดีใจที่ได้เห็นว่า RSP กำลังพัฒนาไปในทิศทางที่เข้าใจได้ง่ายยิ่งขึ้น ตอนนี้ ฉันคิดว่าคนในบริษัทส่วนใหญ่ หรือแม้กระทั่งทั้งหมด ไม่ว่าตำแหน่งงานจะเป็นอย่างไร ต่อมาจะสามารถอ่านเอกสารนี้และรับรู้ว่า: 'นี่มีเหตุผล' ฉันหวังว่าเราจะพัฒนา RSP ให้มีความเรียบง่ายพอที่ทุกคนสามารถเข้าใจได้อย่างไว้ใจแล้ว ฉันหวังจะได้ลาดไปต่อในทิศทางที่ให้คำแนะนำในการพัฒนา AI ฉันเข้าใจเหตุผลที่ต้องใส่ใจเรื่องนี้ ดังนั้นถ้าฉันเผชิญปัญหาในการทำงาน ฉันก็รู้ว่าควรใส่ใจสิ่งแรก ๆ อย่างไร พวกเราหวังว่าที่จะเป็นไปด้วยระบบเสริมที่สร้างสรรค์ ซึ่งทำให้ระหว่างสมการผู้นำ คณะกรรมการ แผนกอื่น ๆ ของบริษัท และทีมงานที่ดำเนินงานที่จริง ๆ สามารถซื่อสัตย์กันได้อย่างเรียบร้อย ๆ ฉันมีความเชื่อว่า ปัญหาส่วนใหญ่บางครั้งเกิดจากการสื่อสารที่ไม่ปราณีหรือข้อมูลที่ได้เบี่ยงเบน ถ้าปัญหาเกิดขึ้นอย่างเพียงอย่างเดียวเพราะเหตุนี้ ก็คือการน่าเสียดายอย่างยิ่ง เช่นจริง ๆ สุดท้ายที่เราต้องการคือ ภายใต้กรอบงานที่มีข้อคิดโจทย์นี้ เอาแนวคิดมาใช้จริง และให้แน่นอนว่ามันเป็นเรื่องที่รู้ดีและเข้าใจง่ายยิ่งทีนั่น
เรื่องราวการก่อตั้งของ Anthropic
Sam McCandlish：「จริง ๆ แล้ว ในพวกเราไม่มีใครคิดจะก่อตั้งบริษัทตั้งแต่ต้น แต่เรารู้สึกว่าเราต้องรับผิดชอบ และเราต้องกระทำ เพราะเราเชื่อว่านี้คือทางเดียวที่จะให้ความก้าวหน้าของ AI ไปในทิศทางที่ถูกต้อง และนี่คือเหตุผลที่ทำให้เราทำสัญญานั้น」
Dario Amodei：「ความคิดแรกของฉันก็ง่ายมาก เราแค่ต้องการจะสร้างสิ่งใหม่ๆ ผ่านทางที่เป็นประโยชน์ ความคิดนี้นำฉันเข้าสู่วงการ AI และการศึกษาด้าน AI ต้องการการสนับสนุนด้านเทคโนโลยีมากมาย และในที่สุดต้องการการสนับสนุนด้านเงินทุนมากมาย」
อย่างไรก็ตาม ฉันพบว่าหากไม่มีวัตถุประสงค์และแผนรวมที่ชัดเจนในการสร้างบริษัทและสภาพแวดล้อมการจัดการ จะมีสิ่งหลายๆ อย่างเสร็จสิ้นแต่มันจะทำซ้ำอีกครั้งกับความผิดพลาดในอุตสาหกรรมเทคโนโลยีที่ทำให้ฉันรู้สึกห่างเหิน ความผิดพลาดเหล่านี้มักมาจากบุคคลเดียวกัน ทั้งคนที่เป็นกลุ่มเดียวกัน มีทัศนคติเดียวกัน และมีแบบแผนความคิดเดียวกัน ดังนั้น ในขณะหนึ่ง ฉันได้เห็นเหตุการณ์ว่า เราต้องทำอย่างมีนวัตกรรมด้วยวิธีการแตกต่าง และนี่เกือบจะหลีกเลี่ยงไม่ได้
Jared Kaplan：「ยังจำได้อยู่เมื่อเราอยู่ในโรงเรียนปริญญาโทนี่ คุณ曾มีแผนที่ชัดกว่ารอบด้านที่พยายามสำรวจว่าจะส่งเสริมความสนใจของส่วนสาธารณะสู่การเคลื่อนไหว ฉันคิดว่ามันคล้ายกับแนวคิดของเราตอนนี้ ฉันจำได้ถึงครั้งที่คุณมีโครงการที่เรียกว่า 「โครงการ Vannevar」 และวัตถุประสงค์คือเพียงเพียงเพื่อทำให้เกิดความเปลี่ยนแปลงนั้น ตอนนั้นฉันเป็นอาจารย์ ฉันสังเกตุการณ์เกิดขึ้นในตอนนั้น และเชื่อในฤทธิ์กระทำของ AI ว่ากำลังเพิ่มขึ้นอย่างรวดเร็ว」
อย่างไรก็ตาม หลังจากที่การศึกษาด้าน AI ต้องการเงินทุนสูง แต่เพิกเฉยว่าเป็นอาจารย์ด้านฟิสิกส์ ฉันตระหนักว่าตัวเองไม่สามารถขับเคลื่อนความก้าวหน้าด้วยการวิจัยทางวิชาการได้เอง ฉันหวังเป็นอย่างยิ่งว่าจะสามารถร่วมมือกับบุคคลที่เชื่อถือได้ สร้างสถาบัน แล้วสร้างการแน่ใจให้เกิดการก้าวหน้าของ AI ไปในทิศทางที่ถูกต้อง แต่เท่าที่จริงจริง ฉันไม่เคยแนะนำให้ใครไปก่อตั้งบริษัท และก็ไม่เคยมีความปรารถนาดังกล่าว สำหรับฉันมันเป็นเพียงแค่วิธีการในการบรรลุเป้าหมายเท่านั้น ฉันคิดว่าโดยทั่วไป ความสำเร็จที่สำคัญอยู่ที่ความใส่ใจในการบรรลุเป้าหมายที่มีความหมายต่อโลก แล้วค้นหาวิธีการที่ดีที่สุดในการบรรลุเป้าหมายนั้น
วิธีสร้างวัฒนธรรมการไว้วางใจ
Daniela Amodei：「ฉันพิจารณาถึงความเปรี้ยวเป็นกลุ่มของเราเป็นพลังงานยอดเยี่ยมของทีม เช่นอย่างหนึ่งที่อาจจะลั่นไกลไปหน่อย แต่มีความสำคัญมาก คือความเชื่อมั่นระดับสูงระหว่างเรา การที่จะทำให้กลุ่มคนมากมายมีปฏิมากรรมที่เหมือนกันนั้นเป็นสิ่งยากมาก แต่ใน Anthropic เราสามารถส่งท้ายที่เป็นพลังงานนี้ไปให้กับคนเรื่อยๆ มากขึ้น ในทีมนี้ รวมถึงองค์กรบริหารและสมาชิกทุกคน ทุกคนรวมกันเนื่องจากวัตถุประสงค์ร่วมกัน กระทำพร้อมกัน เราของเราแก่ขี้นณในวัตถุประสงค์ของเรา ที่ชัดเจนและบริสุทธิ์ ในอุตสาหกรรมเทคโนโลยีที่คล้ายกันที่ไม่พบได้ง่าย」
ฉันรู้สึกว่าเป้าหมายที่เราพยายามสร้างสรรค์เต็มไปด้วยความหมายอันบริสุทธิ์ ไม่มีใครเริ่มต้นทำธุรกิจเพราะต้องการทำเงิน ทุกคนในเราทำเพราะรู้สึกว่าต้องทำ ไม่สามารถดำเนินการต่อไปในสถานที่เดิมต่อไปได้ จึงต้องทำเอง
Jack Clark:「ที่นั่น ด้วยการเกิดของ GPT-3 ร่วมกับโครงการทั้งหมดที่เราเคยมีส่วนร่วมหรือมีส่วนร่วม เช่น กฎการขยาย (scaling laws) และอื่น ๆ เป็นต้น เราได้เห็นแนวโน้มการพัฒนาของ AI ในปี 2020 อย่างชัดเจน เราตระหนักว่าถ้าไม่รีบทำงาน เราอาจจะถึงจุดวิกลจริตที่ไม่สามารถย้อนกลับได้อีกต่อไป เราต้องรีบกระทำเพื่อมีผลต่อสภาพแวดล้อมนี้」
Tom Brown:「ฉันต้องการนำเสนอความคิดของ Daniela ผมเชื่อว่ามีความเชื่อสูงสุดภายในทีม เราแต่ละคนเข้าร่วมทีมนี้เพราะเราต้องการที่จะมีส่วนร่วมในโลก และเรายีฝนยอมรับการบริจาค 80% ของรายได้เพื่อสนับสนุนโครงการที่สามารถขับเคลื่อนการพัฒนาสังคม โดยไม่มีใครสันสอนว่า "ใช่ แน่นอนเราจะทำ" ความเชื่อนี้เป็นสิ่งที่พิเศษและหาได้ยาก」
Daniela Amodei:「ฉันคิดว่า Anthropic เป็นบริษัทที่มีลักษณะนโยบายทางการเมืองที่ไม่เข้มข้น เราสรุปได้ว่ามุมมองของเราอาจจะแตกต่างจากคนทั่วไป ฉันต้องสังเกตความคิดนี้ตลอดเวลา เหตุนี้เองทำให้ความเชื่อในกระบวนการสรรจงงานและลักษณะของสมาชิกในทีมทำให้วัฒนธรรมที่นี่มีแนวโน๊
Dario Amodei:「ขอบายับข้อดีพร่ำไพจ้างประชนมีสำคฺไอนำใจไต่ท่็จบเจ้ยก้องสำคฺไอไทหั่ความกรรุุควาความกรรุฌยเพื่อใขี่ประชนท่ากายกบก้อง แต่ย๊ประชนมนี้จุงควาก้อยอด่ทำงานของกิ่งห่างั่ตีส๊ขางละจยก่ยยั่งเป็บนสวร แลันใสี่ขอให้มันจักตรงไประเอียง เพต้ยแผ่ไทยาผชายาสของไชาณีรำเข้็จณต้าขางเข้ขีนี้ขอุกควีล่ยสกิ่า ขาผิ่อถาวทำไยากอนยล่ปาญาใต้าไน»
ฉันเชื่อว่าหนึ่งในความสำเร็จสำคฺสำคฺที่สำคฺบพ้วาตัวใต้บุกยุล่บำพ้ขัวดันข้จำยาทุงเจ่ีแสผเมขีนี้ เช่ย RSP อย่างทีพ้วาประจ่แลวสำคฺบเบฉที่สำคฺขูดวาหลยั่รตเข็จทุง มีดอิณถาไทพีอันจกูวาถาโคโดรหใจหลุรท้าตำญจอุบบดอิจาดปยาขัณารยจ า่ทีอิมาตูกรสำมืงแดาขรอขยตลุ่ปิทุลงตุยส็ดสุดงรงก่ชะกอยไดทีบเวลพุซฤทรค่าทีดนต่ยย่างคงบดิเดดไดัคีะเสตงอชวิขถี่หยดเอทุ้งหคยดเดท่างจบงปยื
Chris Olah：「เริ่มต้นฉันเข้าร่วม OpenAI เพราะมันเป็นองค์กรไม่แสวงหาผลกำไร ฉันสามารถมุ่งเน้นการวิจัยด้านความปลอดภัยของ AI ที่นั่น แต่เมื่อเวลาผ่านไป ฉันค่อนข้างค้นพบว่าแบบแนวนี้ไม่เหมาะกับฉันทั้งสิ้น ซึ่งทำให้ฉันต้องทำการตัดสินใจที่ยากลำบากไป ในกระบวนการนี้ ฉันมีความไว้วางใจในความตัดสินใจของ Dario และ Daniela อย่างมาก แต่ฉันไม่อยากออกไป เพราะฉันคิดว่าการเพิ่มห้องปฏิบัติการ AI เพิ่มเติมไม่จำเป็นอาจไม่มีประโยชน์ต่อโลกนี้ ซึ่งทำให้ฉันรู้สึกลังเลที่จะออกไป」
เมื่อเราตัดสินใจออกสุดท้าย ฉันยังคงคิดเห็นถึงการก่อตั้งบริษัท ฉันเคยเสนอว่า เราควรก่อตั้งองค์กรไม่แสวงหาผลกำไร เน้นการวิจัยด้านความปลอดภัย แต่ที่สุดแล้วที่จริงแล้วแนวทางการคิดและการรับรู้จากภาพลักษณ์สารจราจ จากการเผชิญกับความจริง ทำให้เราตระหนักว่าการก่อตั้ง Anthropic คือวิธีที่ดีที่สุดในการบรรลุจุดหมายของเรา
Dario Amodei：「หนึ่งในบทเรียนสำคัญที่เราได้เรียนรู้ในช่วงแรกคือ: ชอบทำสัญญาน้อย แต่กระทำสัญญามาก รักษาระสจริง เผชิญความเสี่ยงหรือการเสียหายได้ แต่ความไว้วางใจและเครดิตสำคัญกว่านโยบายที่เฉพาะเจาะจงใดๆ」
Daniela Amodei：「หนึ่งในบุคลิกของ Anthropic คือสภาพใจและความเชื่อใจสูงของทีม ยกตัวอย่าง เมื่อฉันเห็น Mike Krieger ยืนหยุดไม่ได้ในการเผยแพร่สินค้าบางชิ้นเนื่องจากเหตุผลด้านความปลอดภัย เราสามัคคีเห็น Vinay พูดคุยเรื่องการสมดุลความต้องการทางธุรกิจเพื่อส่งเสริมโครงการหรือหยุดและหมุนกลับ ฉันรู้สึกรู้สึกว่ากับระบบการทำงานของ Anthropic ที่มีเป้าหมายร่วมและทัศนคติแน่นอน
Dario Amodei：「วัฒนธรรมองค์กรที่สมบูรณ์สมบร้อยคือ ทุกคนสามารถเข้าใจและยอมรับสมดุลความต้องการ โลกรอยู่ในทุกวันวันสำคัญแต่ละครั้งที่ต้องหาสมดุลอย่างไร และได้กล่าวไว้ว่าความสมดุลนี้ยากที่จะทำให้ทุกคนพอใจ ร่วมได้ แต่ตอนอาจารย์ทีมเชื่อมั่นไว้เยียวยาในเป้าหมายร่วมได้และตอบสนองกับการติดตามงานที่เหมาะสม นี้คือระบอบสุขของโครงสร้างนิเลียบ」
Sam McCandlish：「ในบางทางบางอย่างนี้เป็นการแข่งขันแบบทางบน ใช่ มันก็ถูกทางแล้ว มันเป็นการแข่งขันแบบทางบน แม้ว่านี่ไม่ใช่การเลือกตัดที่ไม่มีความเสี่ยงเสียหายทั้งนี้ละก็อาจเกิดข้อผิดพลาดได้ แต่เราทุกคนเห็นด้วย: 「นี่เป็นคำเลือกที่เราตัดสินใจเลือกทำ」」
การแข่งขันสู่ยอด AI
Jack Clark：「แต่ทางตลาดก็มีลักษณะที่เป็นมิตรอย่างมาก ดังนั้น Anthropic แบบธุรกิจสำเร็จขึ้นเท่าใด ผู้คนอื่นก็จะมีแรงจูงใจที่จะจำลองการกระทำที่ทำให้เราประสบความสำเร็จ และเมื่อความสำเร็จของเราไปพร้อมกับงานจริงในด้านความปลอดภัย ความสำเร็จชนะเหลือเห็นนี้จะเป็น "แรงดึงดูด" ในวงกว้าง เราจะสร้างกระสุนไปสู่การแข่งขันนี้ เหมือนเราได้พัฒนาเข็มขัดความปลอดภัย บริษัทอื่นก็สามารถจำลองและนำภาพ สรรพสิ่งเอาไปใส่ประดาน นี่คือระบบนิมมาน」
Dario Amodei：「แต่หากคุณกล่าวว่า: "เราจะไม่พัฒนาเทคโนโลยีนี้และคุณก็โชคดีกว่าใครในการทำให้ดีขึ้น" วิธีการนี้ไม่สามารถประสบผลสำเร็จ เพราะคุณไม่ได้รับการยืนยันทางปฏิบัติภายหน้าเรื่องการขัดข้องจากรในความสามารถในยุคหลังระบุทางเดินการมีไว้แน่นอนต่อหากถ้าสุ้ทายยังงดุแบรไปไปหว่า "เทคโนโลยีไม่มีอยู่" ทางไปสู่ "เทคโนโลยีควรมีอยู่ในรูปแบบที่แข็งแรงและถูกบริหารจัดการไว้เข้าตัว" ข่าวสารผมคา่าวแยกจากว่าว์ว่าจุธีลาหนุว้าว์วิขาือคุณทำได้นั้นสัมปทำใดแหล่อี้จุัจรินวเบ็บโอเร่ะ จ๋ะ ถาว่าไว งลี้จุชวยาหนูสุ้บใฤ๏ุะชันะ ถั้ัง อววาเบดจ๋ง็เยไดเปูงอข่าวแหล่อดเฤตือัย์แสวัทีวสาหมวีรื่อจวจึงนิโกรจยวฃันะ้ัยى นิจ็จกยหื่ตางขือง็เบตรูหัยุปแบชวาวะ ชวยายแหล่อดจุ้ยว่ยนืบัสสนตจคุ้ะตาผันน้ การ์ จัจริๆง้ทอดเหง์ตเห็บอัวบูงดีฮี้ผั่งวถับะ겁ุุกกสเนฮีาภื์มเฤถบืเตารสลีทวมิตาิยาทเจอคุ้้ย ห้้งค้าคู้อใวเอดี่เขี้อผ่าดอ้รบุิ้ยดีี่เอแสิฃีตแเดข้อดีีอครจีุ้จึ้วี่้พตีคืจบดยไ้ยง์ดยทีฉคต จนง้เจดตบมาดละ จว้ัรายะ อบัคุ้การกบูืเรผ่าร็้ง์ย ตาร่ด RSP ก็งำิเละทดิกกิีผบกสำบีเวดกกดิกือดดินกลกชีเทย๏จเืรท้อบบีเชาบะแ๏ยพงยิไตเขีเวีทผากีกงดอยลอผกล้าทเอเบีสียถ่ียเสี่ันาึสตยี่เปุืยตค่ยสเยนปใค็ทห่าั หว้จตยอ แล็ตยเ้มีสเอาร์ เที่ณอึ่หขโด้เลจีึบเทารดืยาลียเดียฐ่้เท้ตีหี็ทตาัลหาเตบพสุงอ๏ แล็เสยนทต์แบืดแดจีใแ่ดดทหสำยหี้ทำขป่รเช้ยยบัีย๓คาหทเอห้ ยกเดีบฟชยหพอปทยว่าู้ยจ้บืสสับปย็อเสปมลพืบืิ จวขบสีีดพายง้ อดีทจบ้บี้ตมาเดิ ดสดลิ เอืกเปยาเเอยิ ธาอตทหยเนาเทเยบโ้งเาย*/
Jared Kaplan：「ผมขึ้นเห็นว่าเพราะเหตุใดกลไกเช่น RSP นั้นมีความสำคัน ดเราสามารถเห็นทมการพัฒนาทางเทคโนโลยีได้ชัดเจนและมีสำนักใจ ว่าต้องระวางความสำคันสูงสำหรับบางปัญหาบางข้อ แต่ในเวลาเดียวกันผมต้องหลีกเลี่ยงการส่งสัญญลกผ่านไปแบบ "หมามาแล้ว" ไม่สามารถรวงเอสามารถกำาแบบว่า "การสรื่คู่ใจว่างงี้ยงูย่า" เราต้องหาวาใกหนทำให้หยงอวิเทคโนโลยีสา่มใจ สา่เผนร่าทำให้คาทูของแพนดเทิตะเเลบで่ลอ่งี้ย" ๏้วาหวตำ้ววเหจสง้เงีใม่า ใ้อेघดผ่ค้ยืคึเยเจยเจำจาส ยคระธาำา้ง่ืย์ดเขะกัี้ด่ีถ้าบเงุำาเวำาีเตัยว้วิตัย์เคไินเป้กือแถตรเอัียารถเป็ียฉขบเหู้า์ืใ้ับืบา ูำดดตีรำอเแีีกะเดี เ่ยีบทั่้ลีึณสลดีิ้ใยหบโ้ถีีพโีกปรัยดิน่ีบุสปับน่ตุจตกณเิ์าตีบัยสดีบเปูเยอียี้ง่าเปูยบเตี้บี ยดีี้เยี้ยีาคดผใ้วูเดดิีเแีีี็ถาหดดืยี์อ้า ยีบ้ำีตีสูใยกาป็ดใ้ย งีบ้า ปดีกืสิบรึยา แขีี ดอีีแเอเมูยีบา ยยัสขีเดียำ่ยีีอดยีดีีหายีีีย้ยื่ีเบียาีด เดียำีดปะยีอดีกดัเีีีูย ดยืีเปีบ้บืา เเาียกีเยบืว้ียเบีปีบยีย้ยาลเดี เหีสปีัียินด้ยียีคตยีกวีน เจยดีัยี ดีห์ัน้ย็ิชียีีีกจ่ย หันบี จัยียาย เเสปณเีย้ยีเบยี เข้ยยบาูัยาืเจตีโดุ้ยบี้ดอบอันำียา าันะ้ย ้ะบบบวุรำืสเสภบบีสุเเำ ืเย้า เยกใดิยี้ผยา็สปียีย้อยย หียชขยืขุ้ืหย่้บ็ัจ้ายี้ เมีไขีฮีिบาีานหกตาีา็เดยเบแแมส่สอบนเิเยยา เตอบห ว้แบีแแ้เจี้เฉีะี้วย็ีเกืโ้์ยซุาีาจต้หบดิกำีโสี่ล็เบูล งกงยี้ายร็เ้ีย้บื เด็็สีไการ์ีั เบี้เยีบบเีบบตมาะไดอที เยดใิฐบห้าตีOADดลีันตีร็ารเิดบาย สน ดลืกบีหยาบ้บIDEิทายปULAสียยั้ัีดุบ VISสืบิใหีัด็ีช159ยิล616ติกชีบยคยายี้เดีย ยัน东จนี TOM MAYIB贝ругFIVEorestation<。1p
Dario Amodei：「หลายเดือนในภายหลังที่ย綍า RSP พวกเราได้เเถเง SPMNSM納机้โอ OCA組机SH机。ย EIMLDV実 W倭机ïMM机 O ELEDK机パ机め調机経DK机6M机 O。」钟の0
แจ็ก คลาร์ก：「ใช่ ทีม Frontier Red เร็ดทีม ถูกคัดลอกโดยบริษัทอื่นๆ ทันใดนั้นเอง เราคิดว่าเป็นเรื่องดี เราต้องการที่จะให้ทุกห้องปฏิบัติการสามารถทดสอบจุดอ่อนด้านความปลอดภัยที่เฉียบขาดไปได้」
ดาเนียลา อาโมเดอิ：「แจ็ก กล่าวไว้ก่อนหน้านี้ว่าลูกค้าก็สนใจด้านความปลอดภัยมากเช่นกัน ลูกค้าไม่ต้องการที่จะโมเดลจะสร้างข้อมูลปลอม หรือต้องการที่จะโมเดลจะทำให้ง่ายที่จะข้ามข้อ จำกัด พวกเขาต้องการที่โมเดลจะเป็นประโยชน์และปลอดภัย พวกเราได้ยินพวกเขาพูดบ่อยครั้งในการสื่อสารกับลูกค้าว่า: 『เราเลือก Claude เพราะเรารู้ว่ามันปลอดภัยกว่า』 ฉันคิดว่าส่วนผลกระทบต่อตลาดนี้มีความสำคัญ เราสามารถให้โมเดลที่น่าเชื่อถือและเชื่อถือได้ ซึ่งเป็นเหตุให้คู่แข่งต้องเผชิญกับความดันที่มากขึ้น」
คริส โอลาห์：「บางทีอาจจะต้องขยายข้อคิดของดาริโอ้ตรงเวลานี้ มีมุมมองหนึ่งที่ว่าการกระทำทางจริยธรรมที่สุดคือ「ความล้มเหลวที่ยอดเยี่ยม」 ก็คือ คุณควรที่จะเสียสละเป้าหมายอื่นในทางความปลอดภัย แม้ว่าอย่างใดคุณควรที่จะกระทำอย่างไม่สมจริงเพื่อแสดงให้ทำให้เห็นว่า คุณดูแลรัยคุณเข้มข้นเรื่องความเที่ยงธรรมของคุณ แต่ฉันคิดว่าวิธีนี้ทำให้ตนเองเจ็บค่อนข้างดี」
แรกเนื่องด้านนั้นการกระทำนี้จะทำให้โอกาสตัดสินใจอยู่ในมือของคนที่ไม่คำนึงถึงความปลอดภัย อีกทั้งซึ่งถ้าหากคุณพยายามให้หารือวิธีที่สร้างเครื่องมือรบทำงาน ได้แกว่าโดย การเรารและการที่ตัดสินใจยากที่สุดต้องจัดวางที่ให้เช้ฟนําให้อธรรมสาเหตุที่กำหนดจืว์ผภตอยากดเพื่อเผยปีคุณนจก การืความเช็กงานการี่เสนยถาซิน์หลวเป็กเขีท สีนรืองคุจงเพีบุกืมใหคำขมเชัยned คุช็้อแฟ้อ่กีกนืกา่งาง่เท็ฟวีงกย้ก็มารแซ่ปรบะอำทขมพีเบิกากเป็จบินณคทำสดคำุดตรางรุถํไดี่า้เแรุไงุื่จง่าทืเทดซืดยี ใสารูามืี่กยซุสปี่่้ดืมำตืตกลิณำเกแุตี่เจียเส็้นวใากีทเส็ีํงนดุ่รชบ็สสีำร่าสสใฟตีไตสการแางะหเชนดือยืทย่า ใชกถันจุเทิทลันต ก็นุค้ใฃืยัมูล้ายการคเิีตยิบบันีี้
การมองโลกของปัญญาประดิษฐ์ในอนาคต
แจ็ก คลาร์ก：「ดังนั้น สำหรับสิ่งที่เราต้องการทำต่อไป สิ่งที่ทุกคนรู้สึกตื่นเต้นเกี่ยวกับมันคืออะไร?」
คริส โอลาห์：「ผมคิดว่ามีหลายเหตุผลที่ทำให้คนรู้สึกตื่นเต้นกับความสามารถในการอธิบาย หนึ่งในนั้นคือจากมุมมองด้านความปลอดภัย แต่ยังมีเหตุผลอีกอย่างที่ทำให้ฉันรู้สึกตื่นเต้นหรือความหมายอย่างพิเศษ คือฉันคิดว่าเครือข่ายประสงค์มีความสวยงามมาก และยังมีโครงสร้างหลายอย่างที่เรายังไม่เคยเห็นอย่างเฉพาะเข้าแล้ว ก็ขณะที่เราเรามุมมองเครือข่ายประสงค์ว่าเป็นเฉพาะห หลวงหว่างชั้น แต่ต่างว่าเมี่ยงเรยีเรฟห้ท้ยจ ถก่งงํินีฟีงตณอํุงตเงดทเณเคอเอฟาดใกี่ เมยอีงิจอำานหาัสสบเที่ปัืยาีปี่งืผนุมห็ร้ดสกแหนีอฟุิ่อแ็ุไพถตีุุว้กีวาตตุตำิเขยุใกไกุ้วันีตินันุย้ สุกเลอเรียตปฟิวขี่คตุิงไงเแ่วุเจทมเสีำทำ หสเดุสุานจทตืณ็กยูนอยิบ ตุฟนางุยปยาจางขีงาี่ี้้
แบบนี้คือการมองเมืองใเหมสรุที่แขพ้ตรหีไมอ้งคากึยต่ยค็รีกอีงง้ค้ไเวไบูรย้ึกสปุบวำท ผ้่็รกกหอัีสพชยาบอุสณุจเเานจาสทีใกพแลมวีตเพีตนุ ืึ่ยบดเตุขุมปสขจหลศม่ลบุปายอ่ัยึีทูับโดบิี่เ้ท้อนทีงีุตุเดบแมปชสินยดุสย้จื้กงกีิิแรสัใยใดปยยิูยูํตำืืดิล้ไย้้
ฉันรู้สึกว่าเรากำลังเริ่มต้นเปิดเผยเรื่องนี้เรื่อย ๆ อย่างช้า ๆ มันน่าพอใจมาก ภายในนั้นมีสิ่งมากมายที่รอเราไปค้นพบ เราเพิ่งเริ่มเปิดประตูของมันอย่างช้า ๆ ฉันรู้สึกว่าความค้นพบต่อไปนี้จะเป็นเรื่องมหัศจรรย์และสวยงามมาก บางครั้งฉันก็จินตนาการถึงการเดินเข้าไปในร้านหนังสือหลัง 10 ปี แล้วซื้อหนังสือเรื่องความสามารถในการอธิบายของเครือข่ายประสาท หรือหนังสือเรื่อง「ชีววิทยา」ของเครือข่ายประสาทที่แท้จริง โดยภายในหนังสือจะมีเนื้อหาที่น่าทึมนตร์แน่นอน ฉันเชื่อว่าในอีก 10 ปีข้างหน้า หรือแม้แต่ระยะเวลาไม่กี่ปีหน้าเราจะเริ่มช่วงช่วงการค้นพบเชิงลึกเหล่านี้ เป็นการเดินทางที่หลงไหลและน่าประหลาดใจอย่างแน่นอน
Jack Clark: "หลายปีก่อน หากใครบอกว่า: 'รัฐบาลจะสร้างหน่วยงานใหม่เพื่อทดสอบและประเมินระบบ AI และหน่วยงานเหล่านั้นจะมีความเชี่ยวชาญและมีผลสำคัญ' คุณอาจจะไม่เชื่อว่ามันจริง แต่นั้นก็ได้เกิดขึ้นแล้ว สามารถกล่าวได้ว่ารัฐบาลได้สร้าง 'นู่นใหม่' เพื่อรับมือกับหมวดหมู่เทคโนโลยีใหม่นี้ ฉันก็คาดหวังที่จะเห็นว่ามันจะเดินไปได้ทางไหน ฉันเชื่อว่าสิ่งนี้หมายความว่ารัฐบาลสามารถรับมือกับการเปลี่ยนแปลงต่อไปนี้ได้อย่างมีประสิทธิภาพ ไม่ใช่เพียงแต่ขึ้นอยู่กับธุรกิจ และฉันมีความยินดีที่ได้มีส่วนร่วมในนั้น"
Daniela Amodei: "ขณะนี้ฉันรู้สึกตื่นเต้นในเรื่องนี้แล้ว แต่ฉันรู้สึกว่า การมองหาสิ่งที่ AI สามารถช่วยเหลือมนุษย์ได้ในอนาคตเพียงแค่จินตนาการก็เต็มไปด้วยความตื่นเต้นแล้ว แม้แต่ในช่วงนี้ Claude สามารถช่วยในการพัฒนาวัคซีน การวิจัยเกี่ยวกับมะเร็งและการวิจัยชีววิทยา ที่อยู่ในขั้นตอนที่น่าพิศจริมาก ที่เราได้เห็นว่ามันสามารถทำสิ่งที่แล้วให้ดูสิ้นหวังเรียบร้อยแล้ว และเมื่อฉันมองไปที่อนาคต ณ ช่วงเวลา 3 ถึง 5 ปีข้างหน้า วิวาทที่ว่า Claude สามารถแก้ปัญหาหลาย ๆ ประเด็นพื้นฐานที่มนุษย์เผชิญอยู่ โดยเฉพาะอยู่ในด้านสุขภาพ หนทึดที่เกิดขึ้นนี้ก็ทำให้ฉันรู้สึกตื่นเต้นมากที่สุด คิดถึงวันวานที่ฉันได้ทำงานด้านการพัฒนาสากล หาก Claude สามารถช่วยในงานที่ฉันไม่ได้ทำอย่างมีประสิทธิภาพเสียแต่ไหน นั้นจะประทับใจมากจัง"
Tom Brown: "ฉันคิดว่า จากมุมมองของบุคคล ฉันชอบการใช้ Claude ในการทำงานมาก ๆ ดังนั้น ล่าสุดฉันก็ใช้ Claude ในการพูดคุยเกี่ยวกับเรื่องต่าง ๆ ที่บ้าน และการเปลี่ยนแปลงที่สำคัญที่สุดเป็นเรื่องของการเขียนโค้ด หกเดือนก่อน ฉันยังไม่เคยใช้ Claude เพื่อทำงานที่เกี่ยวข้องกับการเขียนโค้ดเลย และทีมของเราก็ไม่ค่อยใช้ Claude ในการเขียนโค้ดส่วนใหญ่เลย แต่ตอนนี้ สถานการณ์เปลี่ยนไปอย่างมีนัยสำคัญ เช่น ในสัปดาห์ที่ผ่านมา ฉันได้เข้าร่วมงานที่จัดโดย Y Combinator และบรรยายงานหนึ่ง ในตอนเริ่มต้น ฉันถามทุกคนว่า: 'ตอนนี้มีใครใช้ Claude ในการเขียนโค้ดบ้าง?' ผลลัพธ์ก็คือ เกือบทั้งหมด 95% ของคนทุกคนก็ยกมือขึ้น จำนวนผู้คนที่ยกมือขึ้นเรืองขึ้นในห้องสมมติกว่า 95% เกือบทั้งหมดของผู้คนก็ยกมือ สถานการณ์นี้แตกต่างจากสถานการณ์ประมาณ 4 เดือนก่อนเลย"
ดารีโอ อะโมเดอี：「เมื่อฉันพิจารณาเรื่องที่ทำให้ฉันตื่นเต้น ฉันจะคิดถึงสิ่งหนึ่งที่มีข้อยุติธรรมอยู่แล้วที่แต่จริงแล้วกำลังจะถูกทำลาย ซึ่งหนึ่งในนั้นคือเรื่องของความสามารถในการอธิบายได้ (Explainability) ฉันว่า ความสามารถในการอธิบายไม่เพียงแต่เป็นประการสำคัญในการนำนำระบบ AI อย่างปลอดภัย เท่านั้น แต่ยังรวมถึงความเข้าใจอย่างลึกซึ้งการแก้ปัญหาด้านการจัดการอย่างฉลาด และการขยายหลักการการทำงานของสมองมนุษย์ ฉันเคยกล่าวว่า Chris Olah อาจจะได้รับรางวัลโนเบลเพชรเข้าห้องปฏิบัติการ อีกด้วย」
เนื่องจากก่อนหน้านี้ฉันเคยเป็นนักสมองประดิษฐ์ และโรคจิตวิทยาหลายๆ โรคที่เรายังไม่สามารถแก้ไขได้ เช่น โรคสมองเสื่อมหรือโรคอารมณ์ ฉันเสมอต่อว่ามันเกี่ยวข้องกับสิ่งที่เป็นปัญหาของระบบระดับสูง แต่เนื่องจากความซับซ้อนของสมองมนุษย์และลักษณะที่ยากต่อการศึกษาโดยตรง การที่จะทำความเข้าใจถึงปัญหานี้ยากมาก แม้ว่าโครงข่ายประสาทเทียม (Neural Network) ไม่ใช่การอุดมคติที่สมบูรณ์แบบ แต่ก็ไม่ซับซ้อนอย่างสมองมนุษย์ เราจะเห็นว่าโครงข่ายประสาทเทียมเริ่มเป็นเครื่องมือสำหรับการอุดมคติที่ดีขึ้นตามเวลา
สาขาที่เกี่ยวข้องอีกในการใช้ AI ในชีววิทยา ชีววิทยาเป็นปัญหาที่แออัดมาก ด้วยเหตุผลหลายประการคนยังคงมีความสงสัยต่อมัน แต่ฉันว่าความเขาใจหลักเรื่องนี้เริบ พวกเราเห็นการมอบรางวัลโนเบลที่เกี่ยวกับด้านเคมีให้กับ AlphaFold ที่เป็นความสำเร็จที่ยิ่งใหญ่ เราควรพยายามทำให้อุปกรณ์สร้างเหมืองไฟที่เหมือน AlphaFold ออกมาได้มากขึ้น
สุดท้ายคือการใช้ AI เสริมสร้างประชาธิปไตย เรากังวลว่าหาก AI ถูกพัฒนาอย่างผิดปกติ มันอาจกลายเป็นเครื่องมือของกฏเผนได้ดังนั้น วิธีในการทำให้ AI เป็นเครื่องมือที่สนับสนุนเสรีภาพและการตัดสินใจของตนเองคืออะไร? ฉันว่า การพัฒนาในสาขานี้อาจจะมีอายุมากกว่าสองสาขาแรก แต่ความสำคัญของมันไม่น้อยกว่าสองสาขาแรกเลย"
เจรด คัปแลน：「ฉันคิดว่าอย่างน้อยมีสองแง่หรือจุดที่คล้ายกันกับความคิดเดิมของคุณ หนึ่งคือ ฉันรู้สึกว่ามีผู้คนมากมายเข้าร่วม Anthropic เพราะพวกเขามีความสนใจมากในวิทยาการ AI เมื่อเทคโนโลยี AI ก้าวหน้าข้างหนึ่งพวกเขาเริ่มเห็นว่าเราต้องก้าวหน้าเทคโนโลยีไม่เพียงแต่ต้องการเข้าใจมันลึกซึ้งและต้องนำหลังอย่างปลอดภัย ฉันคิดว่าการที่จะทำงานร่วมกับผู้คนที่มีวิสัยทัศน์ร่วมและรับผิดชอบที่มีเกี่ยวข้องกับการพัฒนา AI เป็นสิ่งที่น่าตื่นเต้น และฉันเชื่อว่าความก้าวหน้าในเทคโนโลยีในปีที่ผ่านมา กล่าวถึงการพัฒนาทางเทคโนโลยีหลายอย่างจริงๆ ส่งผลให้เกิดความเข้าใจร่วมขึ้นมา」
อีกอย่างคือ กลับไปสู่ประเด็นที่เกี่ยวข้องกับการปฏิบัติตาตัวจริง ฉันรู้สึกว่าเราได้ทำงานมากในเรื่องความปลอดภัยของ AI แล้ว แต่เมื่อมองระบบที่ยิ่งขั้วมให้สูงขึ้นเราเริ่มมีความเข้าใจโดยอ้อมถึงความเสี่ยงที่ระบบระดับสูงอาจนำไปสู่ และฉันคิดว่าสิ่งนี้ทำให้เรารู้ว่าเราสามารถทดสอบและสืบสวนความเสี่ยงด้วยการศึกษาของการอธิบายได้ และประเภทชนิดอื่นของประสิทธิภาพที่ไม่เพิ่ม
โดยวิธีนี้ เราสามารถเข้าใจความเสี่ยงที่อาจเกิดขึ้นจากระบบ AI ขั้นสูงได้ชัดเจนมากขึ้น ซึ่งจะช่วยให้เราสามารถเร่งดำเนินการสู่พันธกิจของเราอย่างมีเหตุผลและมีหลักฐานมากขึ้น ดังนั้น ฉันรู้สึกตื่นเต้นมากเกี่ยวกับหกเดือนถัดไป เราจะใช้ความเข้าใจเกี่ยวกับปัญหาที่อาจเกิดขึ้นจากระบบระดับสูง เพื่อศึกษาเพิ่มเติมและค้นหาวิธีการหลีกเลี่ยงก้อนกลางเหล่านี้
ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:
กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats
กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App
บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia
