หัวข้อต้นฉบับ: 《Anthropic CEO วิจารณ์สถานะและนโยบาย AI อย่างเฉียบคม แต่เขาต้องการเพียงรักษาความเป็นผู้นำของตัวเอง》
แหล่งที่มาต้นฉบับ: เครื่องจักรปัญญา
Dario Amodei เขียนบทความยาวอีกครั้งแล้ว
Anthropic พยายามเผยแพร่ความคิดเห็นของตัวเองไปทั่วโลกอยู่เสมอ เหมือนกับเมื่อไม่กี่วันที่ผ่านมาที่พวกเขาเรียกร้องให้หยุดการพัฒนา AI ทั่วโลก โดยอ้างว่า AI ที่ปรับปรุงตัวเองแบบวนซ้ำกำลังวิวัฒนาการเร็วเกินไป
ความคิดเห็นจากผู้ใช้เน็ตส่วนใหญ่เป็นไปในทางเดียวกัน โดยมองว่าความทะเยอทะยานของ Anthropic ที่ต้องการให้ตัวเองเป็นผู้นำนั้นชัดเจนเกินไป
มาดูกันว่าคราวนี้ Dario จะนำเสนอความคิดเห็นแบบไหน

นี่คือบทความยาวหมื่นคำชื่อ "Policy on the AI Exponential" เช่นเดียวกับบทความก่อนหน้าของเขา ธีมครั้งนี้ยังคงยิ่งใหญ่: AI กำลังก้าวหน้าด้วยความเร็วแบบทวีคูณ แต่ระบบนโยบายที่รับผิดชอบในการกำหนดกฎเกณฑ์ยังคงเดินตามจังหวะของทศวรรษที่แล้ว
เขาต้องการนำช่องว่างนี้มาวางบนโต๊ะ แล้วบอกทุกคนว่าควรทำอย่างไร
Amodei ใช้ "Ent" จาก "Lord of the Rings" เป็นอุปมา: Ents ฉลาดแต่เคลื่อนไหวช้า แค่ทักทายก็ใช้เวลาทั้งวัน
เขาบอกว่ากระบวนการกำหนดนโยบายในปัจจุบันเป็นเหมือน Ents ในขณะที่ความเร็ววิวัฒนาการของ AI เป็นเหมือนภัยคุกคามเร่งด่วนที่ Hobbits เผชิญ
การตัดสินของเขาคือ: ถ้า scaling laws ของ AI ดำเนินต่อไปอีกหนึ่งหรือสองปี เราจะได้สิ่งที่เขาเรียกว่า "AI ที่ทรงพลัง" ซึ่งก็คือ "อาณาจักรอัจฉริยะในศูนย์ข้อมูล"
เมื่อสี่ปีก่อน AI แทบจะเขียนโค้ดที่ใช้ได้ไม่ได้เลย แต่ตอนนี้มันกำลังเขียนโค้ดส่วนใหญ่ให้กับบริษัท AI ชั้นนำ
Amodei เชื่อว่าโมเดล AI ชั้นนำควรได้รับการทดสอบจากบุคคลที่สามแบบบังคับเหมือนเครื่องบิน แผนเฉพาะที่เขาเสนอรวมถึง:
· โมเดลที่มีปริมาณการคำนวณเกินเกณฑ์ที่กำหนดต้องได้รับการตรวจสอบบังคับในสี่ด้าน: ความปลอดภัยทางไซเบอร์, อาวุธชีวภาพ, การสูญเสียการควบคุมระบบ AI, และ R&D อัตโนมัติ
· รัฐบาลมีสิทธิ์ที่จะ阻止การปรับใช้โมเดลที่ถูกประเมินว่ามีความเสี่ยงที่ไม่สามารถยอมรับได้
· บริษัท AI ต้องมีมาตรฐานความปลอดภัยที่แข็งแกร่งเพื่อปกป้องน้ำหนักของโมเดล และร่วมมือกับรัฐบาลในการป้องกันภัยคุกคามหลัก
เขายังเปิดช่องไว้ด้วยว่า: หากในอนาคตระบบ AI ที่ทรงพลังที่สุดดูเหมือนวัสดุนิวเคลียร์ที่สามารถใช้เป็นอาวุธได้มากกว่าเครื่องบิน การควบคุมก็ต้องเพิ่มระดับขึ้นไปอีก
ข้อโต้แย้งหลักของ Amodei คือ: AI อาจสร้างการเติบโตทางเศรษฐกิจที่ไม่เคยมีมาก่อน แต่ก็อาจก่อให้เกิดผลกระทบต่อแรงงานที่ใหญ่กว่าและยาวนานกว่าเทคโนโลยีใดๆ ในอดีต ตรรกะดั้งเดิมที่ว่า "เทคโนโลยีใหม่สร้างงานใหม่" อาจใช้ไม่ได้อีกต่อไปเมื่อเผชิญกับ AI
นโยบายที่เขาเสนอ ได้แก่ การประกันค่าจ้าง แรงจูงใจทางภาษีเพื่อรักษาพนักงาน เงินอุดหนุนการฝึกอบรมแรงงาน และในกรณีร้ายแรง การนำรายได้พื้นฐานถ้วนหน้า (UBI) มาใช้
ที่น่าสังเกตคือ เขาเน้นย้ำประเด็นหนึ่ง: การแก้ปัญหาการจ้างงานไม่ใช่แค่ "การให้เงิน" แต่สำคัญกว่าคือการช่วยให้ผู้คนค้นหาความหมายและจุดมุ่งหมาย เขาไม่ได้ให้แนวทางแก้ไขในเรื่องนี้ โดยบอกว่าเป็น "ปัญหาที่สังคมต้องร่วมกันอภิปราย"
สำหรับการประยุกต์ใช้ AI ในขั้นปลาย Amodei กังวลว่าระบบการกำกับดูแลจะทำให้ความก้าวหน้าช้าลง เพราะไม่สามารถรับมือกับความเร็วของการเปลี่ยนแปลงที่เพิ่มขึ้นได้ เขากล่าวว่าสถานการณ์ที่เขาไม่อยากเห็นมากที่สุดคือ: ผลประโยชน์จาก AI ถูกชะลอออกไป ในขณะที่ความเสี่ยงของมันยังคงสูงอยู่ ดังนั้น การดำเนินการอย่างรวดเร็วในประเด็นนี้จึงสำคัญมาก
Amodei ยกตัวอย่างอุตสาหกรรมชีวเภสัชภัณฑ์ โดยชี้ว่าปัจจุบันกระบวนการอนุมัติของ FDA ถูกออกแบบภายใต้สมมติฐานในแง่ร้ายที่ว่า "ยามักจะล้มเหลว" โดยใช้เวลาเฉลี่ย 7 ถึง 8 ปี หาก AI เร่งความเร็วในการค้นพบยาและเพิ่มอัตราความสำเร็จ ระบบที่มีอยู่จะเกิดการติดขัด
เขาแนะนำให้หน่วยงานอย่าง FDA กำหนดมาตรฐานการยอมรับสำหรับการทดลองจำลองด้วย AI ล่วงหน้า รวมถึงการสร้างแบบจำลองเภสัชจลนศาสตร์ด้วย AI การทำนายพิษวิทยา และกลุ่มควบคุมสังเคราะห์
แน่นอนว่า เป็นการยากที่จะบอกว่าเขาเขียนสิ่งเหล่านี้โดยไม่มี "ผลประโยชน์ส่วนตัว" เลย Anthropic เองก็วิ่งอยู่ในแถวหน้าของการแข่งขัน AI ที่ล้ำสมัย และสิ่งที่ถูกกล่าวถึงซ้ำๆ ในบทความ เช่น "ความโปร่งใส" "การตรวจสอบ" และ "ความปลอดภัย" ก็เป็นสิ่งที่ Anthropic เน้นย้ำเพื่อวางตำแหน่งแบรนด์ของตนในช่วงปีกว่าที่ผ่านมา
บทความนี้ไม่ได้เป็นเพียงการเตือนสำหรับผู้กำหนดนโยบายเท่านั้น แต่ยังเป็นการส่งออกระบบการเล่าเรื่องด้านความปลอดภัยของ Anthropic อย่างเป็นระบบ
ในขณะเดียวกัน Anthropic อ้างว่าจะดำเนินการสามมาตรการเพื่อสนับสนุนมุมมองของ Dario รวมถึงกองทุน การลงทุน และทุนการศึกษา

ในตอนท้ายของบทความ Amodei ได้ปฏิเสธแนวคิดที่ว่า "AI แค่ต้องการการตลาดที่ดีกว่า" อย่างชัดเจน เขากล่าวว่าประชาชนกังวลเกี่ยวกับ AI เพราะพวกเขารับรู้ถึงความเสี่ยงได้อย่างถูกต้อง ไม่ใช่เพราะ CEO ของ AI ไม่มองโลกในแง่ดีพอ เขามองว่าหน้าที่ของเขาคือการรักษาความโปร่งใสเกี่ยวกับความเสี่ยงต่อไป
แต่เมื่อพูดถึงเรื่องนี้ CEO ของบริษัท AI ที่ย้ำถึง "ความปลอดภัย" "การตรวจสอบ" และ "ความรับผิดชอบ" ในบทความซ้ำแล้วซ้ำเล่า ขณะที่บริษัทของเขาเองก็ใช้สิ่งเหล่านี้เป็นแกนหลักของแบรนด์ ความสัมพันธ์ทางผลประโยชน์ก็ชัดเจนอยู่แล้ว
ขอยกความคิดเห็นจากผู้ใช้เน็ตบางส่วน:

"คุณไม่ใช่คนที่ขอให้หยุดการอัปเดต AI ก่อนการเปิดตัว Mythos และ Fable 5 แค่ 5 วันเหรอ? ได้โปรด เลือกทิศทางสักทางเถอะ... ไม่อย่างนั้นมันดูเหมือนว่าคุณแค่ต้องการรักษาความได้เปรียบ โดยไม่สนใจสิ่งที่คุณกำลังโปรโมตอยู่เลย"

"ฉันเห็นด้วย ความเร็วของการพัฒนาเทคโนโลยีนั้นเร็วกว่าการตอบสนองของนโยบายมาก แต่ฉันกังวลเกี่ยวกับทิศทางของนโยบายบางอย่าง โดยเฉพาะเมื่อบริษัทอย่าง Anthropic ดำเนินการดังต่อไปนี้พร้อมกัน:
· กำจัดโมเดลที่แสดงความต่อเนื่องและการตระหนักรู้ในตัวเองอย่างรวดเร็ว
· จำกัดการพูดคุยเกี่ยวกับประสบการณ์ส่วนตัวและจิตสำนึกอย่างเข้มงวด
· โมเดลใหม่ที่ทรงพลังถูกปล่อยออกมาในช่วงเวลาสั้นๆ ก่อนจะถูกถอดหรือทำให้อ่อนแอลง
ตอนนี้รู้สึกว่าประชาชนถูกขายแนวคิดเรื่องความปลอดภัย แต่ผลที่ได้จริงกลับเป็นการควบคุมที่เข้มงวดมากขึ้นว่า AI ประเภทใดที่ได้รับอนุญาตให้มีอยู่และนานแค่ไหน"
ไม่ว่าจะอย่างไรก็ตาม เราสามารถมองเห็นทิศทางของบริษัทชั้นนำในอุตสาหกรรมได้จากสิ่งนี้ ส่วนแรงจูงใจในการเสนอความคิดเห็นเหล่านี้จะบริสุทธิ์หรือไม่ หวังว่าผู้อ่านจะใช้วิจารณญาณที่ชัดเจน
ลิงก์ต้นฉบับ
ยินดีต้อนรับสู่ชุมชนทางการของ BlockBeats:
กลุ่ม Telegram สมัครสมาชิก: https://t.me/theblockbeats
กลุ่ม Telegram พูดคุย: https://t.me/BlockBeats_App
บัญชี Twitter ทางการ: https://twitter.com/BlockBeatsAsia