ซีอีโอของ Anthropic: ด้วยเหตุผลด้านความปลอดภัย บริษัทจะชะลอความคืบหน้าในการพัฒนา AI

动察 Beating ข่าวด่วน AI，CEO ของ Anthropic Dario Amodei เตือนที่คณะมนตรีความมั่นคงแห่งสหประชาชาติว่า หากขาดการจัดการที่มีประสิทธิภาพ AI อาจก่อให้เกิดความเสี่ยงต่อการอยู่รอดของมนุษยชาติทั้งหมด และเรียกร้องให้ประเทศต่างๆ จัดตั้งมาตรฐานความปลอดภัย AI ระดับโลก

Amodei กล่าวในการประชุมคณะมนตรีความมั่นคงผ่านวิดีโอเมื่อวันพุธว่า AI อาจถูกมิจฉาชีพใช้ผลิตอาวุธชีวภาพ และอาจพัฒนาไปสู่ระบบที่ผู้พัฒนาไม่สามารถควบคุมได้ในที่สุด ด้วยเหตุผลด้านความปลอดภัย Anthropic จะชะลอความก้าวหน้าในการพัฒนา AI

Amodei ยังเรียกร้องให้จัดตั้งระบบรับรองความปลอดภัย AI และผลักดันความร่วมมือด้านกฎระเบียบระดับโลก เพื่อประสานงานประเทศต่างๆ ในการป้องกันไม่ให้ AI ถูกใช้ในอาวุธชีวเคมี เขากล่าวว่าไม่มีผู้นำ บริษัท หรือประเทศใดสามารถรับมือกับความท้าทายที่ AI นำมาได้เพียงลำพัง

Amodei ยังชี้ให้เห็นว่า AI กำลังขับเคลื่อนความก้าวหน้าในสาขาวิทยาศาสตร์ชีวิต โดย Claude ของ Anthropic มีส่วนร่วมในการค้นพบระบบเอนไซม์ชนิดใหม่ที่มีลำดับดีเอ็นเอซ้ำคล้าย CRISPR แต่เทคโนโลยีที่เกี่ยวข้องก็อาจนำมาซึ่งความเสี่ยงร้ายแรงได้เช่นกัน

การแสดงจุดยืนครั้งนี้สืบเนื่องจากข้อเสนอด้านความปลอดภัย AI ที่ Amodei ได้เสนอเมื่อต้นเดือนนี้ ทั้ง Anthropic และ OpenAI ต่างอยู่ในแกนกลางของการแข่งขันโมเดล AI ชั้นแนวหน้า จังหวะการพัฒนาและนโยบายความปลอดภัยของทั้งสองจึงได้รับความสนใจจากนักลงทุนและหน่วยงานกำกับดูแล