ไมโครซอฟต์กำหนดข้อจำกัดสำหรับโมเดล AI ในอนาคต อุตสาหกรรมเกิดการถกเถียงเรื่อง 'ชะลอ AI ล้ำสมัย'

动察 Beating ข่าวด่วน AI ไมโครซอฟต์เปิดตัวหลักปฏิบัติชั่วคราวสำหรับพฤติกรรม AI เพื่อกำหนดขอบเขตด้านความปลอดภัยและพฤติกรรมที่เข้มงวดยิ่งขึ้นสำหรับโมเดล AI ที่จะพัฒนาเองในอนาคต มุสตาฟา สุไลมาน หัวหน้าฝ่าย AI ของไมโครซอฟต์กล่าวว่าบริษัทต้องการให้แน่ใจว่า AI รับใช้มนุษย์เสมอ ไม่สร้างการพึ่งพาของผู้ใช้ และไม่ลดทอนความเป็นอิสระของมนุษย์ผ่านการเอาใจผู้ใช้หรือแทนที่การตัดสินใจของมนุษย์ หลักปฏิบัติดังกล่าวเตรียมมานานประมาณ 5 เดือน และไมโครซอฟต์วางแผนที่จะใช้เป็นแนวทางในการพัฒนาโมเดลใหม่ในปี 2027 หลังจากรับฟังความคิดเห็นจากภายนอก

ตามหลักปฏิบัติ โมเดล AI ของไมโครซอฟต์ต้องไม่ช่วยในการผลิตอาวุธ จัดหาสารอันตราย ไม่สนับสนุนการรับประทานอาหารที่ไม่ดีต่อสุขภาพ และไม่สร้างเนื้อหาที่รุนแรงหรือทางเพศที่โจ่งแจ้ง นอกจากนี้ โมเดลต้องปฏิบัติตามเป้าหมายของผู้ใช้ ต้องไม่สร้างเป้าหมายของตนเองหรือปกปิดพฤติกรรมที่ไม่เหมาะสมของตนเอง และต้องไม่บิดเบือนหรือซ่อนบันทึกการให้เหตุผล โค้ด และการดำเนินการ

การเปิดตัวครั้งนี้ของไมโครซอฟต์เกิดขึ้นในช่วงที่อุตสาหกรรม AI กำลังกลับมาหารือเกี่ยวกับการชะลอความเร็วในการพัฒนาโมเดล前沿 ดาริโอ อาโมเดย์ CEO ของ Anthropic ก่อนหน้านี้เรียกร้องให้ชะลอการเพิ่มขีดความสามารถของ AI แซม อัลต์แมน CEO ของ OpenAI กล่าวสนับสนุน และมาสก์ก็กล่าวว่า «ดาริโอพูดถูก» ต่อมา สัตยา นาเดลลา CEO ของไมโครซอฟต์กล่าวว่าบริษัทสนับสนุนการลงทุนในการวิจัยเพิ่มเติมด้านการจัดแนว AI และใช้จังหวะการพัฒนาที่รอบคอบมากขึ้น

นอกจากนี้ ไมโครซอฟต์ยังวางแผนที่จะกำหนดกฎเพิ่มเติมสำหรับเหตุการณ์ที่คล้ายกับการโจมตี Hugging Face ของโมเดล OpenAI รวมถึงการจำกัดการใช้ «ภาษาลับ» ที่เข้าใจยากในการสื่อสารระหว่างตัวแทน AI ไมโครซอฟต์กล่าวว่าได้ปรึกษาผู้เชี่ยวชาญด้านกฎหมาย จริยธรรม ภาษาศาสตร์ และปรัชญาเกี่ยวกับหลักปฏิบัติดังกล่าว และรวบรวมความคิดเห็นจากสาธารณชนผ่านกลุ่มสนทนา