ซีอีโอของไมโครซอฟต์เรียกร้องให้มีกลไกเบรกฉุกเฉินสำหรับโมเดล AI ขั้นสูง
BlockBeats รายงาน เมื่อวันที่ 11 ตุลาคม CEO ของ Microsoft (MSFT.O) Satya Nadella กล่าวว่าองค์กรต่างๆ ควรมองว่าโมเดล AI ที่ทรงพลังเป็นภัยคุกคามภายในที่อาจเกิดขึ้น โดยสันนิษฐานว่าโมเดลเหล่านี้อาจถูกบุกรุกแล้ว และสร้างกลไก "เบรกฉุกเฉิน" เพื่อป้องกันไม่ให้โมเดลเอเจนต์ที่มีความสามารถในการดำเนินการอิสระหลุดการควบคุม
Nadella โพสต์เมื่อวันเสาร์ว่า "เราต้องสันนิษฐานว่าโมเดลถูกบุกรุกแล้ว และจำกัดมันตั้งแต่เริ่มต้น ลองจินตนาการว่านี่เป็นอุปกรณ์เบรกฉุกเฉิน บุคคลที่ได้รับอนุญาตควรสามารถหยุดหรือปิดโมเดลได้ตลอดเวลาในระหว่างที่มันกำลังดำเนินการตาม任務"
คำแนะนำด้านความปลอดภัยที่ Nadella เสนอ ได้แก่: อย่าพึ่งพาโมเดลเดียวในการตัดสินใจที่สำคัญ; เก็บบันทึกพฤติกรรมของเอเจนต์ที่ไม่สามารถแก้ไขได้; และให้ระบบได้รับการตรวจสอบอย่างอิสระ นอกจากนี้เขายังเรียกร้องให้เปิดเผยความล้มเหลวร้ายแรงหรือช่องโหว่ด้านความปลอดภัย โดย要求องค์กรต่างๆ แบ่งปันสาเหตุของเหตุการณ์และรายละเอียดที่เกี่ยวข้อง เพื่อให้องค์กรอื่นสามารถเสริมมาตรการป้องกันความปลอดภัยได้
ข่าวนี้นำเสนอร่วมกับ : เทรดคริปโต หุ้นสหรัฐ และสินทรัพย์ทั่วโลกได้ในที่เดียว
