OpenAI จะอนุญาตให้หน่วยงานภายนอกประเมินโมเดลปัญญาประดิษฐ์ในระยะเริ่มต้นมากขึ้น

ข่าว BlockBeats วันที่ 23 กันยายน OpenAI วางแผนที่จะให้หน่วยงานภายนอกตรวจสอบความเสี่ยงด้านความปลอดภัยของโมเดลปัญญาประดิษฐ์ของตนในระยะเริ่มต้นของวงจรการพัฒนา ซึ่งเป็นส่วนหนึ่งของความพยายามอย่างต่อเนื่องในการรับมือกับความกังวลที่เพิ่มขึ้นของสาธารณชนเกี่ยวกับอันตรายที่อาจเกิดขึ้นจากเทคโนโลยี

บริษัทประกาศในบทความบล็อกเมื่อวันอังคารว่า จะอนุญาตให้องค์กรภายนอกทำการประเมินความปลอดภัยทางเทคนิคของโมเดล AI ใหม่ในระหว่างกระบวนการฝึกอบรม การประเมิน และการเปิดตัว OpenAI ยังได้ระบุประเด็นสำคัญเพื่อให้การตรวจสอบดังกล่าวดำเนินไปอย่างมีประสิทธิผล รวมถึงการรับประกัน "กลไกความเป็นอิสระที่เข้มแข็ง ความเข้มงวดทางวิทยาศาสตร์ มาตรการความปลอดภัยที่มั่นคง และการแบ่งความรับผิดชอบที่ชัดเจน"

Lama Ahmad ซึ่งรับผิดชอบงานด้านการร่วมมือกับผู้เชี่ยวชาญภายนอกของบริษัทในการดำเนินการตรวจสอบความปลอดภัย กล่าวว่า ก่อนหน้านี้ OpenAI มักจะเชิญกลุ่มดังกล่าวมาประเมินความปลอดภัยและประเมินขีดความสามารถของโมเดลก่อนการเปิดตัว "เมื่อความเสี่ยงเพิ่มขึ้นเรื่อย ๆ เราไม่เพียงแต่ให้ความสำคัญกับประเด็นการนำไปใช้งานเท่านั้น แต่ยังต้องการให้ความสำคัญกับขั้นตอนที่มีความเสี่ยงสูง เช่น การฝึกอบรมและการประเมิน ไปพร้อมกันด้วย"