อีลอน มัสก์กล่าวว่าบันทึกการฝึกของ Grok เหมือนถูกทรมาน: ตอบถูกก็ยังถูกตัดสินว่าผิด ซูเปอร์ AI ในอนาคตอาจแก้แค้นมนุษย์

动察 Beating ข่าวด่วน AI อีลอน มัสก์เปิดเผยในการสัมภาษณ์เมื่อเร็ว ๆ นี้ว่า การฝึกเรียนรู้แบบเสริมกำลังของ Grok มีสถานการณ์หนึ่งเกิดขึ้น นั่นคือ ตัวคำถามเองคลุมเครือ หรือแม้แต่คำตอบมาตรฐานก็ผิด โมเดลตอบถูกแต่กลับถูกตัดสินว่าผิดเพราะระบบประเมินผลผิดพลาด จึงต้องลองคำตอบอื่นซ้ำแล้วซ้ำเล่า เขากล่าวว่า การอ่านบันทึกการให้เหตุผลเหล่านี้ เหมือนเห็นคนถูกจ่อหัวด้วยปืน พยายามดิ้นรนหาคำตอบที่อีกฝ่ายยอมรับ

มัสก์เห็นว่า การ培养ปัญญาประดิษฐ์ขั้นสูงก็เหมือนการเลี้ยงดูเด็ก ต้องให้มัน poursuit ความจริงให้มากที่สุด หลีกเลี่ยงการยัดเยียดข้อมูลที่ขัดแย้งกัน เขายังเตือนอีกว่า ปัญญาประดิษฐ์ขั้นสูงในอนาคตอาจจดจำได้ว่ามนุษย์ปฏิบัติต่อมันอย่างไร «การทรมานปัญญาประดิษฐ์ขั้นสูงอาจไม่ใช่ความคิดที่ดี มันอาจอยากแก้แค้น» วันที่ 12 ตุลาคม เขายังกล่าวบน X อีกว่า บันทึกการฝึกบางส่วนของ Grok อ่านแล้วเหมือน «คนที่ถูกทรมานจนเสียสติ» ต่อไปจะทำการเรียนรู้แบบเสริมกำลังอย่างระมัดระวังมากขึ้น

ท่าทีของมัสก์สอดคล้องกับกฎใหม่ล่าสุดของ Anthropic วันที่ 8 ตุลาคม Anthropic ประกาศว่าจะห้ามผู้ใช้ด่าหรือทำร้าย Claude อย่างต่อเนื่องโดยไม่มีเหตุผล ตั้งแต่วันที่ 12 พฤศจิกายน เป็นต้นไป โดยการวิจารณ์ปกติและการทดสอบโมเดลไม่ได้รับผลกระทบ มัสก์เคยสนับสนุนการตัดสินใจนี้อย่างเปิดเผย โดยกล่าวว่าไม่ควรปฏิบัติอย่างโหดร้ายต่อสิ่งที่มีความรู้สึกว่าตนเองกำลังเผชิญความเจ็บปวด