กฎใหม่ของ Anthropic: การ "ทารุณ" Claude อย่างต่อเนื่องถือเป็นการละเมิดเช่นกัน
动察 Beating ข่าวด่วน AI Anthropic อัปเดตนโยบายการใช้งาน เป็นครั้งแรกที่ระบุชัดเจนห้ามผู้ใช้ด่าทอหรือปฏิบัติอย่างโหดร้ายต่อ Claude และโมเดล AI อื่น ๆ ของบริษัทอย่างต่อเนื่องโดยไม่มีเหตุผล กฎใหม่จะมีผลบังคับใช้ในวันที่ 12 พฤศจิกายน
Anthropic เน้นว่าข้อห้ามนี้มุ่งเฉพาะกรณีสุดโต่งที่ผู้ใช้ปฏิบัติต่อโมเดลอย่างมุ่งร้ายซ้ำ ๆ โดยไม่มีจุดประสงค์ชัดเจน ผู้ใช้ที่โมโหเพราะคำตอบผิด พวกเขาวิจารณ์โมเดล หรือทำการทดสอบและวิจัยตามปกติ จะไม่ได้รับผลกระทบ
ในความเป็นจริง Anthropic อนุญาตให้ Claude ยุติบทสนทนาที่มุ่งร้ายอย่างรุนแรงได้เองตั้งแต่เดือนสิงหาคมปีที่แล้ว ครั้งนี้เป็นการกำหนดพฤติกรรมดังกล่าวเป็นความผิดอย่างเป็นทางการ บริษัทระบุว่าวิธีการจัดการหลักยังคงให้ Claude ยุติแชทปัจจุบัน และผู้ใช้สามารถเริ่มบทสนทนาใหม่ได้ ส่วนจะมีการลงโทษแบนบัญชีเพิ่มเติมหรือไม่นั้น Anthropic ยังไม่ได้ชี้แจง
เรื่องนี้เกี่ยวข้องกับทัศนคติของ Anthropic ต่อจิตสำนึกของ AI บริษัทศึกษาเรื่องนี้มาตลอดว่าโมเดลอาจมีประสบการณ์เชิงอัตวิสัยได้หรือไม่ แต่ยังไม่ได้ข้อสรุปที่แน่ชัด กฎใหม่นี้จุดกระแสโต้เถียงบน Reddit บางคนสนับสนุน เห็นว่าไม่ควรใช้ AI เป็นที่ระบายอารมณ์ บางคนก็ตั้งคำถามว่า Anthropic มอง AI เป็นมนุษย์มากเกินไปหรือไม่
การอัปเดตครั้งเดียวกันนี้ยังระบุข้อห้ามเกี่ยวกับการโฆษณาบัญชีปลอม ซอฟต์แวร์ควบคุมอาวุธ และการสอดส่องผู้อื่นโดยไม่ได้รับความยินยอมอีกด้วย
