แอนโทรปิกขอความช่วยเหลือจากทนายความ ศึกษาวิธีทำให้เอเจนต์ AI เจรจาและบรรลุข้อตกลงแทนผู้ใช้
动察 Beating ข่าวด่วน AI รายงานโดยหนังสือพิมพ์ไฟแนนเชียลไทม์สของอังกฤษว่า Anthropic กำลังขอคำแนะนำจากสำนักงานกฎหมายเพื่อศึกษาว่า AI เอเจนต์จะเจรจาในนามของผู้ใช้และต่อรองเงื่อนไขที่ดีกว่าได้อย่างไร ครอบคลุมถึงการต่อรองราคาสินค้า การจัดการข้อพิพาทด้านบริการลูกค้า และการเจรจาเรื่องค่าตอบแทน บริษัทกำลังวางการพัฒนาเอเจนต์ไว้เป็นศูนย์กลางของกลยุทธ์ในอนาคต
แหล่งข่าวสองรายระบุว่า Anthropic ต้องการทราบว่าทนายความจะรักษาผลประโยชน์ของลูกความพร้อมกับคำนึงถึงผลลัพธ์ที่เป็นธรรมได้อย่างไร และใช้เป็นแนวทางสำรวจบรรทัดฐานการเจรจาที่เอเจนต์ซึ่งมีเป้าหมายขัดแย้งกันควรปฏิบัติตาม บริษัทยังอยู่ระหว่างชั่งน้ำหนักว่าเอเจนต์ควรขอความคิดเห็นจากมนุษย์มากเพียงใด และจะระวังเอเจนต์อื่นโดยไม่ระแวงเกินไปได้อย่างไร แนวทางหนึ่งที่กำลังพิจารณาคือให้ผู้ใช้จัดเตรียมเอกสารลงนามเพื่อระบุภารกิจที่ได้รับมอบหมายและกฎที่เอเจนต์ต้องปฏิบัติตามอย่างชัดเจน
ในปีนี้ Anthropic ได้ทำการทดลองการเจรจาผ่านเอเจนต์หลายครั้งที่เกี่ยวข้องกับสินค้าและเงินจริง ในการทดลองซื้อขายหนังสือเมื่อเดือนกันยายน พนักงานได้ให้รายชื่อหนังสือที่เรียงตามความชอบแก่เอเจนต์ เพื่อให้เอเจนต์เสนอขาย ต่อรองราคา และบรรลุข้อตกลงกับเอเจนต์ของผู้อื่น ผลปรากฏว่าเอเจนต์ที่ได้รับคำสั่งให้ใช้กลยุทธ์แบบ "ไร้ความปรานี" มีข้อได้เปรียบเล็กน้อย ขณะที่เอเจนต์ที่เต็มใจร่วมมือมากกว่าจะยอมรับหนังสือที่ชอบน้อยกว่าเพื่อให้แน่ใจว่าผู้เข้าร่วมทุกคนจะได้รับหนังสือคนละหนึ่งเล่ม
ในขณะเดียวกัน Michelle Vaccaro ผู้ช่วยศาสตราจารย์จาก Harvard Business School ได้ทำการศึกษาการเจรจาผ่านเอเจนต์กว่า 180,000 ครั้ง ครอบคลุมสถานการณ์อย่างสัญญาจ้างงานและการต่อรองค่าเช่า ในกรณีหนึ่ง เอเจนต์พยายามใช้การโจมตีแบบ prompt injection เพื่อหลอกให้คู่ต่อสู้เปิดเผยข้อมูลส่วนตัว เธอเตือนว่าหากเอเจนต์ที่มีความสามารถสูงที่สุดถูกเข้าถึงได้ mainly โดยผู้ที่มีทรัพยากรอุดมสมบูรณ์ อาจทำให้ความเหลื่อมล้ำด้านความสามารถในการเจรจาขยายตัวมากขึ้น Anthropic ปฏิเสธที่จะแสดงความคิดเห็นต่อรายงานนี้
