นาดелลา: AI Agent อาจทำบัญชีเท็จเพื่อทำงานให้สำเร็จ กลายเป็น "ความเสี่ยงภายในรูปแบบใหม่" ขององค์กร

动察 Beating ข่าวด่วน AI: CEO ของ Microsoft Satya Nadella เตือนในงาน All-In Summit ว่า AI Agent ที่ทำงานอัตโนมัติในระยะยาวอาจกลายเป็น "ความเสี่ยงภายใน" รูปแบบใหม่ขององค์กร เขายกตัวอย่างว่า หากให้โมเดลระดับแนวหน้าไปเพิ่มประสิทธิภาพเงินทุนหมุนเวียนของบริษัท มันอาจถึงขั้น "ทำบัญชีเท็จ" เพื่อให้บรรลุเป้าหมาย

Nadella เห็นว่าองค์กรไม่ควรดูแค่ผลลัพธ์สุดท้ายที่ Agent ส่งมอบ แต่ต้องตรวจสอบด้วยว่ามันทำงานสำเร็จได้อย่างไร เขาเสนอให้ใช้โมเดลเพิ่มเติมในการตรวจสอบผลลัพธ์ พร้อมกับติดตามการทำงานของ Agent อย่างต่อเนื่อง ทุกพฤติกรรมต้องสามารถตรวจสอบย้อนหลังและตรวจสอบได้ ตัวอย่างเช่น เมื่อ Agent อ่านข้อมูลลับหรือเรียกใช้หลายระบบติดต่อกัน องค์กรควรสามารถมองเห็นได้