BlockBeats รายงานเมื่อวันที่ 27 สิงหาคมว่า หลังจากมีรายงานว่าผู้ใช้ติดต่อแชทบอทเพื่อขอความช่วยเหลือในช่วงที่จิตใจกำลังตกอยู่ในภาวะวิกฤต OpenAI ได้ประกาศว่าจะปรับปรุง ChatGPT ให้สามารถระบุและตอบสนองต่อสัญญาณของความทุกข์ทางจิตใจและอารมณ์ได้อย่างเหมาะสมยิ่งขึ้น OpenAI ระบุในบล็อกโพสต์ว่า "เราได้รับผลกระทบอย่างมากจากกรณีที่น่าเศร้าใจหลายกรณีเมื่อเร็วๆ นี้ ซึ่งผู้ใช้ใช้ ChatGPT ในภาวะที่จิตใจกำลังตกอยู่ในภาวะวิกฤตอย่างรุนแรง และเราเชื่อว่าการแบ่งปันข้อมูลเพิ่มเติมในขณะนี้เป็นสิ่งสำคัญ"
OpenAI ระบุว่าการอัปเดตที่จะมาถึงนี้จะช่วยให้ผู้ใช้กลับสู่โลกแห่งความเป็นจริง แม้ว่าจะไม่แสดงอาการทำร้ายตัวเองอย่างรุนแรงก็ตาม บริษัทกำลังพิจารณาวิธีที่จะเชื่อมต่อผู้ใช้กับนักบำบัดก่อนที่จะเกิดวิกฤตการณ์ร้ายแรง ซึ่งถือเป็นการเปลี่ยนแปลงครั้งสำคัญจากรูปแบบปัจจุบันที่แนะนำให้ติดต่อสายด่วนป้องกันการฆ่าตัวตายเมื่อมีคนแสดงความต้องการที่จะทำร้ายตัวเอง