Operai ha anunciado cambios en ChatGPT luego de una demanda alegando que los adolescentes que murieron de suicidio confían en los chatbots. Se cree que la demanda presentada el martes (26.08.25) es la primera vez que un pariente afligido ha condenado directamente a la compañía de una muerte ilegal.
En una publicación de blog, el gigante tecnológico dijo que actualizará ChatGPT para reconocer y responder mejor a los signos de angustia mental.
«Los recientes estudios de casos desgarradores de personas que usan ChatGPT durante el apogeo de una crisis aguda son pesados para nosotros. Creemos que es importante compartir más ahora.
“Nuestro objetivo es que nuestras herramientas sean lo más útiles posible para las personas, y como parte de esto, continuamos mejorando la forma en que nuestros modelos reconocen y responden a los signos de angustia mental y mental y conectan a las personas con cuidado.
La compañía agregó: «A medida que nos adaptamos a esta nueva tecnología, sentimos una profunda responsabilidad de ayudar a quienes más la necesitan. Queremos explicar para qué está diseñado ChatGPT, dónde se pueden mejorar los sistemas y en qué trabajo futuro estamos planeando».
El blog también explicó cómo la compañía está lidiando actualmente con conversaciones que implican amenazas de daño.
«Cuando detectamos a los usuarios que planean dañar a otros, enrutamos la conversación a una tubería especializada revisada por un pequeño equipo capacitado en nuestra política de uso, y si el revisor humano implica una amenaza inminente de daño físico grave a los demás, respetando al Primer Ministro, no se refiere a la auto-asignación, y si el revisor humano está siendo examinado de las interacciones chatgpt».
Como parte del plan, Operai también introducirá nuevos controles parentales, lo que permite a los cuidadores supervisar cómo sus hijos usan el chatbot.
“Pronto presentaremos controles de los padres que proporcionan opciones para obtener más información y forma para que los adolescentes usen ChatGPT, así como explorar la forma en que los adolescentes (con supervisión de los padres) para permitir un contacto de emergencia confiable.
