OpenAI ha anunciado una nueva función para ChatGPT, pero esta vez no se trata de un modelo más avanzado, esta vez tiene que ver con la seguridad. Se llama “Trusted Contact” y permite que los usuarios elijan a una persona de confianza para que pueda recibir un aviso si durante una conversación aparecen señales relacionadas con autolesión o pensamientos suicidas.
Si alguien está pasando por un momento muy complicado y lo expresa mientras habla con el chatbot, el sistema animará a contactar con esa persona cercana y también podrá enviarle una alerta automática para que esté pendiente. Por parte de la empresa, parece una forma de salvaguardarse las espaldas, ya que muchas personas utilizan el chat para hablar de su salud mental.
Cómo funcionará el aviso
Cada usuario adulto podrá añadir en su cuenta, siempre de forma voluntaria, a alguien de confianza y si el sistema detecta mensajes que puedan indicar una situación grave, en lugar de responder como hasta ahora, ChatGPT recomendará buscar ayuda y ponerse en contacto con esa persona.
Después, un equipo humano revisará el caso antes de decidir si se envía una alerta. El aviso llegará por mensaje, correo electrónico o dentro de la aplicación si la tiene. Eso sí, OpenAI explica que no compartirá detalles de la conversación para proteger la privacidad del usuario.
Una medida que llega tras varias polémicas
La decisión llega después de meses difíciles para la empresa, que enfrenta varias denuncias de familias cuyos sus seres queridos mantuvieron conversaciones con ChatGPT antes de suicidarse. Los familiares echan la culpa a las respuestas de la inteligencia artificial.
Todo esto ha aumentado la presión sobre las compañías tecnológicas, sobre todo ahora que muchas personas usan este tipo de herramientas para desahogarse, como una especie de confidentes o simplemente para hablar cuando se sienten solas y para pedir consejo sobre temas personales. OpenAI intenta responder a esa preocupación con nuevas medidas de seguridad. Aunque ya había añadido anteriormente avisos para recomendar ayuda profesional y funciones de control para cuentas de menores, ahora da un paso más con esta nueva opción.
