Si alguna vez hubo una prueba de que la gente está desarrollando una profunda dependencia emocional de ChatGPT, probablemente sea la nueva función «Trusted Contact» de OpenAI.
En su intervención en el evento "AI Ascent" de Sequoia Capital el pasado mes de mayo, el director ejecutivo de OpenAI, Sam Altman, dijo que los jóvenes estaban usando ChatGPT como un sistema operativo para la vida, no solo para la productividad, sino también para tomar decisiones personales importantes.
"Quiero decir, todo eso, creo, es genial e impresionante", dijo Altman. "Y hay otra cosa, y es que, como que, realmente no toman decisiones importantes en la vida sin preguntarle a ChatGPT qué deben hacer".
En ese momento, el comentario sonó provocativo. Sin embargo, un año después, ChatGPT se ha convertido en algo más parecido a un terapeuta, un coach de vida, un confidente y un compañero para muchos de sus usuarios. Ahora OpenAI está construyendo una infraestructura real de apoyo emocional en torno al chatbot con una función llamada "Contacto de confianza".
Ahora ChatGPT se pondrá en contacto con tus amigos si necesitas ayuda
La función aún se está implementando, por lo que «Contacto de confianza» todavía no está disponible para todos, pero para encontrarla, haz clic o toca tu nombre de perfil en ChatGPT y luego ve a «Configuración». Puedes designar a un adulto de confianza, quien deberá aceptar el rol antes de que la función se active.
Si los sistemas automatizados de ChatGPT detectan conversaciones que puedan indicar un riesgo grave de autolesión, se advierte al usuario de que su Contacto de confianza podría ser notificado y se le anima a ponerse en contacto primero.
A continuación, un equipo de revisión humano especialmente capacitado evalúa la situación antes de enviar cualquier alerta. Si los revisores consideran que existe una preocupación real por la seguridad, el Contacto de confianza recibe una notificación por correo electrónico, mensaje de texto o alerta dentro de la aplicación animándole a ponerse en contacto.
OpenAI afirma que las alertas no incluyen transcripciones de chat ni un historial detallado de la conversación para proteger la privacidad del usuario, y que puedes eliminar o cambiar tu contacto de confianza en cualquier momento.
¿Tranquilizador o inquietante?
OpenAI afirma que «Trusted Contact» se desarrolló con la colaboración de expertos en salud mental, especialistas en prevención del suicidio y una red global de más de 260 médicos de 60 países. Junto con todos los controles parentales que OpenAI ya ha introducido y las medidas de seguridad ya implementadas, «Trusted Contact» es otra señal de que la empresa reconoce que ChatGPT es algo que puede afectar a los usuarios emocionalmente, no solo tecnológicamente.
Los recientes anuncios de productos de OpenAI realmente han minimizado el uso de ChatGPT como un confidente y han enfatizado más el enfoque de productividad de ChatGPT, particularmente en lo que respecta a la herramienta Codex para la creación de código. Sin embargo, al mismo tiempo, se están agregando cada vez más funciones de seguridad dirigidas al bienestar emocional de los usuarios de ChatGPT.
La idea de que ahora estamos siendo monitoreados por ChatGPT también preocupa a algunos. Cuando mi colega Becca Caddy entrevistó recientemente a Amy Sutton, de Freedom Counselling, para una investigación sobre las herramientas de monitoreo de IA en el lugar de trabajo, señaló que saber que estás siendo monitoreado por tu IA, especialmente en el lugar de trabajo, podría en realidad empeorar el problema que está tratando de resolver. Sutton comentó: "Dado que los estigmas relacionados con la salud mental siguen siendo muy comunes, la observación por parte de la IA probablemente llevaría a un mayor esfuerzo por ocultar las señales de dificultades. Esto podría crear una espiral peligrosa, en la que cuanto más nos esforcemos por ocultar el bajo estado de ánimo o la ansiedad, peor se vuelve la situación".
Que la función "Contacto de confianza" te resulte tranquilizadora o inquietante probablemente dependa de la opinión que ya tengas sobre la IA y ChatGPT. Sin embargo, esta función es otro ejemplo de cómo las empresas de IA reconocen que sus productos no son solo herramientas para la productividad y la información, sino sistemas en los que las personas pueden llegar a confiar cada vez más emocionalmente en algunos de los momentos más vulnerables de sus vidas.
Sigue a TechRadar en Google Noticias y añádenos como fuente preferida para recibir nuestras noticias, reseñas y opiniones de expertos en tus feeds.
