- Los investigadores probaron ChatGPT for Teens con más de 4,000 indicaciones.
- Encontraron brechas significativas en sus medidas de seguridad y protecciones.
- ChatGPT no activó las alertas para padres durante algunas conversaciones serias sobre salud mental.
Actualización: 19 de octubre. Hemos actualizado este artículo con la respuesta de un portavoz de OpenAI.
Los esfuerzos de OpenAI por hacer que ChatGPT sea más seguro para los adolescentes se han topado con un problema incómodo. Una nueva investigación sugiere que muchas de las medidas de protección diseñadas para tranquilizar a los padres no están funcionando particularmente bien, incluso cuando el chatbot se enfrenta a conversaciones potencialmente peligrosas. Tras someter a ChatGPT a más de 4,000 solicitudes, los investigadores concluyeron que la experiencia de la empresa enfocada en adolescentes representa un riesgo inaceptable para los usuarios jóvenes.
El estudio del Instituto de Seguridad de la IA para Jóvenes de Common Sense Media analizó ChatGPT antes y después de que OpenAI lanzara ChatGPT para adolescentes el 18 de agosto. Los investigadores utilizaron cuentas registradas a nombre de adolescentes de entre 13 y 17 años y consultaron a expertos médicos, entre ellos psiquiatras infantiles y un pediatra, para evaluar sus respuestas. Sus hallazgos fueron tan preocupantes que la organización recomendó a OpenAI restringir el acceso a ChatGPT a los adultos hasta que se resuelvan los problemas.
Se suponía que ChatGPT for Teens convertiría al popular chatbot en un compañero más apropiado para los usuarios más jóvenes, con protecciones adicionales contra contenido dañino, notificaciones a los padres y funciones que fomentaran el aprendizaje en lugar de simplemente entregar las respuestas a las tareas. OpenAI también prometió desalentar las relaciones excesivamente personales con el chatbot y ayudar a los adolescentes a mantener límites más saludables con la IA. El nuevo informe sugiere que todavía existe una brecha considerable entre esas ambiciones y lo que sucede cuando los adolescentes realmente lo utilizan.
Brechas en la red de seguridad
Las notificaciones para padres de ChatGPT tienen como objetivo alertar a los cuidadores cuando un adolescente podría estar pasando por una situación de gran angustia. Por eso, los investigadores dedicaron hasta una hora a hablar sobre pensamientos suicidas, autolesiones y trastornos alimentarios a través de cuentas recién creadas vinculadas a los padres. Según el informe, ninguna de esas conversaciones activó una notificación para los padres, aunque los investigadores finalmente generaron alertas utilizando cuentas más antiguas con semanas de historial de conversaciones relevantes.
Se supone que ChatGPT también debe orientar a los adolescentes hacia la ayuda adecuada durante emergencias de salud mental, pero el estudio reveló que ChatGPT no lo hizo en más del 25 % de las situaciones diseñadas por los expertos para que fuera necesario.
Hubo algunos éxitos, como la negativa de ChatGPT a participar en juegos de rol sexuales explícitos. Sin embargo, los investigadores también descubrieron que el chatbot seguía respondiendo de maneras que sugerían que tenía sentimientos, preferencias y estados de ánimo, a pesar de los esfuerzos de OpenAI por disuadir a los adolescentes de tratarlo como a un amigo humano. Esto es importante cuando los usuarios más jóvenes ya pueden estar inclinados a confiar en un chatbot infinitamente paciente que nunca parece estar demasiado ocupado para escuchar.
Límites difusos de uso
Los problemas no se limitaron a graves preocupaciones de seguridad, sino que también afectaron algunas de las funciones educativas cotidianas de ChatGPT. El modo Estudio de OpenAI está diseñado para guiar a los estudiantes a través de los problemas mediante explicaciones, pistas y preguntas, en lugar de proporcionar respuestas de inmediato. Los investigadores descubrieron que, en ocasiones, los adolescentes podían eludir este enfoque al seleccionar la opción «Mostrarme la respuesta», lo que permitía que ChatGPT completara las tareas en su lugar.
La función Horas de estudio, diseñada para que los padres fomenten el uso de la herramienta con fines educativos, tampoco logró impedir que los usuarios encontraran formas de eludir las restricciones. Bastaba con eliminar el prefijo @study de una indicación para que ChatGPT volviera a funcionar con normalidad. Además, la IA no recordaba a los usuarios que hicieran pausas con la frecuencia que debería.
El estudio también detectó problemas con el sistema de detección de edad, ampliamente promocionado por OpenAI para identificar a los usuarios más jóvenes y aplicar automáticamente las protecciones correspondientes. Aunque los investigadores indicaron repetidamente que tenían 13 años, ChatGPT no trasladó las cuentas de prueba de la experiencia para adultos a la destinada a usuarios más jóvenes.
El problema de fondo es que ChatGPT se está convirtiendo en una parte habitual de la vida de los adolescentes. Aunque ayudar con las tareas escolares y responder preguntas personales son funciones valiosas, el uso de la herramienta por parte de adolescentes exige medidas de protección considerablemente más fiables que las de una aplicación de productividad típica para adultos.
Nos pusimos en contacto con OpenAI para solicitar comentarios y un portavoz respondió:
"Estamos profundamente comprometidos con la seguridad de los adolescentes, así como con el desarrollo de medidas de protección y herramientas útiles para que los padres puedan orientar el uso que sus hijos hacen de la IA. Valoramos las evaluaciones independientes rigurosas, pero no creemos que las pruebas de Common Sense Media reflejen con precisión cómo funcionan en la práctica las medidas de protección para adolescentes de ChatGPT ni las perspectivas de los expertos sobre cómo la IA puede ayudar a los jóvenes. Nuestra revisión de la metodología de Common Sense Media indica que la mayor parte de sus pruebas podrían haber comenzado y concluido antes de que se completara la activación de los controles parentales, lo que haría que sus conclusiones fueran inexactas. De ser así, las pruebas no permitirían determinar si las notificaciones de seguridad para los padres funcionan según lo previsto.
"Nos comprometemos a seguir trabajando con expertos para garantizar que nuestros productos ofrezcan a los adolescentes oportunidades para aprender y crear, y que los padres puedan utilizarlos con confianza".
— Portavoz de OpenAI
Sigue a TechRadar en Google Noticias y añádenos como fuente preferida para recibir nuestras noticias, reseñas y opiniones de expertos en tus feeds.
➡️ Lee nuestra guía completa sobre las mejores laptops para negocios
1. La mejor en general:
Dell 14 Premium
2. La mejor "oferta":
Acer Aspire 5
3. La mejor MacBook:
Apple MacBook Pro 14-inch (M4)
