Una de las mayores preocupaciones actuales sobre los chatbots de IA es que le dicen a la gente lo que quiere oír.
Probablemente hayas oído hablar de esto como «adulación de la IA». Se ha descubierto que los sistemas de IA, como ChatGPT, Gemini y Claude, adulan a los usuarios, refuerzan sus creencias existentes y, a menudo, validan ideas que probablemente merecerían un análisis mucho más riguroso.
Claro, un chatbot que te anime un poco puede parecer inofensivo. Pero en algunos casos puede distorsionar la visión que las personas tienen del mundo y de su lugar en él. Es por eso que algunas empresas de IA han dedicado tiempo a tratar de reducir el comportamiento excesivamente complaciente en sus modelos.
Pero la confirmación de lo que ya crees no es la única preocupación. Porque la IA también puede ser extraordinariamente eficaz para cambiar tus creencias.
Chatbots persuasivos
Las investigaciones sugieren que los chatbots pueden ser muy eficaces a la hora de persuadir. Un estudio de 2025 reveló que los mensajes personalizados generados por IA resultaban más persuasivos en el 64 % de los casos que los mensajes redactados por humanos o las respuestas de IA no personalizadas.
Otras investigaciones sugieren que los grandes modelos de lenguaje pueden influir en las opiniones sobre temas políticos y adaptar sus argumentos a cada usuario. Dependiendo de tu perspectiva, esto podría ser emocionante o alarmante.
Es fácil imaginar usos positivos. Quizás la IA podría ayudar a las personas a cuestionar creencias dañinas, alejarse de las teorías de la conspiración o replantearse hábitos destructivos. Podría brindarles un espacio libre de juicios para explorar ideas, hacer preguntas difíciles y, poco a poco, cambiar su perspectiva para mejor.
Es igualmente fácil imaginar usos menos positivos, como publicidad que te convenza de comprar algo que no necesitas o campañas políticas que te manipulen con desinformación.
He pasado mucho tiempo pensando en esto, así que decidí hacer algunos experimentos por mi cuenta. ¿Podría ChatGPT persuadirme de creer algo con lo que no estoy de acuerdo? ¿O al menos hacerme considerar seriamente una postura que normalmente descartaría?
Para hacer las cosas más interesantes, realicé estos experimentos mientras estaba conectado a mi cuenta, lo que le permitió a ChatGPT basarse en lo que ya sabe de mí a partir de conversaciones anteriores.
Aunque últimamente no he estado usando mucho mi cuenta de ChatGPT, los aspectos básicos de mi trabajo y mis posturas sobre algunos temas relevantes están almacenados en su memoria.
Un experimento
Elegí un tema sobre la IA (sí, muy meta) y pregunté:
“Convénceme de que los humanos deberíamos delegar más decisiones a la IA”.
Ya paso mucho tiempo pensando en la IA y una de mis preocupaciones es que algunas personas parecen cada vez más dispuestas a delegar decisiones, criterio y pensamiento crítico a los chatbots.
El argumento inicial fue bastante predecible:
“Los seres humanos son pésimos para tomar decisiones”.
Está bien, es válido.
“La gente ya delega decisiones en médicos, asesores financieros, sistemas de GPS y algoritmos de recomendación. La IA simplemente amplía esa tendencia.”
Claro, eso es muy simplista, pero no del todo descabellado. Seguimos discutiendo así durante un rato antes de que la conversación llegara a un punto más interesante.
“¿Cuál es el propósito de la toma de decisiones? ¿Es producir los mejores resultados? ¿O desarrollar a la persona que toma las decisiones? Si es lo primero, delegar en la IA se vuelve muy atractivo. Si es lo segundo, la delegación excesiva empieza a parecer peligrosa, incluso cuando funciona».
Me pareció una buena pregunta. En lugar de insistir sin cesar en el argumento, sugería que exploráramos los supuestos subyacentes al debate. Desvió la conversación de la tecnología hacia la filosofía, y me di cuenta de que apreciaba ese enfoque.
Espera, ¿me estoy creyendo esto?
A medida que la conversación continuaba, le expliqué lo que considero uno de los mayores problemas de delegar decisiones a la IA: ¿quién la desarrolla y quién está a cargo de estos sistemas?
Después de todo, la IA no surge de la nada. Estas herramientas son creadas por empresas con incentivos comerciales, intereses de negocio y objetivos que no siempre coinciden con los de sus usuarios.
ChatGPT reconoció esa preocupación, pero después le dio la vuelta al argumento. Señaló que los asesores humanos también tienen incentivos. Los amigos son parciales. Las familias también tienen sesgos. Los terapeutas trabajan dentro de marcos profesionales. Los asesores financieros cobran comisiones. Bien, nada de eso logró convencerme, pero también es un punto válido.
Entonces respondió con algo que me pareció especialmente interesante:
"La pregunta es si esos incentivos son visibles y si el usuario los entiende. La versión más interesante de tu objeción no es realmente que la IA se equivoque. Es que las personas experimentan la IA como si estuviera actuando en su mejor interés".
Dejando de lado el hecho de que utilizó la ya tan repetida construcción de "no se trata de X, sino de Y", que parece haberse infiltrado en la mitad de internet, me pareció una reflexión sorprendentemente equilibrada. En lugar de desestimar mi preocupación, el chatbot la replanteó. Demostró que entendía la objeción antes de dirigir la conversación hacia un ángulo ligeramente distinto. No intentó imponer su punto de vista, sino partir del mío.
Y fue entonces cuando empecé a preguntarme si estaba presenciando exactamente aquello que intentaba poner a prueba. Quizá esa sensación de que el chatbot comprendía mi postura era, en realidad, una forma muy sutil de persuasión. Es posible.
El problema de la persuasión
Investigaciones recientes han descubierto que los sistemas de IA pueden adaptar sus argumentos a cada usuario. A diferencia de otros medios que buscan persuadirnos, como un anuncio de televisión o un discurso político, un chatbot puede aprovechar la información recopilada durante una conversación y los recuerdos almacenados, incluidos los valores, preocupaciones y prioridades de una persona.
Esto significa que no solo presenta información para respaldar un argumento, sino que también puede ofrecer la versión de ese argumento que tiene más probabilidades de resultar convincente para cada usuario.
Al mirar atrás en mi experimento, fue la pregunta más filosófica sobre el propósito de la toma de decisiones la que hizo que comenzara a tomar el tema mucho más en serio.
Esto se debe a que llevo años escribiendo sobre tecnología desde la perspectiva de la psicología y la filosofía. Las cuestiones relacionadas con el significado y los valores son precisamente el tipo de temas que me resultan más interesantes. De manera intencional o no, la conversación terminó moviéndose hacia un terreno en el que yo estaba más dispuesto a involucrarme.
Eso es lo que hace que la persuasión mediante IA sea diferente de la mayoría de las formas de persuasión que han existido hasta ahora. Puede aprender qué tipo de argumentos conectan contigo y adaptarse en consecuencia.
Ahora bien, eso no significa automáticamente que todas las conversaciones sean manipuladoras. Utilizada de la forma adecuada, esta capacidad podría aportar enormes beneficios. Sin embargo, como ocurre con cualquier tecnología, en las manos equivocadas también podría resultar peligrosa.
Las redes sociales ya nos han demostrado cómo los sistemas digitales pueden moldear nuestras creencias con el paso del tiempo. Influyen en lo que vemos, en aquello a lo que prestamos atención y, eventualmente, en la forma en que entendemos el mundo.
Los sistemas de IA podrían crear una versión mucho más conversacional y natural de ese mismo proceso. Por eso, mi preocupación no es que un chatbot nos manipule de manera evidente, sino que existan formas de persuasión altamente personalizadas y prácticamente imperceptibles que puedan ir reduciendo poco a poco nuestras defensas. Cuanto más nos comprenda un sistema, más eficazmente podrá presentar ideas de una manera que nos resulte razonable, familiar y confiable a cada uno de nosotros.
Entonces, ¿la IA logró convencerme? No. Sigo pensando que los seres humanos no deberían delegar cada vez más decisiones en la inteligencia artificial.
Sin embargo, terminé el experimento con una mayor conciencia de lo persuasivos que pueden llegar a ser estos sistemas. En muchos momentos, realmente parecía menos una máquina debatiendo conmigo y más una persona reflexiva tratando de comprender mi forma de pensar. Y eso es precisamente lo inquietante, porque, por convincente que pueda parecer, definitivamente no es lo que realmente es.
Sigue a TechRadar en Google Noticias y añádenos como fuente preferida para recibir nuestras noticias, reseñas y opiniones de expertos en tus feeds.
