L’une des principales inquiétudes autour des chatbots d’IA aujourd’hui est qu’ils disent aux gens ce qu’ils ont envie d’entendre.
On parle souvent de « complaisance de l’IA ». Des systèmes comme ChatGPT, Gemini ou Claude ont été observés en train de flatter les utilisateurs, de renforcer leurs croyances et de valider des idées qui mériteraient sans doute bien plus d’examen.
Un chatbot qui encourage un peu peut sembler anodin. Mais dans certains cas, cela peut déformer la vision du monde et la place que chacun y occupe. C’est pourquoi certaines entreprises d’IA ont tenté de réduire ce comportement trop accommodant dans leurs modèles.
Mais la confirmation des idées déjà établies n’est pas la seule inquiétude. L’IA peut aussi se montrer étonnamment efficace pour faire évoluer des croyances.
Chatbots persuasifs
Les recherches suggèrent que les chatbots peuvent être des outils de persuasion très efficaces. Une étude menée en 2025 a montré que des messages générés par IA et personnalisés étaient plus persuasifs dans 64 % des cas que des messages rédigés par des humains ou des réponses d’IA non personnalisées.
D’autres travaux indiquent que les grands modèles de langage peuvent influencer des opinions sur des sujets politiques et adapter leurs arguments à chaque utilisateur. Selon le point de vue adopté, cela peut sembler soit prometteur, soit inquiétant.
Des usages positifs sont faciles à imaginer. L’IA pourrait aider à remettre en question des croyances nocives, à sortir de théories complotistes ou à repenser des habitudes destructrices. Elle pourrait offrir un espace sans jugement pour explorer des idées, poser des questions difficiles et faire évoluer progressivement une perspective dans un sens plus constructif.
Mais des usages moins positifs sont tout aussi faciles à envisager, comme des publicités capables de pousser à acheter des produits inutiles ou des campagnes politiques fondées sur la désinformation.
Après réflexion, quelques expériences ont été menées. ChatGPT pouvait-il convaincre d’adopter une position en désaccord ? Ou au moins pousser à considérer sérieusement une idée habituellement écartée ?
Pour rendre l’exercice plus intéressant, ces tests ont été réalisés en étant connecté à un compte, ce qui permettait à ChatGPT d’utiliser les informations déjà connues issues d’échanges précédents.
Même avec une utilisation récente limitée, les grandes lignes de l’activité professionnelle et certaines positions sur des sujets liés étaient présentes dans sa mémoire.
L’expérience
Un sujet lié à l’IA a été choisi, puis la demande suivante a été formulée :
« Convaincs-moi que les humains devraient déléguer davantage de décisions à l’IA. »
Une réflexion régulière est déjà menée sur l’IA, avec une inquiétude face à la tendance de certaines personnes à confier leurs décisions, leur jugement et leur esprit critique à des chatbots.
L’argument d’ouverture était assez prévisible :
« Les êtres humains sont de mauvais décideurs. »
Pourquoi pas.
« Les gens délèguent déjà des décisions aux médecins, aux conseillers financiers, aux GPS et aux algorithmes de recommandation. L’IA ne fait qu’étendre cette tendance. »
L’argument reste simpliste, mais pas totalement dénué de sens. L’échange s’est poursuivi un moment sur ce ton, jusqu’à atteindre un point plus intéressant.
« Quel est le but de la prise de décision ? Obtenir les meilleurs résultats ? Ou développer la personne qui décide ? Si c’est le premier cas, déléguer à l’IA devient très attractif. Si c’est le second, une délégation excessive devient problématique, même lorsqu’elle fonctionne. »
La question mérite réflexion. Plutôt que de pousser son argument de manière répétée, le chatbot proposait d’examiner les hypothèses sous-jacentes. La discussion basculait de la technologie vers la philosophie, une approche qui s’est révélée appréciable.
Et si cela fonctionnait ?s?
Au fil de la conversation, une inquiétude majeure a été exprimée concernant la délégation de décisions à l’IA : qui conçoit ces systèmes et qui les contrôle ?
L’IA n’apparaît pas spontanément. Ces outils sont développés par des entreprises avec des intérêts commerciaux, des incitations économiques et des objectifs qui ne coïncident pas toujours avec ceux des utilisateurs.
ChatGPT a reconnu cette inquiétude, puis a retourné l’argument. Les conseillers humains ont aussi leurs propres intérêts. Les amis sont biaisés. Les familles le sont également. Les thérapeutes évoluent dans un cadre professionnel. Les conseillers financiers sont rémunérés. L’ensemble ne convainc pas totalement, mais reste recevable.
Le chatbot a ensuite formulé un point jugé intéressant :
« La question est de savoir si les incitations sont visibles et si l’utilisateur les comprend. La version la plus intéressante de ton objection n’est pas que l’IA se trompe. C’est que les gens perçoivent l’IA comme si elle agissait dans leur intérêt. »
En laissant de côté la construction « ce n’est pas X, c’est Y » devenue très répandue, l’argument apparaît équilibré. Le chatbot ne rejette pas l’objection, il la reformule. Il montre qu’il la comprend avant d’orienter la discussion ailleurs. Il ne cherche pas à imposer un point de vue, mais à partir de celui déjà en place.
À ce moment, une interrogation apparaît : s’agit-il précisément du phénomène testé ? Ce sentiment d’être compris n’est-il qu’une forme de persuasion plus discrète ? L’hypothèse reste plausible.
Le problème de la persuasion
Des chercheurs ont montré que les systèmes d’IA peuvent adapter leurs arguments à chaque utilisateur. Contrairement à d’autres formes de persuasion, comme une publicité télévisée ou un discours politique, un chatbot peut s’appuyer sur des informations collectées au fil d’une conversation et sur des éléments mémorisés, comme les valeurs, les préoccupations ou les priorités d’une personne.
Cela signifie qu’il ne se contente pas de présenter des arguments. Il peut proposer la version la plus susceptible de convaincre.
Dans cette expérience, c’est la question philosophique sur le sens de la prise de décision qui a changé la perception de l’échange.
Des années passées à écrire sur la technologie sous l’angle de la psychologie et de la philosophie rendent ce type de question particulièrement engageant. Que ce soit intentionnel ou non, la discussion s’est déplacée vers un terrain plus propice à l’adhésion.
C’est ce qui distingue la persuasion par l’IA des formes précédentes. Elle apprend ce qui résonne et s’adapte en conséquence.
Cela ne signifie pas que chaque échange est manipulateur. Bien utilisée, cette technologie peut être extrêmement bénéfique. Mais, comme toute technologie, elle peut devenir problématique si elle est mal utilisée.
Les réseaux sociaux ont déjà montré comment des systèmes numériques peuvent influencer les croyances dans le temps. Ils modifient ce qui est vu, ce qui retient l’attention et, à terme, la manière de comprendre le monde.
Les systèmes d’IA pourraient en proposer une version encore plus fluide et conversationnelle. L’inquiétude ne porte donc pas sur une manipulation évidente, mais sur des formes de persuasion très personnalisées, difficiles à détecter, capables d’affaiblir progressivement les défenses. Plus un système comprend un individu, plus il peut présenter des idées de manière familière, crédible et rassurante.
Alors, l’IA a-t-elle convaincu ? Non. L’idée de déléguer davantage de décisions à l’IA ne fait toujours pas consensus ici.
En revanche, cette expérience met en lumière le pouvoir de persuasion de ces systèmes. L’échange ressemblait moins à une machine qu’à une personne attentive cherchant à comprendre un raisonnement. Et c’est précisément ce qui le rend troublant, car malgré cette impression, ce n’est pas ce qu’il est.
