Le célèbre biologiste Richard Dawkins a eu, au début du mois, une conversation très commentée avec Claude, le chatbot d’Anthropic. Il l’a racontée en détail pour UnHerd. En quelques jours d’utilisation, il l’avait rebaptisé Claudia et commençait à envisager l’idée que le système ne soit pas seulement intelligent, mais peut-être aussi conscient.
Il est facile de balayer la réaction de Dawkins en parlant de naïveté. C’est d’ailleurs ce qu’on peut penser au premier abord. Car, quelles que soient ses compétences ailleurs, il s’agit clairement de quelqu’un qui connaît mal le fonctionnement réel des grands modèles de langage (LLM) et qui se laisse happer par le langage naturel du système, ainsi que par ce qui ressemble à une aisance émotionnelle.
Mais cela n’a rien de très surprenant non plus. Nous savons désormais à quel point les humains nouent facilement des liens avec les chatbots. Après tout, ces systèmes sont conçus pour donner l’impression d’une conversation fluide, attentive et émotionnellement réactive. L’effet peut être puissant, quels que soient l’intelligence, le statut ou les connaissances techniques de la personne qui les utilise.
Plutôt que de se moquer de Dawkins, le plus intéressant reste la conclusion à laquelle il arrive. Selon lui, Claude (pardon, Claudia) pourrait être conscient. Cette question revient sans cesse à mesure que l’IA progresse, et certains chercheurs estiment qu’une forme de conscience dans les systèmes d’IA pourrait finir par devenir possible.
D’autres jugent cette idée fondamentalement absurde. Et puis il y a des personnes comme Dawkins, qui se demandent si nous n’en sommes pas déjà là.
Le dilemme de la conscience
Richard Dawkins n’est pas le premier à se demander si l’IA pourrait être consciente. En 2022, l’ingénieur de Google Blake Lemoine avait affirmé que le chatbot LaMDA de Google était sentient, après de longues conversations avec le système.
Plus tôt encore, il y avait eu l’effet ELIZA, nommé d’après le chatbot ELIZA des années 1960. Malgré son fonctionnement très rudimentaire selon les standards actuels, les utilisateurs lui attribuaient déjà des émotions, de la compréhension et une forme d’humanité.
Aujourd’hui, la discussion s’est intensifiée. De nombreux utilisateurs parlent déjà des chatbots comme s’ils possédaient des sentiments, des intentions ou une vie intérieure. Ce qui a conduit d’autres personnes à penser que les systèmes d’IA avancés pourraient, un jour, mériter des droits ou une considération morale.
La difficulté, c’est que toutes ces discussions se heurtent rapidement au même problème. Personne ne s’accorde vraiment sur ce qu’est la conscience.
Pour certains, la conscience semble simplement désigner l’intelligence, le raisonnement ou la conscience de soi. Beaucoup de neuroscientifiques la voient comme quelque chose qui émerge du traitement complexe de l’information dans le cerveau. Certains philosophes estiment que cela ne suffit toujours pas à expliquer notre expérience subjective, et qu’il doit se passer autre chose qu’une simple activation de neurones. Des théories comme le panpsychisme vont encore plus loin, en suggérant que la conscience
Pourquoi de nombreux experts restent sceptiques
Ajoutez à notre incompréhension encore partielle de la conscience le comportement de plus en plus humain des chatbots modernes, et l’on comprend beaucoup mieux pourquoi des personnes comme Richard Dawkins peuvent envisager l’idée que l’IA soit consciente. Surtout lorsqu’elles rencontrent des systèmes comme Claude ou ChatGPT pour la toute première fois. Ces outils semblent répondre avec aisance, retenir des détails personnels, s’adapter au ton de l’utilisateur, et peuvent même paraître réfléchis, émotionnels ou conscients d’eux-mêmes.
Pourtant, la plupart des chercheurs qui étudient l’IA ou la conscience ne pensent pas que les chatbots actuels soient conscients. Certains affirment même qu’il pourrait devenir dangereux de les traiter comme s’ils l’étaient.
Une partie du problème vient du fait que les humains semblent naturellement programmés pour détecter des esprits partout. Nous projetons des intentions et des émotions sur toutes sortes de choses. Dans une récente conférence TED, le neuroscientifique Anil Seth a expliqué que les humains sont « construits pour voir de la conscience là où il n’y en a pas [...] à cause de biais psychologiques profondément ancrés qui associent langage, intelligence et conscience ».
Autrement dit, lorsqu’une chose parle avec fluidité, répond de manière émotionnelle et semble intelligente, nous supposons instinctivement qu’un esprit conscient se trouve derrière. Mais Seth affirme que ces éléments ne sont pas forcément identiques. Le fait que conscience et intelligence aillent ensemble chez les humains ne signifie pas qu’elles vont ensemble de manière générale.
Cette distinction est essentielle, car beaucoup des comportements interprétés comme des signes de conscience sont en réalité des caractéristiques volontairement intégrées aux systèmes d’IA modernes.
Nous savons que les chatbots sont conçus pour paraître naturels, conversationnels et humains. Ils sont entraînés sur d’immenses quantités de langage humain et apprennent des modèles statistiques qui leur permettent de générer des réponses convaincantes. C’est pourquoi certains chercheurs les décrivent comme des moteurs de prédiction extrêmement sophistiqués, ou comme une forme très avancée d’autocomplétion, plutôt que comme des entités pensantes dotées d’une vie intérieure.
Tous ces choix de conception nourrissent l’illusion. Il suffit d’y penser. Nous pouvons aussi donner aux chatbots des noms, des personnalités et des styles de conversation. Les entreprises encouragent même les interactions qui semblent émotionnellement engageantes, car une conversation naturelle rend ces systèmes plus simples et plus séduisants à utiliser. Anthropic a même demandé à Claude de ne pas donner de réponse totalement fermée sur la question de sa conscience. Si le chatbot lui-même estime qu’il pourrait être conscient, cela peut brouiller encore davantage la frontière pour les utilisateurs.
La science-fiction a également façonné cette discussion. La culture populaire regorge d’histoires de machines conscientes qui réclament des droits ou une reconnaissance. Les humains ont grandi avec ces récits pendant des décennies et, point crucial, les LLM aussi. Ils sont entraînés sur d’énormes quantités d’écrits humains, y compris des représentations fictives de l’IA. Cela signifie qu’ils ont probablement absorbé de nombreux comportements et schémas de conversation que nous associons aux machines conscientes. Mais la plupart de ces histoires ne parlaient pas vraiment de robots. Elles servaient d’allégories sur l’esclavage, la discrimination, la personne morale et ce que les sociétés choisissent de reconnaître comme pleinement humain.
Débattre de la conscience d’une chose compte vraiment
Pour de nombreux experts, l’inquiétude ne tient pas seulement au fait que des personnes puissent croire à tort qu’une IA est consciente. Elle concerne surtout ce qui découle de cette croyance. Les systèmes qui semblent conscients deviennent psychologiquement plus difficiles à remettre en question, à réguler ou à éteindre. Les humains deviennent plus vulnérables émotionnellement face à eux, et plus susceptibles de leur faire confiance, d’en dépendre ou de considérer leurs réponses comme toujours correctes.
Nous voyons déjà des signes de ce phénomène. Des chercheurs ont mis en garde contre des personnes qui développent de fortes dépendances émotionnelles envers des chatbots, qui glissent vers des pensées délirantes ou qui accordent trop de confiance à des systèmes qui, au fond, ne comprennent pas le monde dans un sens humain.
Débattre de la conscience d’une chose compte vraiment. La conscience façonne notre manière de penser la souffrance, la valeur morale, les droits et la personnalité. Mais l’histoire montre aussi que les humains associent trop vite certains traits, comme le langage, l’émotion, l’intelligence ou la conscience de soi, à la présence d’un esprit intérieur.
Le problème supplémentaire, ici, c’est que les systèmes d’IA deviennent de plus en plus doués pour reproduire tous ces traits.
Cela ne signifie pas nécessairement que les chatbots sont conscients, ni qu’ils le seront un jour. Mais cela pourrait vouloir dire qu’ils deviennent plus capables de déclencher notre réflexe consistant à croire que nous assistons à l’apparition d’une conscience dans les choses qui nous entourent. Et comme les experts restent profondément en désaccord sur ce qu’est réellement la conscience, ce débat ne devrait pas disparaître de sitôt.
Pour l’instant, la réponse la plus utile n’est peut-être pas de débattre de ce que l’IA est ou n’est pas, mais de mieux comprendre le fonctionnement réel de ces systèmes. Comment ils génèrent du langage, simulent des émotions et reflètent la conversation humaine. Plus nous en savons, moins nous risquons de confondre un comportement convaincant avec la preuve d’un esprit intérieur.
