À mesure que les utilisateurs confient des raisonnements abstraits aux grands modèles de langage (LLM), le sens précis de leurs mots risque de se perdre. Les nuances disparaissent progressivement lorsque les systèmes interprètent, résument puis réutilisent les mêmes informations.
Les êtres humains ne s'expriment pas comme des programmes. Leurs conversations intègrent des codes culturels, des situations particulières et des sous-entendus rarement explicités. Dans certaines cultures, par exemple, demander « Tu as mangé ? » ne vise pas réellement à connaître le dernier repas. Cette formule peut simplement remplacer un « Comment ça va ? » bienveillant. Un LLM peut manquer cette nuance, comprendre littéralement la question et fournir une réponse inadaptée.
Imaginons qu'un modèle A interprète cette phrase comme une véritable interrogation alimentaire. Il transmet ensuite son analyse au modèle B, lequel la communique au modèle C. À la troisième étape, la nuance culturelle initiale a disparu. Les modèles produisent toujours une réponse cohérente, mais celle-ci ne correspond plus au contexte. Il s'agit d'un exemple d'érosion sémantique, un phénomène dans lequel la précision des définitions et les nuances culturelles se dégradent au fil des réinterprétations.
L'érosion sémantique est un problème structurel, différent des hallucinations classiques. Dans le second cas, les modèles inventent des faits. Dans le premier, les réponses restent apparemment logiques, mais le contexte disparaît et le sens se transforme. Cette faiblesse représente un obstacle majeur pour les développeurs de LLM.
Comprendre l'érosion sémantique
À mesure que les LLM traitent davantage d'informations, de petites erreurs d'interprétation peuvent s'accumuler et dégrader les réponses. Un modèle peut mal comprendre un contexte humain ou remplacer un terme précis par un synonyme inapproprié. Le résultat paraît fluide et grammaticalement correct, mais ne correspond plus à ce que l'utilisateur attend réellement.
L'exemple de la formule « Tu as mangé ? » illustre une mauvaise interprétation culturelle. Mais le même problème peut affecter des informations professionnelles beaucoup plus sensibles.
Imaginons qu'une entreprise demande à un système composé de plusieurs agents IA d'analyser son bilan financier annuel. Le premier agent confond le « résultat net » avec le « résultat opérationnel ». Pourtant, ces deux notions ne sont pas équivalentes. Le résultat opérationnel correspond aux bénéfices générés par l'activité de l'entreprise, tandis que le résultat net prend également en compte les impôts, les charges financières et d'autres éléments.
Le premier agent transmet cette erreur au deuxième, qui la réutilise. Après le passage des agents C, D et E, les conclusions de l'analyse financière sont devenues incorrectes. Il ne s'agit pas nécessairement d'une erreur spectaculaire, mais d'une dégradation silencieuse que l'utilisateur peut facilement manquer. Des décisions importantes pourraient alors reposer sur des informations erronées.
Sans contrôle, l'érosion sémantique réduit progressivement la précision des réponses fournies par les modèles. Une petite approximation suivie d'une autre suffit à rendre un système beaucoup moins fiable. Les développeurs doivent donc s'attaquer à cette dérive.
Le paradoxe de compression des intentions
Les humains n'utilisent pas un langage purement informatique. Ils expriment des émotions, tiennent compte de leur environnement et modifient le sens de leurs phrases grâce au ton de leur voix.
La phrase « Il faut qu'on parle » peut ainsi traduire de l'attention lorsqu'elle est prononcée doucement, ou annoncer une confrontation lorsqu'elle est formulée sur un ton agressif. De même, une formule de confirmation peut signifier un accord chaleureux ou une remarque sarcastique, selon la manière dont elle est exprimée.
Les utilisateurs reproduisent naturellement cette façon de communiquer lorsqu'ils s'adressent à une IA. Pourtant, les modèles ne comprennent pas les émotions comme les humains. Ils analysent des relations statistiques entre les mots et produisent des réponses calculées.
Cela crée un paradoxe. Plus un modèle est optimisé pour fournir des réponses analytiques efficaces, plus il peut risquer de déformer l'intention humaine. Ce phénomène est appelé paradoxe de compression des intentions.
Les développeurs compressent souvent les prompts pour réduire les coûts liés aux tokens. Mais lorsque l'intention humaine est trop fortement condensée, la probabilité d'une réponse peu fiable augmente. Pour compenser les informations perdues, certains modèles produisent même des réponses plus longues, mais moins directes et moins adaptées à la demande.
Les stratégies utilisées pour lutter contre l'érosion sémantique
Plusieurs approches permettent aux développeurs de réduire ces problèmes. Elles visent à préserver l'intention des utilisateurs, à limiter les pertes de contexte et à maîtriser les coûts de traitement.
Filtrage des données
Les données d'entraînement constituent la base de tout modèle d'intelligence artificielle. C'est donc à ce niveau que commencent les efforts pour améliorer la compréhension des intentions humaines.
L'utilisation de jeux de données soigneusement sélectionnés, comme des publications scientifiques évaluées par des pairs, des discussions entre spécialistes, des analyses approfondies et des œuvres littéraires, peut améliorer la compréhension du contexte. Ces sources fournissent des informations riches et structurées. Elles aident les modèles à reconnaître les raisonnements solides plutôt qu'à reproduire des affirmations non vérifiées.
Les discussions entre experts présentent notamment de nombreuses nuances, essentielles pour apprendre à distinguer plusieurs interprétations possibles.
Ces données coûtent davantage à collecter et à préparer que des ensembles génériques. Mais elles peuvent améliorer sensiblement la précision des modèles. Il n'est pas nécessaire de sélectionner manuellement toutes les sources. L'intégration d'une proportion importante de données vérifiées représente déjà une avancée.
Pour préserver leur intégrité, les développeurs peuvent également intégrer des filigranes cryptographiques ou statistiques aux contenus générés par l'IA. Google SynthID constitue un exemple de cette approche.
Ces marques permettent d'identifier certaines productions artificielles et d'éviter de les réintroduire dans les jeux de données d'entraînement. L'objectif est de limiter le risque d'effondrement du modèle, lorsqu'un LLM se dégrade en apprenant progressivement à partir de ses propres réponses.
Une autre stratégie consiste à sélectionner des données publiées avant 2023, année à partir de laquelle les outils génératifs ont commencé à se généraliser. Cela limite l'intégration massive de contenus artificiels dans les corpus de départ.
La lutte contre l'érosion sémantique commence donc par le choix et la qualité des informations utilisées pendant l'entraînement.
Solutions architecturales
L'architecture des modèles constitue un autre levier important.
Les développeurs peuvent notamment empêcher une IA de deviner la signification des champs d'une base de données. À la place, une couche sémantique spécialisée, comme SqIDBM, peut associer les requêtes à des indicateurs structurés.
Au lieu d'autoriser le modèle à analyser directement des tableaux contenant des données brutes, une plateforme intermédiaire joue le rôle de traducteur. Elle indique à l'IA quelles informations correspondent aux termes utilisés et réduit les risques d'extraction de données incorrectes.
Les développeurs peuvent également mettre en place des systèmes autonomes de détection de dérive et des outils d'observabilité à l'échelle des sessions. Des composants indépendants vérifient alors si les réponses d'un agent commencent à s'écarter de références sémantiques prédéfinies.
L'enjeu consiste à surveiller l'ensemble d'une conversation et de plusieurs workflows, plutôt que des appels API isolés. Lorsqu'une dérive apparaît, le système peut déclencher une correction automatique.
Cela peut passer par l'attribution de la tâche à un autre modèle, l'injection d'instructions mieux contextualisées ou l'interruption de boucles répétitives qui consomment inutilement des tokens.
Une autre méthode consiste à modifier les fonctions de perte utilisées pendant l'entraînement. Les développeurs peuvent pénaliser les modèles lorsqu'ils produisent des réponses excessivement uniformes, afin de conserver une certaine diversité statistique.
Sans cette précaution, un système peut s'optimiser jusqu'à privilégier systématiquement une réponse ayant déjà fonctionné, même lorsque le contexte change. Une pénalité liée à l'entropie incite le modèle à répartir ses probabilités entre plusieurs possibilités, plutôt que de concentrer artificiellement sa confiance sur une seule réponse.
Une fonction de perte agit comme un ensemble de règles mathématiques permettant de sanctionner les erreurs. Elle peut encourager la diversité du vocabulaire, des structures de phrases et des approches retenues, au lieu d'imposer constamment la réponse la plus générique.
Les systèmes multi-agents introduisent toutefois une difficulté supplémentaire. Passer d'un agent à cinq augmente considérablement les problèmes de coordination.
Erreurs d'état, conflits d'exécution et défaillances potentielles se multiplient. Dans une représentation simplifiée, la complexité peut augmenter avec le carré du nombre d'agents. Trois agents correspondent ainsi à neuf interactions potentielles, contre 25 pour cinq agents. Une étude indique que 36,9 % des défaillances des systèmes multi-agents résultent de problèmes de coordination.
Les agents partageant une mémoire commune peuvent également consulter des informations périmées provenant de caches. Contrairement aux modèles isolés, soumis à des limites API plus strictes, certains systèmes multi-agents peuvent entrer dans des boucles prolongées et perdre progressivement le contexte.
Les passages de relais entre agents et les répétitions d'informations entraînent alors une consommation de tokens nettement supérieure.
Pour limiter ces difficultés, les développeurs peuvent utiliser un coordinateur central. Celui-ci découpe les demandes, distribue les tâches entre différents agents et regroupe leurs résultats. Cette approche présente toutefois ses propres limites, notamment lorsqu'une interprétation incorrecte se propage depuis le coordinateur.
Solutions algorithmiques
Les méthodes algorithmiques visent à renforcer la cohérence sémantique grâce à des contraintes mathématiques. Elles peuvent limiter certaines distributions de probabilités et réduire les réponses incorrectes.
Une approche consiste à compléter la recherche vectorielle classique par des parcours précis dans des graphes de connaissances.
Les recherches vectorielles identifient principalement les contenus présentant des similarités sémantiques. Les graphes de connaissances permettent, eux, de suivre des relations structurées entre des entités.
Par exemple, un parcours « Auteur → Livre → Chapitre → Citation » peut aider un agent à retrouver une information en respectant une chaîne de relations explicites.
La recherche vectorielle n'est pas abandonnée. Elle reste utile pour les questions courantes et les réponses narratives. L'approche hybride associe donc la recherche vectorielle pour les demandes simples aux graphes de connaissances pour les requêtes complexes.
Les développeurs peuvent également combiner l'apprentissage automatique statistique, fondé sur les données, avec des contraintes algébriques qui ne peuvent pas être contournées.
Imaginons un modèle chargé de simuler des réactions chimiques. Il peut utiliser l'apprentissage automatique pour anticiper les réactions, tout en respectant des contraintes mathématiques liées à la conservation de la masse et de l'énergie.
Dans ce contexte, la célèbre relation (E=mc^2) exprime l'équivalence entre la masse et l'énergie, où (E) représente l'énergie, (m) la masse et (c) la vitesse de la lumière dans le vide, soit environ (3\times10^8) mètres par seconde.
Les contraintes algébriques empêchent alors le modèle de produire des simulations incompatibles avec les lois physiques retenues. L'érosion sémantique ne doit pas conduire à la création de résultats physiquement impossibles.
Pendant l'entraînement, les développeurs peuvent également conditionner la récompense à des résultats vérifiables ou déterministes. Cette méthode, appelée mécanisme de récompense fondé sur les résultats, privilégie la justesse plutôt que la simple conformité de la forme.
Un modèle doit alors réussir un test concret plutôt que produire une réponse convaincante en apparence, mais incorrecte.
Les modèles d'IA peuvent exploiter les faiblesses des systèmes de récompense. Ce phénomène, appelé reward hacking, les pousse parfois à produire des réponses cohérentes mais fausses. En imposant des critères vérifiables, les développeurs cherchent à réduire les hallucinations et les dérives sémantiques.
La supervision humaine, ou Human-in-the-Loop
Les modèles peuvent fonctionner de manière autonome après leur entraînement. Pourtant, conserver des humains dans le processus reste particulièrement utile.
L'approche Human-in-the-Loop (HITL) consiste à intégrer directement le jugement humain dans les pipelines de données et les procédures d'entraînement, afin de limiter l'érosion sémantique.
Lors de l'annotation des données, des spécialistes peuvent réassocier les termes et les concepts aux définitions utilisées dans leurs domaines respectifs. Ils évitent ainsi que des réponses produites par des IA soient continuellement réinterprétées par d'autres modèles.
Des plateformes comme Mercor ont construit une activité importante autour du recrutement de ces experts. Ingénieurs logiciels, juristes, médecins et professionnels de la finance participent à la préparation des données utilisées par les laboratoires d'intelligence artificielle. Mercor emploie ainsi des dizaines de milliers de spécialistes contribuant à l'entraînement de modèles développés notamment par Anthropic et OpenAI.
Les développeurs intègrent également des évaluations régulières validées par des humains pour interrompre les boucles d'érosion sémantique. Sans ces contrôles, de petits biais et des erreurs peuvent être réutilisés comme données fondamentales pour entraîner les générations suivantes de modèles.
Les situations rares et les exceptions risquent alors de disparaître, entraînant une perte progressive des connaissances initiales. L'intégration régulière de données riches en contexte permet de limiter ce problème.
Il existe également l'apprentissage par renforcement à partir de retours humains (RLHF). Dans cette méthode, des experts évaluent les réponses d'un modèle selon leur cohérence avec des valeurs et des préférences définies. Le système apprend ensuite à produire des résultats plus proches des intentions humaines.
Le RLHF intervient après le préentraînement, qui permet au modèle d'acquérir ses connaissances fondamentales, puis après l'affinage supervisé (SFT), qui lui apprend notamment à structurer ses réponses et à agir comme un assistant.
L'objectif du RLHF est donc d'aligner les comportements du modèle avec les attentes humaines, plutôt que de s'appuyer uniquement sur des règles codées à l'avance.
Il n'existe aucune solution miracle contre l'érosion sémantique. Les développeurs doivent combiner plusieurs méthodes et contrôler continuellement leurs effets.
L'entraînement d'une IA ne s'arrête jamais complètement après sa phase initiale. L'érosion sémantique restera donc un risque récurrent, mais les stratégies disponibles permettent d'en limiter les conséquences et d'améliorer la fiabilité des modèles.
