- Le filigrane IA vise à permettre de vérifier l’authenticité d’un texte
- Une nouvelle étude conclut qu’il peut également modifier le comportement des LLM, parfois de manière indésirable
- L’AI Act européen pourrait généraliser davantage le marquage malgré ces effets secondaires potentiels
Une nouvelle étude de Lasso révèle que les techniques de filigrane appliquées à l’IA peuvent modifier involontairement le comportement des grands modèles de langage. Les chercheurs ont notamment testé SynthID-Text de Google DeepMind.
Selon les résultats, SynthID-Text peut influencer la décision d’un modèle de refuser ou non une requête dangereuse, sa sensibilité aux injections de prompt, le choix des outils utilisés par un agent d’IA et d’autres comportements.
Pourtant, SynthID-Text et les systèmes comparables ont avant tout pour objectif d’intégrer dans le texte un indicateur lisible par machine permettant de déterminer s’il a été généré par une IA ou écrit par un humain.
Les chercheurs constatent que le filigrane IA peut modifier involontairement le comportement d’un modèle
Lasso conclut que la « procédure de filigrane peut donc affecter aussi bien ce que dit le modèle que ce que fait un agent ». Les chercheurs appellent cet effet secondaire « sampling drift », ou dérive d’échantillonnage.
L’une des principales inquiétudes mises en évidence concerne les décisions de refus. Même en l’absence d’attaque, l’ajout d’un filigrane a modifié le comportement de certains modèles et les a rendus plus disposés à répondre à des requêtes potentiellement dangereuses. Associé à une injection de prompt, le phénomène devient encore plus marqué.
Malgré ces effets inattendus, Anthropic a récemment annoncé que les futures générations de Claude utiliseraient un système de filigrane IA comparable à celui de Google DeepMind. L’entreprise cite notamment les obligations de transparence européennes parmi les raisons de cette évolution. Depuis le 2 août 2026, l’article 50 de l’AI Act impose notamment aux fournisseurs concernés d’ajouter des marquages lisibles par machine permettant de détecter les contenus générés ou manipulés par IA.
Cette généralisation probable du watermarking rend donc les effets observés par Lasso plus importants. Les règles européennes sont déjà applicables depuis le 2 août 2026, avec une période transitoire limitée jusqu’au 2 décembre pour certains systèmes génératifs commercialisés avant cette date.
Lasso recommande finalement aux développeurs de relancer leurs benchmarks, évaluations de sécurité et autres tests chaque fois qu’un système de filigrane est ajouté, que sa configuration change ou qu’une nouvelle clé est utilisée, plutôt que de simplement appliquer le marquage à une configuration existante.
Les chercheurs précisent que ces résultats ne constituent pas un argument contre le watermarking destiné à assurer la provenance des contenus. Ils montrent surtout qu’une réévaluation du comportement du modèle devient nécessaire chaque fois que ce mécanisme évolue.
L’étude apporte enfin un angle relativement nouveau au débat sur les filigranes IA. Jusqu’ici, les recherches se concentraient principalement sur la possibilité d’intégrer un marquage difficile à supprimer et de le détecter de manière fiable. Les conséquences directes sur la sécurité et le comportement des modèles ont été beaucoup moins étudiées.
