Plus tôt cette année, Anthropic annonçait son intention de se conformer aux exigences de l’AI Act européen en rendant les textes produits par ses futurs modèles Claude identifiables comme contenus générés par IA. L’entreprise avait choisi d’étendre cette approche au-delà de l’Union européenne, une décision particulièrement large au regard de l’obligation réglementaire.
OpenAI vient à son tour d’annoncer un système comparable, mais adopte une approche régionale beaucoup plus limitée. Le filigrane concernera uniquement les sorties textuelles éligibles de ChatGPT et Codex produites dans l’Union européenne au lancement. Les utilisateurs britanniques ou américains ne seront donc pas concernés par défaut.
Dans son annonce officielle, publiée le 5 octobre, OpenAI explique que ce filigrane invisible sera progressivement ajouté aux textes éligibles de ChatGPT et Codex dans l’Union européenne au cours des prochaines semaines.
Comment le filigrane sera inséré
Pour intégrer ce marquage, OpenAI utilise une technologie appelée textGrain, qui modifie subtilement les choix de mots réalisés lors de la génération. L’entreprise explique que le système ajoute un signal statistique invisible pouvant ensuite être recherché par un détecteur dédié. Les détails techniques sont publiés dans un rapport consacré à textGrain.
Le principe soulève néanmoins une question importante. Si le choix des mots d’une réponse dépend en partie d’un algorithme destiné à insérer un filigrane plutôt que seulement de la meilleure formulation possible, le texte final peut théoriquement être influencé par cette contrainte. OpenAI affirme toutefois que ses benchmarks sur Astra ne montrent pas de différence significative de performances entre les sorties avec et sans filigrane.
La technologie possède surtout des limites évidentes. Pour identifier un texte marqué avec textGrain, un détecteur spécifique est nécessaire. Celui-ci ne sera pas disponible publiquement au lancement : son accès sera d’abord réservé à des chercheurs et organisations spécialisées approuvés par OpenAI.
Le détecteur indiquera uniquement s’il repère ou non un filigrane OpenAI. Selon l’entreprise, il ne permettra pas d’identifier l’utilisateur, son compte, ses prompts ou ses conversations.
OpenAI reconnaît également les risques de faux positifs et de faux négatifs. C’est précisément l’une des raisons pour lesquelles l’entreprise ne souhaite pas mettre immédiatement cet outil de détection à la disposition de tous.
Une simple case réglementaire à cocher ?
OpenAI reconnaît elle-même que les textes courts ou particulièrement contraints sont plus difficiles à identifier. À un taux de faux positifs fixé à 1 %, le détecteur a repéré le filigrane dans environ 80 % des passages de 200 tokens testés, contre environ 95 % pour des textes de 400 tokens dans certains domaines. L’édition du texte affaiblit également fortement le signal : remplacer 10 % des mots par des synonymes a fait passer la détection d’environ 92 à 66 %, tandis qu’un remplacement de 25 % l’a fait tomber à 17 %.
Ces limites donnent au dispositif l’apparence d’une réponse avant tout destinée à satisfaire les exigences de transparence de l’AI Act. Le règlement impose aux fournisseurs concernés de rendre les contenus générés par IA identifiables d’une manière lisible par machine, et textGrain permet techniquement à OpenAI de répondre à cette obligation.
Le fait que le déploiement reste limité à l’Union européenne au lancement et que le détecteur ne révèle aucune information sur l’utilisateur constitue néanmoins un élément rassurant. La principale interrogation concerne plutôt l’utilité concrète d’un signal que la plupart des utilisateurs ne peuvent pas vérifier eux-mêmes et qui peut être fortement dégradé par une modification relativement limitée du texte.
Le principe reste donc paradoxal : le système change volontairement certains choix de mots de manière invisible afin de créer un filigrane qui peut ensuite être affaibli simplement en éditant le contenu. Pour réellement améliorer la transparence autour des textes générés par IA, la fiabilité de ces mécanismes devra probablement encore progresser.
- Les filigranes IA pourraient rendre les garde-fous des LLM imprévisibles — un problème potentiel pour l’AI Act
- Gemini permet désormais de supprimer le filigrane visible de ses créations IA — voici comment faire
- ChatGPT n’utilise pas une seule IA, et vous ne le voyez même pas
