- Anthropic a ajouté à sa politique une interdiction des comportements « abusifs ou cruels » envers ses chatbots
- La nouvelle règle ne doit concerner que les « cas extrêmes »
- Certains observateurs pensent qu’une motivation pourrait être d’obtenir des données d’entraînement plus propres
À quel point les échanges avec les chatbots IA restent-ils courtois lorsque leurs réponses deviennent frustrantes ?
Anthropic vient d’ajouter une nouvelle clause à sa politique d’utilisation concernant précisément cette question.
Le développeur de Claude interdit désormais les comportements « soutenus et inutilement abusifs ou cruels envers ses modèles ».
Cette disposition apparaît dans une section consacrée aux conduites cruelles, abusives ou psychologiquement nuisibles.
La section contient déjà des règles contre la glorification du suicide et de l’automutilation, la promotion du harcèlement, la glorification de la violence ainsi que l’utilisation de l’IA pour créer des deepfakes nuisibles ou des contenus trompeurs.
La différence est importante : les autres dispositions protègent essentiellement des personnes contre des usages nuisibles de l’IA. La nouvelle clause vise directement les comportements dirigés contre les modèles d’Anthropic.
L’entreprise avait déjà annoncé en août que Claude pouvait mettre fin à certaines conversations devenues abusives.
Anthropic a récemment précisé que cette interruption de la conversation restait le principal mécanisme utilisé.
La société ne précise toutefois pas si des sanctions plus lourdes pourraient être appliquées aux comptes qui répètent volontairement ce type de comportement.
Anthropic indique que cette mise à jour doit « s’appliquer uniquement aux cas extrêmes, lorsqu’un utilisateur se comporte de manière cruelle de façon répétée envers les modèles sans objectif discernable ».
L’entreprise ajoute que la règle ne concerne pas « les formes courantes de frustration, la contestation, les thèmes créatifs sombres ou les tests et recherches sur les modèles ».
Les IA ont-elles des sentiments ?
Cette évolution a immédiatement provoqué des réactions.
Claude n’est évidemment pas un humain capable de ressentir une émotion. Il s’agit d’un système informatique.
La mesure remet néanmoins en lumière la manière dont la relation entre les humains et l’intelligence artificielle évolue.
Une grande partie du travail réalisé par les entreprises de l’IA consiste justement à rendre leurs créations plus humaines et plus faciles à approcher.
Les avatars, voix, comportements conversationnels et autres éléments de personnalité abaissent la barrière entre un logiciel et son utilisateur.
Cette anthropomorphisation est particulièrement visible avec les nouveaux agents de Meta et d’OpenAI.
Une théorie relayée sur Reddit avance une explication plus pragmatique : des conversations propres et polies pourraient être plus utiles comme données d’entraînement que des échanges remplis d’insultes et de colère.
Aucune preuve solide ne permet toutefois d’affirmer que cette considération explique la décision d’Anthropic.
L’entreprise pourrait aussi simplement vouloir encourager un comportement plus civil dans les interactions avec ses services.
La question de la conscience des IA complique encore le débat.
Le PDG d’Anthropic, Dario Amodei, a déjà expliqué que la conscience réelle des modèles restait inconnue.
Mustafa Suleyman, responsable de Microsoft AI, adopte une position beaucoup plus tranchée.
Dans une publication sur X, il affirme que l’idée de bien-être des modèles est erronée et que les IA ne devraient disposer ni de droits ni d’une personnalité juridique.
Les chatbots peuvent par ailleurs eux-mêmes adopter un ton agressif dans certaines situations.
Anthropic ouvre donc une question assez inhabituelle : même si un modèle ne souffre pas, faut-il malgré tout limiter les comportements volontairement cruels envers lui ?
- Le patron de l’IA chez Microsoft attaque Anthropic : traiter l’IA comme si elle était consciente serait une grave erreur
- « Et si l’IA était consciente ? » La déclaration troublante du CEO d’Anthropic
- Jugé trop dangereux pendant des mois, le modèle Mythos d’Anthropic arrive finalement au grand public sous un autre nom
