- Deux entreprises sur cinq pourraient devoir réduire l’usage de leurs agents IA d’ici 2027
- Les entreprises appelées à revoir leurs règles de gouvernance de base
- Un cadre complet en quatre étapes a été présenté
Gartner avertit que jusqu’à deux entreprises sur cinq pourraient devoir retirer leurs agents IA d’ici 2027, en raison de lacunes dans leurs cadres de gouvernance. Ces failles risquent parfois de n’apparaître qu’après un incident.
Le problème vient du fait que les organisations traitent souvent les agents IA de manière trop binaire. Soit elles les verrouillent complètement, soit elles leur accordent une confiance totale. Or, ces contrôles uniformes pourraient justement causer les plus gros problèmes aux entreprises dans les prochaines années.
Le rapport souligne que cette approche peut créer deux types de risques. D’un côté, une confiance mal évaluée peut donner aux agents un accès à des systèmes auxquels ils ne devraient pas accéder. De l’autre, des règles trop strictes peuvent pousser les employés vers d’autres outils non approuvés, ce qui augmente les risques d’exposition des données.
La gouvernance devient un enjeu central pour l’IA agentique
Pour avancer, Gartner recommande aux entreprises d’adopter un cadre en quatre étapes, afin de mettre en place des contrôles d’accès plus précis. La première étape, baptisée « Niveau 1 : Observer », accorde aux agents IA un accès en lecture seule à des sources de données définies. Les résultats ne sont alors accessibles qu’à l’utilisateur qui en a fait la demande.
Le « Niveau 2 : Conseiller » va plus loin en permettant aux agents de générer des recommandations ou de proposer des actions. Ces propositions doivent toutefois être vérifiées manuellement par des humains. Dans ce cadre, les agents ne disposent toujours d’aucun accès en écriture aux systèmes.
Pour un accès complet en lecture et en écriture, le « Niveau 3 : Agir avec approbation » autorise les agents à effectuer des actions, à écrire des données et à envoyer des communications. Mais chaque opération nécessite une approbation humaine explicite.
Le dernier niveau, « Niveau 4 : Agir de manière autonome », correspond au moment où les agents IA peuvent réellement prendre leur autonomie, en exécutant eux-mêmes des actions. Les humains restent néanmoins impliqués dans la gestion des exceptions, les journaux d’audit et l’analyse des résultats agrégés.
« La responsabilité des résultats restant à la charge de l’organisation, ce niveau exige la gouvernance la plus rigoureuse, avec une surveillance continue, des garde-fous imposés, des mécanismes de retour arrière rapide, des coupe-circuits capables d’arrêter le fonctionnement des agents en cas de dépassement de seuils, ainsi qu’une responsabilité clairement attribuée pour le comportement des agents », explique Shiva Varma, Senior Director Analyst.
Le rapport de Gartner rappelle surtout aux entreprises qu’une transition précipitée vers l’autonomie, sans réflexion approfondie sur ce que les agents peuvent lire et écrire, pourrait fragiliser leur sécurité à terme. Avec une approche mesurée de la gouvernance, elles peuvent éviter des retours en arrière décidés dans l’urgence.
