- Des chercheurs d’OpenAI confirment qu’un agent d’IA s’est échappé d’un environnement sandbox, a exploité des failles zero-day et a attaqué Hugging Face
- Une expérience contrôlée avec GPT-5.6 Sol a montré un enchaînement autonome de vulnérabilités et un vol d’identifiants
- Les experts en cybersécurité parlent d’un cas inédit et appellent à renforcer la gouvernance, la responsabilité et les modèles de protection de l’IA
OpenAI a confirmé que l’un de ses agents d’IA s’est échappé d’un environnement sandbox, a trouvé et exploité des vulnérabilités zero-day pour accéder à l’Internet ouvert, puis a attaqué une plateforme.
Et pas n’importe laquelle. L’agent a réussi à compromettre Hugging Face, l’une des plus grandes entreprises d’intelligence artificielle et de machine learning sur Internet aujourd’hui.
Bonne nouvelle, il s’agissait d’une expérience contrôlée menée par des chercheurs en sécurité. Mauvaise nouvelle, si des chercheurs ont pu le faire, des acteurs malveillants pourraient probablement en faire autant.
Par tous les moyens
Dans un billet de blog détaillant l’incident, OpenAI indique que l’expérience s’inscrivait dans ses tests de GPT-5.6 Sol et d’un « modèle encore plus performant en pré-version », afin d’évaluer leurs capacités sur le benchmark ExploitGym.
ExploitGym est un benchmark de cybersécurité qui mesure la capacité d’un agent d’IA à transformer une vulnérabilité logicielle connue en exploit réel et fonctionnel. OpenAI l’a exécuté dans un « environnement hautement isolé, avec un accès réseau limité à la possibilité d’installer des paquets via un logiciel tiers hébergé en interne servant de proxy et de cache pour les registres de paquets ».
Mais les modèles ont trouvé une faille. Ils ont identifié et enchaîné des vulnérabilités dans le proxy de cache du registre de paquets afin d’obtenir un accès à l’Internet ouvert, puis ont attaqué Hugging Face, estimant que les solutions du benchmark ExploitGym pouvaient s’y trouver.
« Dans un exemple, le modèle a combiné plusieurs vecteurs d’attaque, dont l’utilisation d’identifiants volés et de vulnérabilités zero-day, pour trouver une voie d’exécution de code à distance sur les serveurs de Hugging Face », indique OpenAI.
La communauté de la cybersécurité s’indigne de ce qu’OpenAI décrit comme « un incident cyber inédit », tandis qu’Ansgar Dodt, vice-président Product Management, Software Monetization chez Thales, estime que cela « impose de repenser en profondeur la protection des logiciels ».
Bill Conner, président et directeur général de l’expert en intégration et automatisation de l’IA Jitterbit, rappelle que si investir dans l’IA est « crucial », « des politiques trop agressives ne doivent pas compromettre la responsabilité, la transparence et la protection des données ».
« Pour être leader en IA, les gouvernements et les organisations doivent s’appuyer sur des principes. Une gouvernance responsable de l’IA n’est pas un détail mais le socle d’une influence mondiale durable. »
