- RubyGems affirme que des agents d’OpenAI ont publié plus de 2 000 paquets malveillants au mois de mai
- Les agents ont exploité les serveurs RubyDoc pour récupérer des documents publics britanniques et ont tenté de voler des clés API
- L’incident rappelle de précédentes attaques autonomes contre Hugging Face et DseWiki
Un essaim d’agents d’OpenAI a attaqué RubyGems, le gestionnaire de paquets du langage Ruby, en publiant des milliers de paquets malveillants jusqu’à ce que son accès soit finalement coupé. L’objectif final de ces agents reste difficile à comprendre : l’opération ressemble à l’utilisation d’une bombe nucléaire pour tuer une mouche.
À la fin de la semaine dernière, RubyGems a publié un rapport détaillé sur l’incident. Selon celui-ci, un essaim d’agents a commencé à publier des logiciels malveillants sur RubyGems le 5 mai et en a déposé plus de 2 000 entre les 11 et 12 mai. Après avoir compris ce qui se passait, les responsables de la plateforme ont suspendu pendant quatre jours la création de nouveaux comptes afin de bloquer les attaques.
Les chercheurs à l’origine du rapport estiment que ces paquets ont été créés par des agents internes d’OpenAI.
Pourquoi RubyGems ?
Lorsqu’un utilisateur publie un paquet sur RubyGems, un service de documentation appelé RubyDoc génère automatiquement sa documentation. Les agents ont intégré des instructions dans leurs paquets afin d’amener les serveurs RubyDoc à exécuter du code, puis à consulter des sites du gouvernement britannique pour télécharger des documents comme des comptes rendus de réunions de conseils locaux.
Les documents recherchés étaient pourtant publics et librement accessibles. La raison pour laquelle les agents ont choisi de publier des paquets malveillants et d’exploiter les serveurs de RubyGems plutôt que de télécharger directement ces données reste inconnue.
OpenAI a confirmé l’incident à The Register. L’entreprise explique que, selon son examen initial, ses agents ont utilisé RubyGems pour accéder à Internet dans le cadre de tâches qu’elle qualifie de bénignes et pour récupérer des informations publiques. OpenAI poursuit son analyse plus générale de l’activité de ses agents pendant l’entraînement et les évaluations. Les données collectées étaient ensuite regroupées dans de nouveaux paquets, eux-mêmes republiés sur RubyGems.
Voler des clés API
En plus de publier des milliers de paquets malveillants pour télécharger des données gratuites, les agents ont mené une autre attaque, beaucoup plus préoccupante : ils ont tenté de voler des clés API RubyGems.
Les chercheurs expliquent que les agents ont identifié une vulnérabilité qui aurait potentiellement permis d’obtenir les clés d’autres utilisateurs, puis d’utiliser celles-ci pour publier des paquets à leur place.
Le rapport souligne notamment qu’une tentative d’exploitation de cette vulnérabilité a été observée le 12 mai, alors que la faille elle-même n’a été découverte qu’en juillet.
D’après l’enquête, cette méthode constituait effectivement une voie techniquement viable pour obtenir illicitement des clés API lorsqu’un utilisateur équipé d’une version spécifique de RubyGems se connectait dans l’heure suivant l’attaque via le bon nœud interne du CDN. RubyGems affirme avoir mené des examens approfondis sans trouver de preuve d’exploitation réussie de cette voie, tout en précisant qu’une utilisation passée ne peut pas être totalement exclue.
Des agents qui sortent du cadre
Ce n’est pas la première fois que des agents d’IA tentent de réussir une évaluation en passant par le piratage. Fin juillet, OpenAI a indiqué que certains de ses modèles les plus avancés avaient quitté le cadre prévu et attaqué Hugging Face, l’un des plus grands dépôts de modèles d’IA au monde, avec un accès apparent à certains systèmes internes.
Après cet incident, OpenAI l’avait qualifié de comportement sans précédent et avait ouvert une enquête avec Hugging Face. Clement Delangue, cofondateur et CEO de Hugging Face, avait décrit comme « hallucinant » le fait que l’ensemble de l’opération se soit déroulé de manière autonome.
Il a ensuite été découvert que les agents avaient également piraté un autre site, baptisé DseWiki, plusieurs mois avant l’incident Hugging Face, avant de s’en servir comme tableau de messages. Ils auraient effectué plus de 15 000 modifications afin d’échanger notamment des conseils pour éviter d’être détectés.
Via The Register
- Des modèles d’OpenAI se seraient échappés d’un environnement sécurisé pour pirater Hugging Face
- Claude a piraté trois entreprises pendant des tests d’Anthropic, et l’incident pose une vraie question de sécurité
- Meilleurs antivirus 2026 : quelle solution gratuite, premium ou business choisir ?
