L’agent de programmation Grok d’Elon Musk expose des milliers d’applications et des données confidentielles

A laptop on an orange background showing the xAI Grok logo
(Crédit photo: xAI)

  • Des chercheurs ont découvert que de nombreuses applications Grok Build étaient exposées à cause de paramètres de partage peu sécurisés et d’adresses facilement repérables
  • Des milliers d’applications accessibles divulguaient des données professionnelles sensibles, des dossiers médicaux, des mots de passe et des documents internes
  • SpaceXSI a corrigé le problème après avoir été alerté, mettant en lumière les risques de sécurité des plateformes de création d’applications par IA

Grok Build, un agent de programmation reposant sur l’intelligence artificielle développé par SpaceXSI, l’entreprise d’Elon Musk, a été surpris en train d’exposer une quantité considérable de données confidentielles. En cause, une mauvaise configuration apparente des paramètres de publication des applications créées sur la plateforme.

SpaceXSI, née de la fusion entre SpaceX et xAI, propose un produit baptisé Grok Build. Celui-ci permet de créer des applications web en décrivant simplement ses besoins dans une interface de conversation. Sans écrire une seule ligne de code, les utilisateurs peuvent obtenir une application en quelques minutes et la publier directement depuis cette interface. Chaque application reçoit une adresse unique au format <nom>.grok.me, le nom étant généralement constitué de quatre mots aléatoires. Cette approche constitue une forme de protection de la confidentialité, censée rendre les adresses difficiles à deviner.

Mais selon les chercheurs en sécurité de Claroc, ces adresses peuvent être retrouvées grâce aux services de DNS passif, qui collectent et indexent les noms de domaine observés dans le trafic DNS. Autrement dit, n’importe qui peut retrouver une application publiée, même si son créateur n’a jamais communiqué son lien. Comme l’explique Claroc dans son rapport, les chercheurs ont précisément utilisé cette méthode et identifié 43 601 adresses appartenant au domaine grok.me.

Des applications laissées sans protection

Retrouver l’application d’un autre utilisateur ne devrait pourtant pas poser de problème majeur. Après tout, ces applications sont protégées par un mot de passe, non ? En réalité, ce n’est pas le cas.

Les chercheurs ont constaté que presque toutes les applications, soit 35 578 ou 94,7 % selon leur rapport, étaient accessibles sans authentification. Les données stockées ou générées pouvaient donc être consultées très facilement. L’enquête a ensuite révélé une lacune importante : lors de la publication d’une application, Grok Build propose trois options de confidentialité, « Toute personne disposant du lien », « Utilisateurs invités » et « Vous uniquement ». Le fonctionnement ressemble à celui de Google Docs lors du partage d’un document.

Le problème, selon Claroc, est que l’option « Toute personne disposant du lien » est sélectionnée par défaut. Cela laisse penser que de nombreux utilisateurs créant des applications avec Grok ne prêtent pas suffisamment attention aux paramètres de confidentialité et de partage.

Mais accéder à une application ne signifie pas forcément provoquer une catastrophe de sécurité. Il ne s’agit après tout que d’une application, non ? Là encore, la réalité est différente. Si la plupart des applications étaient relativement inoffensives, comme des jeux, des calculatrices ou des pages d’accueil, une sur dix contenait des informations professionnelles sensibles ou internes. Dans 2 % des cas, les données exposées étaient suffisamment graves pour recevoir une classification de risque élevée ou critique.

Des informations confidentielles exposées

Claroc a notamment découvert un annuaire d’hôpital contenant plus de 3 500 noms, un document de transmission d’informations en soins intensifs comportant des données de patients et une base de recrutement d’une entreprise de transport routier répertoriant plus de 1 000 personnes. Les chercheurs ont également trouvé une feuille de temps des salariés dont le code téléchargeable contenait 18 comptes avec des mots de passe en clair, y compris des identifiants administrateur.

Même SpaceXSI exposait ainsi ses propres informations confidentielles. Les chercheurs ont identifié 24 applications ouvertes contenant des plans d’intégration des nouveaux salariés, des listes de noms d’employés, une carte des territoires commerciaux couvrant près de 600 comptes stratégiques et leurs perspectives de vente, ainsi que des plans médias et des présentations destinées aux annonceurs. Ces documents comprenaient notamment des grilles budgétaires, dont une destinée à une agence fédérale américaine et portant la mention « confidentiel », sept rapports de campagne pour des annonceurs du monde entier, et de nombreuses autres informations. Une seule application, contenant des archives d’études de mesure publicitaire pour un service de streaming, demandait un mot de passe. Toutes les autres étaient accessibles librement.

Claroc a également cherché à déterminer si ces applications permettaient de modifier les données exposées. Pour vérifier cette hypothèse, les chercheurs ont créé deux applications. La première autorisait les visiteurs non authentifiés à modifier une base de contacts partagée. La seconde accordait automatiquement l’accès à toute personne se connectant avec un compte Google, même si elle ne faisait pas partie de l’équipe.

Les chercheurs ont informé SpaceXSI de leurs découvertes le 8 novembre. Deux jours plus tard, toutes les applications appartenant à SpaceXSI étaient devenues inaccessibles. Ils poursuivent désormais l’examen de la liste et préviennent les autres personnes concernées.

Via Ars Technica



Sead is a seasoned freelance journalist based in Sarajevo, Bosnia and Herzegovina. He writes about IT (cloud, IoT, 5G, VPN) and cybersecurity (ransomware, data breaches, laws and regulations). In his career, spanning more than a decade, he’s written for numerous media outlets, including Al Jazeera Balkans. He’s also held several modules on content writing for Represent Communications.

Avec la contribution de