Des employés de Samsung ont involontairement divulgué des données "top secret" alors qu'ils utilisaient ChatGPT pour les aider dans leurs tâches.
L'entreprise avait en effet autorisé les ingénieurs de sa branche semi-conducteurs à utiliser l'IA générative pour les aider à résoudre les problèmes liés à leur code source. Mais ce faisant, les employés ont saisi des données confidentielles, telles que le code source d'un nouveau programme, des notes de réunions internes et des données relatives à leur matériel.
Résultat : trois cas de fuite d'informations sensibles par des employés ont été enregistrés via ChatGPT en un peu moins d'un mois. Étant donné que ChatGPT conserve les données saisies par les utilisateurs pour s'entraîner davantage, ces secrets commerciaux de Samsung sont désormais entre les mains d'OpenAI, l'entreprise à l'origine du service d'intelligence artificielle.
En dehors d'OpenAI
En réponse, Samsung Semiconductor est en train de développer sa propre IA pour l'usage interne des employés, mais ceux-ci ne peuvent utiliser que des invites dont la taille est limitée à 1024 octets.
Dans l'un des cas susmentionnés, un employé avait demandé à ChatGPT d'optimiser les séquences de test pour identifier les défauts des puces, ce qui est confidentiel. Cependant, en rendant ce processus aussi efficace que possible, les entreprises de puces pourraient gagner un temps considérable dans les tests et la vérification des processeurs, ce qui entraînerait également une réduction des coûts.
Dans un autre cas, un employé a utilisé ChatGPT pour convertir des notes de réunion en une présentation, dont le contenu n'était manifestement pas quelque chose que Samsung aurait voulu que des tiers externes connaissent.
À la suite de ces incidents, Samsung Electronics a lancé un avertissement à ses employés sur les dangers potentiels de la fuite d'informations confidentielles, en précisant que ces données sont impossibles à récupérer, car elles sont désormais stockées sur les serveurs appartenant à OpenAI. Dans l'industrie des semi-conducteurs, où la concurrence est féroce, toute fuite de données peut s'avérer désastreuse pour l'entreprise concernée.
Il semble que Samsung n'ait aucun recours pour demander la récupération ou la suppression des données sensibles détenues par OpenAI. Certains ont fait valoir que ce fait même rend ChatGPT non conforme au RGPD de l'UE, étant donné qu'il s'agit de l'un des principes fondamentaux de la loi régissant la manière dont les entreprises collectent et utilisent les données. C'est également l'une des raisons pour lesquelles l'Italie a interdit l'utilisation de ChatGPT dans tout le pays.
