Los trabajadores de Samsung han filtrado involuntariamente datos de alto secreto mientras usaban ChatGPT para ayudarles en sus tareas.
La empresa permitió a los ingenieros de su división de semiconductores utilizar el programa de IA para ayudarles a solucionar problemas con su código fuente. Pero al hacerlo, los trabajadores introdujeron datos confidenciales, como el propio código fuente de un nuevo programa, notas de reuniones internas y datos relativos a su hardware.
El resultado es que, en poco menos de un mes, se registraron tres incidencias de empleados que filtraron información confidencial a través de ChatGPT. Dado que ChatGPT conserva los datos de entrada de los usuarios para seguir entrenándose, estos secretos comerciales de Samsung están ahora en manos de OpenAI, la empresa madre del servicio de IA.
Perdidos en la IA
Como respuesta, Samsung Semiconductor está desarrollando su propia IA para uso interno de los empleados, pero sólo pueden usar instrucciones de un tamaño de hasta 1024 bytes como mucho.
En uno de los casos mencionados, un empleado pidió a ChatGPT que optimizara las secuencias de prueba para identificar fallos en los chips, lo cual es confidencial. Sin embargo, hacer que este proceso sea lo más eficiente posible tiene el potencial de ahorrar a las empresas de chips un tiempo considerable en las pruebas y la verificación de los procesadores, con la consiguiente reducción de costes.
En otra ocasión, un empleado utilizó ChatGPT para convertir sus notas de reuniones en una presentación, cuyo contenido obviamente no era algo que a Samsung le hiciera gracia que personas ajenas a la empresa conocieran.
A raíz de estos incidentes, Samsung Electronics envió una advertencia a sus trabajadores sobre los peligros potenciales de filtrar información confidencial, afirmando que esos datos son imposibles de recuperar, ya que ahora están almacenados en los servidores pertenecientes a OpenAI. En la industria de los semiconductores, donde la competencia es feroz, cualquier tipo de filtración de datos podría suponer un desastre para la empresa en cuestión.
No parece que Samsung tenga ningún recurso para solicitar la recuperación o eliminación de los datos sensibles que OpenAI tiene ahora en su poder. Algunos han argumentado que este mismo hecho hace que ChatGPT no cumpla con el GDPR de la UE, ya que este es uno de los principios fundamentales de la ley que rige cómo las empresas recopilan y utilizan los datos. También es una de las razones por las que Italia ha prohibido el uso de ChatGPT en todo el país.
