Werknemers van Samsung hebben per ongeluk vertrouwelijke gegevens gelekt door ChatGPT te gebruiken als ondersteuning. Het bedrijf liet ingenieurs van zijn halfgeleidertak de AI bot gebruiken om problemen met hun broncode op te lossen. Maar daarbij voerden de werknemers vertrouwelijke gegevens in, zoals de broncode voor een nieuw programma en gegevens uit interne vergaderverslagen over hun hardware.
Het resultaat is dat er in iets minder dan een maand tijd drie geregistreerde incidenten waren waarbij werknemers gevoelige informatie lekten via ChatGPT. Aangezien ChatGPT inputdata van gebruikers bewaart om zichzelf verder te trainen, zijn deze bedrijfsgeheimen van Samsung nu in handen van OpenAI, het bedrijf achter ChatGPT.
Open(AI) en bloot
Als reactie hierop ontwikkelt Samsung Semiconductor nu zijn eigen interne AI voor intern gebruik door werknemers, maar zij kunnen alleen prompts gebruiken die beperkt zijn tot 1024 bytes.
In een van de bovengenoemde gevallen vroeg een werknemer aan ChatGPT om testreeksen te optimaliseren voor het opsporen van fouten in chips, wat strikt vertrouwelijk zou moeten zijn. Dit proces zo efficiënt mogelijk maken heeft het potentieel om chipbedrijven tijd te besparen bij het testen en verifiëren van processors, wat op zijn beurt tot kostenbesparingen leidt.
In een ander geval gebruikte een werknemer ChatGPT om vergadernotities om te zetten in een presentatie, waarvan de inhoud duidelijk niet bedoeld was voor de buitenwereld. Samsung Electronics waarschuwde zijn werknemers voor de potentiële gevaren van het lekken van vertrouwelijke informatie in de nasleep van de incidenten. Het zei dat dergelijke gegevens onmogelijk terug te halen zijn omdat ze nu zijn opgeslagen op de servers van OpenAI. In de halfgeleiderindustrie, waar de concurrentie moordend is, kan elk datalek een ramp betekenen voor het bedrijf in kwestie.
Het lijkt er niet op dat Samsung de kans heeft om de gevoelige gegevens die OpenAI nu bewaart terug te halen of verwijderen. Sommigen argumenteren door dit vooral dat ChatGPT niet in overeenstemming is met de GDPR-wetgeving van de EU. Dit is namelijk een van de kernbeginselen van de wet die bepaalt hoe bedrijven gegevens verzamelen en gebruiken. Het is ook een van de redenen waarom Italië het gebruik van ChatGPT sinds kort heeft verboden.
