LinkedIn vrimler med falske AI-genererede profiler

Linkedin
(Foto: Pixabay)

Misinformation på nettet antager forskellige former – fra falske eller skæve fakta, der præsenteres som sandheden, til maskingenererede fotos og videoer, der kan bruges til en række uetiske og skadelige formål. Nu har to Stanford-forskere fundet udbredt brug af falske Linkedin-konti oprettet med kunstigt intelligens-genererede (AI) profilbilleder.

Disse profiler er rettet mod rigtige brugere i et forsøg på at øge interessen for visse virksomheder, før de videregiver de vellykkede kundeemner til en rigtig sælger. Det skriver mobil.nu

Forskerne fandt ud af, at bots, der bruger AI-genererede ansigter – op til 1.000 falske profiler – bliver udnyttet til at skabe falsk buzz omkring nogle virksomheder på LinkedIn. Det skriver The Register.

Det sker ved, at en bot med et AI-genereret profilbillede kontakter en intetanende Linkedin-bruger, og hvis målet viser interesse, bliver de sendt videre til en ægte sælger, som fortsætter samtalen.

Virksomheder bruger falske profiler som disse til at ramme potentielle kundeemner uden at skulle bruge rigtige salgsmedarbejdere og for at undgå at ramme grænserne for Linkedin-beskeder. Det blev konstateret, at mere end 70 virksomheder var opført som arbejdsgivere af falske profiler. Nogle virksomheder skulle have hyret eksterne marketingfolk til at hjælpe med salget, men at de ikke havde godkendt brugen af AI-genererede fotos, og at de var overraskede over disse fund.

De to forskere gjorde opdagelsen, efter at den forsker modtog en besked fra en profil tilhørende en “Keenan Ramsey”. I første omgang lignede det en normal salgstale fra et softwarefirma, men det stod hurtigt klart, at Ramsey var en fiktiv person – det falske profilbillede indeholdt flere røde flag, som for eksempel en usædvanlig central placering af øjnene, kun én ørering, og dele af håret var sløret i baggrunden.

Efter at det AI-genererede profilbillede viste sig at være en forfalskning, begyndte forskeren, der også har studeret russiske desinformationskampagner og anti-vaccinekonspirationer, at undersøge sagen sammen med en kollega. De fandt over 1.000 profiler med AI-genererede billeder.

Brugen af falske profiler er ikke tilladt af Linkedin og virksomhedens politikker gør det klart, at enhver Linkedin-profil skal repræsentere en rigtig person. Det skriver mobil.nu

Michael Kilschow Hansen
Redaktør / Nyhedsjournalist

Michael har arbejdet journalistisk næsten hele sit arbejdsliv - og har i årenes løb beskæftiget sig med online nyhedsmedier, radio, tv, ugeblade, magasiner, musik- og filmjournalistik. Michael har været en del af TechRadar Danmark-teamet siden januar 2021. 

Han eeelsker sin iPhone, sin iPad og sin iMac - men på et ikke-religiøst niveau, og er voldsomt nysgerrig på, hvad andre tech-brands kan tilbyde.

Arbejde og hobby mødes i en smuk fusion, når der skal skrives om streamingtjenester og deres indhold, nye premierer på serier, film og spændende dokumentarprogrammer.