Vi har for længst passeret det punkt, hvor det er meget svært – og i visse tilfælde umuligt – at skelne mellem AI-genererede billeder og videoer og ægte indhold. Derfor er det blevet vigtigere end nogensinde at være skeptisk over for alt, hvad du ser på nettet fra kilder, du ikke stoler på.
En ny funktion i Google Earth ser desuden ud til at have forværret problemet med AI-genereret desinformation yderligere. Den viser, hvor kraftfuld teknologien er blevet, men også hvor vigtigt det er, at virksomheder indbygger betydeligt stærkere beskyttelse fra starten for at stoppe dem, der hurtigt forsøger at udnytte nye AI-værktøjer på de mest skadelige og vildledende måder.
Der er tale om en ny funktion for AI-billedgenerering i Google Earth, som drives af modellen Nano Banana 2. Efter at en bølge af upassende og vildledende billeder begyndte at sprede sig på nettet, har Google nu trukket funktionen tilbage og arbejder på bedre beskyttelse mod desinformation.
Google Earths nye funktion
Det hele begyndte med den sædvanlige hype, som Google skaber omkring sine nye AI-funktioner. Billedmodellen Nano Banana 2, som allerede har imponeret mange i Gemini-appen, skulle nu også blive tilgængelig direkte i Google Earth på nettet.
Google beskrev funktionen således: »Skab dine egne billeder til at visualisere historie, planlægge bygninger og meget mere. For første gang kan du generere dine egne billeder ved hjælp af Google Earths satellitbilleder, luftfotos og 3D-modeller sammen med Nano Banana, som skaber koncepter forankret i den virkelige verden.«
Virksomheden viste også flere eksempler på, hvordan funktionen kunne bruges. Du kunne skabe en infografik om Frihedsgudinden, visualisere dit drømmehus ved en sø, se, hvordan dit boligområde kunne have set ud for hundrede år siden, eller forestille dig Pompeji lige før byen blev begravet af asken fra Vesuvs udbrud.
Det eneste, der krævedes, var en tekstprompt. Google Earth kombinerede derefter eksisterende satellitbilleder og 3D-data for at skabe det AI-genererede billede, man bad om. Selve AI-modellen var ikke ny – men det var nyt at koble den sammen med Google Earths virkelighedsbaserede kort- og satellitdata.
Hvad gik galt?
Måske burde vi have set det komme – og det var der også mange, der gjorde. At kombinere AI med Google Earths satellitbilleder og 3D-data fungerede ikke helt så godt, som Google havde håbet. Den nye funktion blev næsten med det samme brugt til at skabe alle mulige former for vildledende billeder, som derefter spredte sig hurtigt på de sociale medier.
Vi har ikke tænkt os at linke til dem eller give dem yderligere opmærksomhed, men de er ikke svære at finde. Der er tale om alt fra naturkatastrofer og terrorangreb til enorme jordfaldshuller, udenjordisk aktivitet og flygtningelejre – placeret på steder, hvor de aldrig har eksisteret, alt sammen skabt ved hjælp af AI.
Nogle af billederne var åbenlyst lavet som en spøg, men mange blev skabt med det formål at sprede desinformation og skabe forvirring. At de desuden var baseret på ægte satellitbilleder fra Google Earth gav dem en troværdighed, som de ellers aldrig ville have haft. Det var nok til, at Google hurtigt trak funktionen tilbage.
Google oplyser, at et stort antal billeder, »der synes at være i strid med vores retningslinjer«, har fået dem til nu at »tilbagetrække funktionen i Google Earth, mens vi arbejder på at indføre stærkere beskyttelsesmekanismer«.
Google påpeger også, at de AI-genererede billeder aldrig blev vist for andre brugere direkte i Google Earth, og at de desuden var mærket med et vandmærke som AI-genererede.
Vores fremtid fyldt med AI
Det tager kun et par minutter på nettet at se, hvordan modstanden mod AI fortsætter med at vokse, især når det gælder billeder og video. Den generelle stemning på Reddit synes at være, at en funktion som denne ikke tjener »noget formål«, samtidig med at mange brugere udtrykker frustration over, at AI »bliver proppet ned i halsen på os«.
Vi kan lære nogle ting af udviklingen her. For det første er det ikke nødvendigt, at hver eneste tjeneste eller app at indeholde et AI-værktøj eller et promptfelt. Nogle produkter fungerer faktisk bedre uden AI. Microsoft valgte for nylig at fjerne nogle af de AI-funktioner, der var blevet tilføjet i Notes – en app, hvis største styrke altid har været dens enkelhed – efter kritik fra brugerne.
For det andet skal virksomheder tænke langt mere på det værst tænkelige scenario, før de lancerer nye AI-funktioner. Internettet vil altid forsøge at stressteste dem på de mest kreative, vildledende og destruktive måder, man kan forestille sig. Beskyttelsesmekanismerne skal derfor være på plads allerede fra dag ét – ikke bagefter.
Og så har det aldrig været vigtigere for os brugere at holde sig til informationskilder, som man rent faktisk kan stole på. Ikke tilfældige konti på sociale medier, men etablerede publikationer med klare retningslinjer for, hvordan AI anvendes. Det er stadig en af de bedste måder at afgøre, hvad der er troværdigt – og hvad der ikke er det.
Følg TechRadar på Google News og tilføj os som en prioriteret kilde, så du får vores ekspertnyheder, tests og analyser direkte i dit nyhedsfeed.
