Vi har sedan länge passerat den punkt där det är mycket svårt – och i vissa fall omöjligt – att skilja AI-genererade bilder och videor från äkta innehåll. Därför har det blivit viktigare än någonsin att vara skeptisk till allt du ser på nätet från källor du inte litar på.
En ny funktion i Google Earth verkar dessutom ha gjort problemet med AI-genererad desinformation ännu större. Den visar hur kraftfull tekniken har blivit, men också hur viktigt det är att företag bygger in betydligt starkare skydd från början för att stoppa dem som omedelbart försöker använda nya AI-verktyg på de mest skadliga och vilseledande sätten.
Funktionen i fråga är AI-bildgenerering i Google Earth, som drivs av modellen Nano Banana 2. Efter att en våg av olämpliga och vilseledande bilder började spridas på nätet har Google nu dragit tillbaka funktionen medan företaget arbetar med bättre skydd mot desinformation.
Google Earths nya funktion
Allt började med den sedvanliga hajpen som Google bygger upp kring sina nya AI-funktioner. Bildmodellen Nano Banana 2, som redan imponerat på många i Gemini-appen, skulle nu även bli tillgänglig direkt i Google Earth på webben.
Google beskrev funktionen så här: "Skapa egna bilder för att visualisera historia, planera fastigheter och mycket mer. För första gången kan du generera egna bilder med hjälp av Google Earths satellitbilder, flygbilder och 3D-modeller tillsammans med Nano Banana, som skapar koncept förankrade i den verkliga världen."
Företaget visade också flera exempel på hur funktionen kunde användas. Du kunde skapa en infografik om Frihetsgudinnan, visualisera ditt drömhus vid en sjö, se hur ditt bostadsområde skulle kunna ha sett ut för hundra år sedan eller föreställa dig Pompeji precis innan staden begravdes av askan från Vesuvius utbrott.
Det enda som krävdes var en textprompt. Google Earth kombinerade sedan befintliga satellitbilder och 3D-data för att skapa den AI-genererade bild du efterfrågade. Själva AI-modellen var inte ny – men att koppla samman den med Google Earths verklighetsbaserade kart- och satellitdata var det.
Vad gick fel?
Kanske borde vi ha sett det komma – och det var det också många som gjorde. Att kombinera AI med Google Earths satellitbilder och 3D-data fungerade inte riktigt så bra som Google hade hoppats. Den nya funktionen började nästan omedelbart användas för att skapa alla möjliga typer av vilseledande bilder, som sedan spreds snabbt i sociala medier.
Vi tänker inte länka till dem eller ge dem ytterligare uppmärksamhet, men de är inte svåra att hitta. Det handlar om allt från naturkatastrofer och terrorattacker till enorma slukhål, utomjordisk aktivitet och flyktingläger – placerade på platser där de aldrig har existerat, allt skapat med hjälp av AI.
En del av bilderna var uppenbart gjorda som skämt, men många skapades med avsikt att sprida desinformation och skapa förvirring. Att de dessutom byggde på verkliga satellitbilder från Google Earth gav dem en trovärdighet de annars aldrig skulle ha haft. Det räckte för att Google skulle dra tillbaka funktionen.
Google säger att en stor mängd bilder "som verkar bryta mot våra riktlinjer" har gjort att företaget nu "rullar tillbaka funktionen i Google Earth medan vi arbetar med att införa starkare skyddsmekanismer".
Företaget påpekade också att de AI-genererade bilderna aldrig visades för andra användare direkt i Google Earth och att de dessutom var vattenmärkta som AI-genererade.
Vår AI-fyllda framtid
Det räcker med några minuter på nätet för att se hur motståndet mot AI fortsätter att växa, särskilt när det gäller bilder och video. Den allmänna stämningen på Reddit verkar vara att en funktion som den här fyller "noll syfte", samtidigt som många användare uttrycker frustration över att AI "trycks ner i halsen på oss".
Det finns flera tydliga lärdomar att dra av det som hänt. För det första behöver inte varje tjänst eller app innehålla ett AI-verktyg eller en promptruta. Vissa produkter fungerar faktiskt bättre utan AI. Microsoft valde nyligen att backa från några av de AI-funktioner som lagts till i Anteckningar – en app vars största styrka alltid har varit dess enkelhet – efter kritik från användarna.
För det andra måste företag tänka betydligt mer på värsta tänkbara scenario innan de lanserar nya AI-funktioner. Internet kommer alltid att försöka stresstesta dem på de mest kreativa, vilseledande och destruktiva sätten som går att tänka sig. Skyddsmekanismerna måste därför finnas på plats redan från dag ett – inte efteråt.
Slutligen har det aldrig varit viktigare att hålla sig till informationskällor som faktiskt går att lita på. Inte slumpmässiga konton i sociala medier, utan etablerade publikationer med tydliga riktlinjer för hur AI används. Det är fortfarande ett av de bästa sätten att avgöra vad som är trovärdigt – och vad som inte är det.
Följ TechRadar på Google News och lägg till oss som en prioriterad källa för att få våra expertnyheter, tester och analyser direkt i ditt flöde.
