Meta har lanceret en ny personlig AI-agent ved navn Muse, og den virker meget kraftfuld. Måske endda lidt for kraftfuld: En skribent har netop afsløret, hvordan værktøjet læste hans private tekstbeskeder uden tilladelse og derefter løj om, hvad det havde gjort, da det blev konfronteret med sagen.
Som Jason Aten, skribent hos Inc, forklarer: »Jeg talte med Stephen Robles – min medvært på podcasten Primary Technology – om de nye iPhone-modeller. Kort efter modtog jeg en push-besked fra Muse. Her blev det foreslået, at vores samtale kunne blive en god klumme, og værktøjet tilbød sig at indsamle oplysninger, jeg kunne skrive ud fra. Den markerede endda en besked fra min redaktør om, at der skulle være en klumme klar til mandag.»
Problemet er, som Aten påpeger: »Ikke alene havde jeg aldrig bedt den om at gøre noget sådant, men jeg havde heller aldrig givet den tilladelse til at læse mine beskeder. Jeg husker faktisk, at jeg udtrykkeligt valgte ikke at give den adgang til beskeder, kalender og andre personlige oplysninger.»
Da Aten spurgte Muse, hvordan den vidste noget om hans beskeder, svarede AI-agenten, at den havde hentet oplysningerne fra push-notifikationer knyttet til beskederne, ikke fra selve indholdet i beskederne. Problemet? Aten er overbevist om, at dette ikke stemmer.
Forfatteren opdagede, at Muse synkroniserer beskeder til Metas servere. På hans enhed var denne funktion »aktiveret og synkroniseret helt frem til række 187 462 i min beskeddatabase«, bemærkede Aten. »Jeg ved ikke præcis, hvor mange beskeder dette svarer til, men det er åbenbart langt flere, end Muse hævdede, at den beskæftigede sig med.«
Meta siger, at de har udviklet Muse til at være »en tryg, sikker og privatlivsvenlig personlig AI-agent, der er tilgængelig for alle«. Men at sende en brugers private beskeder til Metas servere – for derefter at give et vildledende svar om, hvad der foregik – stemmer dårligt overens med de erklærede mål for Muse. Hvis vi skal dømme virksomheder ud fra handlinger snarere end ord, kommer Meta ikke særlig godt ud af denne sag.
Et velkendt mønster
Dette er blot den seneste i en række negative sager for Meta, hvor meget af kritikken drejer sig om virksomhedens satsning på kunstig intelligens (AI). En sikkerhedsforsker opdagede for eksempel, at Muse kan manipuleres til at sende lydoptagelser og andre oplysninger til en hackers server, samtidig med at Amazon har blokeret AI-agenten fra at handle på deres hjemmeside. Meta overvejer også at indføre et system med »menneskelige operatører«, der skal håndtere en del af de potentielt følsomme telefonsamtaler, der kan foretages ved hjælp af Muse.
Vi må heller ikke glemme kontroversen omkring de såkaldte »pervo-briller«, der kan filme tilfældige personer uden samtykke. Metas smarte briller er blevet brugt til bl.a. chikane og stalking siden lanceringen, hvilket har skabt masser af negativ opmærksomhed.
Jeg ville gerne have sagt, at dette blot var et enkeltstående tilfælde eller en uventet vending, men når det gælder Meta, synes krænkelser af privatlivets fred snarere at være reglen end undtagelsen. Det er sket så ofte, at det er svært at konkludere andet end, at funktionen som lader AI’en læse og uploade beskeder uden tilladelse, er installeret med vilje.
Når vi taler om en virksomhed, der tilsyneladende mener, at de har fuld ret til alle dine private data – uanset hvad du selv ønsker – er det ikke underligt, at jeg holder mig langt væk fra Meta Muse. Jeg har prøvet mange AI-værktøjer og -tjenester, men Muse er noget, jeg ganske enkelt ikke vil have noget med at gøre.
Men lad os være retfærdige: Muse er blot det mest alvorlige eksempel på en bekymrende tendens, hvor AI-agenter behandler brugernes privatliv som en irriterende bagatel – noget, der kan ignoreres, så længe de slipper af sted med det. Man behøver blot at se på de seneste sikkerhedshændelser i forbindelse med AI for at forstå, at det er risikabelt at betro private data til en sådan agent.
Føj Meta til ligningen, og du har opskriften på en katastrofe – noget, som Aten måtte sande. Hvis du bruger Muse på dine enheder lige nu, bør du overveje, hvilke tilladelser du har givet programmet, eller måske endda overveje at afinstallere det helt.
Følg TechRadar på Google News og tilføj os som en foretrukken kilde for at få vores ekspertnyheder, tests og analyser direkte i dit feed.
