Wie deze week al een keertje op Instagram, Twitter of TikTok heeft gekeken, heeft waarschijnlijk de befaamde AI portretten van Lensa al gespot. Wat je doet, is enkele foto's van jezelf uploaden in de app van Lensa, vervolgens betaal je een vijftal euro's en daarna maakt de app Lensa Magic Avatars op basis van die foto's.
Lensa biedt verschillende formules aan, waaronder een gratis optie die je (na het bekijken van de nodige ads) enkele geoptimaliseerde foto's kan geven. Dat is echter niet de functie die nu veelvuldig wordt gebruikt en gedeeld op sociale media. Deze Lensa Magic Avatars zijn alleen beschikbaar tegen betaling, omdat deze AI-magie veeleisend zou zijn. Je mag dan zelf kiezen of je betaalt voor één lading AI-foto's of meteen een abonnement neemt op de app.
Aan de kopfoto van dit artikel zie je dat wij ons ook hebben laten verleiden door Lensa en deze trend niet wilden missen. 100 van deze foto's hebben ons 7,99 euro gekost, maar was dat het waard? Misschien, maar eigenlijk niet echt.
Lensa Magic Avatars: hoe werkt het?
Zoals vermeld, is de Lensa-app gratis beschikbaar op iOS en Android. Als je de app opent, krijg je een abonnementsformule voorgeschoteld die je op elk moment kunt opzeggen. We zijn gelukkig slim genoeg om geen abonnement af te sluiten bij een app die we maar één keer gaan gebruiken.
Tik vervolgens op de Magic Avatar-knop onderaan en de app zal je vragen om te betalen voor een bepaald aantal foto's. Je kan voor 50, 100 of 200 foto's gaan en het bedrag wordt natuurlijk hoger naarmate je meer foto's wilt. Elke lading foto's bestaat ook uit verschillende stijlen en er is telkens een vast aantal foto's per stijl. Zo betaal je 4,69 euro voor 50 foto's in 10 stijlen met 5 foto's per stijl. Voor 6,99 euro heb je ook 10 stijlen, maar dan wel 10 foto's per stijl. Het pakket van 200 foto's kost tot slot 9,49 euro en geeft je 20 stijlen met 10 foto's per stijl.
Vragen over de Lensa Magic Avatars
De prijs per foto daalt naarmate je meer foto's laat genereren, dus je kan zelf beslissen hoeveel kansen je de AI wil geven. Voor onze lading van 100 Lensa Magic Avatars moesten we trouwens 20 minuten wachten.
Ook lang niet alle foto's zijn perfect en we merkten dat er vooral problemen waren met de correcte weergave van handen. Soms hadden we een extra vinger, een vinger te weinig, een misvormde hand, vijf gebroken vingers... Je snapt het wel.
Om te weten wat er precies schuilgaat achter de app, stelden we de volgende vragen aan Prisma Labs, ontwikkelaar van Lensa.
- Bewaren jullie de geüploade foto's? Indien ja, zijn ze beveiligd?
- Wanneer zijn de Magic Avatars gelanceerd?
- Hoe wordt de AI gebruikt om de beelden te maken?
- Hoeveel gebruikers hebben hun foto's al geüpload?
- Waarom wordt het abonnement opgedrongen als je ook kan betalen voor een lading foto's?
- Hoe gaan jullie om met de vragen rond het uploaden van foto's zonder de toestemming van de personen op de foto?
- Weten jullie of bepaalde beelden gebruikt worden om seksuele content te maken?
Al deze vragen zijn van toepassing op elke AI-beeldgenerator. Hoewel de beelden altijd indrukwekkend zijn, weten we heel weinig over hoe de AI's werken. Sommige AI's hebben slechts een regeltje tekst nodig om een reeks beelden uit te spuwen.
Het zware werk achter Lensa's Magic Avatars wordt uitgevoerd door het gratis, open-source platform Stable Diffusion. Nu is dit zo'n platform dat hun AI mogelijk getraind heeft met beelden van kunstenaars zonder daarvoor toestemming te vragen.
De grootste vraag is wat er gebeurt met de beelden die we zelf uploaden. Hoe weten we bijvoorbeeld dat de beelden niet worden gebruikt om de AI verder te trainen? De app controleert ook op geen enkele manier of de foto's wel van jou zijn. Je zou foto's van een willekeurig persoon in de app kunnen stoppen zonder dat zij hier iets van weten.
Waar gaan onze originele afbeeldingen eigenlijk heen als Lensa's werk klaar is? Er staat nergens of Lensa ze achteraf verwijdert, dus we gaan ervan uit dat ze ergens bewaard worden... hopelijk met de nodige beveiliging.
De reactie van Prisma Labs
Hoewel Prisma Labs niet exact heeft geantwoord op bovenstaande vragen, gaven ze wel nuttige informatie in hun reactie.
Over de vraag wat Lensa met onze beelden doet, schrijft Prisma Labs dat ze worden verwijderd van de servers zodra de verwerking is voltooid. De FAQ zegt echter ook het volgende:
"Wij slaan avatars op zolang het nodig is om onze gebruikers de dienst te verlenen. Let op, er wordt momenteel gewerkt aan een nieuwe functie waarmee gebruikers hun avatars definitief van onze servers kunnen verwijderen."
Jouw eigen foto's zijn dus weg, maar de afbeeldingen die de AI van Lensa heeft gemaakt niet. Die staan nog steeds op de servers van Prisma Labs. Over de codering of beveiliging van de servers en de opgeslagen afbeeldingen vinden we niets terug.
De FAQ gaat niet heel diep in op de rechtmatige eigenaar van afbeeldingen: de afbeeldingen die je uploadt moeten van jezelf zijn of je moet er recht op hebben. Belangrijker is dat Prisma Labs toevoegt: "Het opzettelijke gebruik van de app om expliciete inhoud te creëren is absoluut verboden door onze gebruiksvoorwaarden en verplicht Lensa-gebruikers om aan die eis te voldoen."
Het is niet duidelijk hoe Prisma Labs die specifieke regel controleert. De volgende opmerking van het bedrijf is ook niet bepaald positief: "Helaas hebben al deze inspanningen de AI nog niet absoluut veilig gemaakt voor bevooroordeelde inhoud en expliciete beelden. Daarom bepalen we dat het product niet bedoeld is voor gebruik door minderjarigen en waarschuwen we gebruikers voor de potentiële inhoudelijke risico's."
Twijfelde je nog of je de app wil gebruiken? We hebben hem natuurlijk zelf gebruikt, dus het zou enigszins hypocriet zijn om het volledig af te raden. Anderzijds hadden we misschien eerst Prisma Labs moeten contacteren voor we onze selfies naar hun AI stuurden. Je hebt nu wel de nodige informatie om een weloverwogen beslissing te nemen.
