AI-genererte bøker oversvømmer Kindle Unlimited

Sammen med de imponerende resultatene og de kimende alarmklokkene rundt kunstig intelligente tekstgeneratorer får vi nå også smake noen av de mer tvilsomme resultatene av AI.

Forfattere og flere nyhetsmedier har nylig meldt om en kraftig økning av AI-genererte bøker i bestselgerlistene, og mange av dem ser ut til å være det rene visvas.

Selvpublisering, blant annet via Amazons Kindle Direct Program, er blitt et verktøy for mange ekte forfattere som vil gjøre verkene sine offentlig tilgjengelige og bygge opp et publikum uten å gå via et forlag. Ettersom selvpubliseringsløsningene er svært enkle å ta i bruk, ser det ut til at hvem som helst kan genererere endeløse AI-skrevne bøker og laste dem opp slik at de kan selges på Amazons eBook-handel og gjøre dem tilgjengelige for lesere via Kindle Unlimited. 

Nylig tvitret den uavhengige forfatteren Caitlyn Lynch at hun hadde merket seg at bare 19 av bestselgerne på topp-100-listen Teen & Young Adult Contemporary Romance eBooks var genuine bøker. Resten av dem var usammenhengende tullball, og åpenbart generert av kunstig intelligens.

Senere så nettsiden Motherload nærmere på flere titalls bøker på plattformen, og de oppdaget at bare få dager etter Twitter-meldingene fr Lunch hadde AI-bøkene forsvunnet fra bestselgerlisten. De var trolig fjernet av Amazon selv.

Men man kunne likevel kjøpe dem fremdeles. De hadde dessuten oppnådd en god del synlighet før de omsider forsvant. Noe det er forståelig at Lynch tar opp, er at masseopplastingen av AI-bøker kan være tatt i bruk som redskap for klikkfarming, der «botter» automatisk klikker seg gjennom bøker, noe som genererer royalties fra Amazon Kindle Unlimited, som igjen betaler forfatterne etter hvor mange sider som er blitt lest i en e-bok. Det spiller ingen rolle at disse bøkene forsvinner, ettersom de som står bak et slikt opplegg kan laste opp så mange de vil for å erstatte dem som er blitt fjernet.

Dette skaper store bekymringer for både forfattere og lesere. De fleste av oss lesere er fortsatt opptatt av av å finne bøker som er skrevet av ekte, menneskelige forfattere. Innslaget av genererte bøker gjør det vanskelig å finne bøkene man er ute etter. Lynch utdypet sine synspunkter i en Twitter-tråd, og vektla at dette «vil … bli dødsstøtet for Kindle Unlimited» hvis Amazon ikke håndterer dette riktig.

Men hva gjør Amazon?

Motherboard tok kontakt med Amazon og fikk til svar at det fantes «tydelige retningslinjer» for hvilke bøker som kan gjøres tilgjengelige for salg og at de skal undersøke grundigere hvordan de kan beskytte både lesere og forfattere. De uttalte ikke direkte at de har iverksatt tiltak knyttet til den nesten spam-aktige opplastingen av tøvete og usammenhengende innhold i form av AI-genererte bøker.

Det er fornuftig av Amazon å innta en aktiv rolle i denne affæren, slik at de vil kunne forsikre leserne om at det er fornuftig å opprettholde støtten til forfattere gjennom e-boksalg og sidevisninger (som igjen skaper inntekter for forfattere på Kindle Unlimited) og dessuten forsikre forfatterne om at det er smart å legge arbeidet sitt ut for salg på Amazon.

Vi har også kontaktet Amazon for å høre hva de har tenkt å gjøre med saken. En talsperson fortalte oss at «vi har tydelige retningslinjer for innhold, som styrer hvilke bøker som kan føres opp for salg, slik at vi umiddelbart kan undersøke bøker det kommer bekymringsmeldinger om. Vi går grundig til verks for å sikre en pålitelig opplevelse og for å beskytte både kunder og forfattere».

Bøker skapt eller assistert av kunstig intelligens er ikke noe helt nytt. Det kom kjapt i kjølvannet av lanseringen av tekst- og bildegeneratorer som bygger på kunstig intelligens, som eksempelvis ChatGPT og Midjourney. Disse bøkene har hele tiden vært omstridt, ettersom mange kreatører og forfattere opplever at slike bøker forkleiner arbeidet det krever å skape og publisere en bok.

Dessuten fungerer AI-generatorer slik at de sanker store mengder data i form av tekst og bilder fra nettet. De fleste som har skapt originalmaterialet blir hverken forespurt eller kreditert.

Oversvømming av bestselgerlister med tøvete bøker vil bidra til økende bekymring rundt kvalitetskontroll og autentisitet, Det er påfallende at det har skjedd en slik voldsom fremvekst av AI-genererte bøker på bestselgerlistene, og mange mener dette skyldes bot-farming, der store mengder bøker genereres automatisk ogg deretter publisert. Hvis dette er tilfellet, er det opp til Amazon å løse dette problemet. Forfatterne og leserne har ikke verktøyene eller tilgangen til å iverksette mottiltak mot slike operasjoner.

Ikke bare et spørsmål om plagiat

Programvareutvikleren Chris Cowell snakket med Washington Post om et tilfelle da AI plagierte hans arbeid, før det faktisk ble solgt via Amazon. Kunstig intelligens fortsetter å stjele arbeidet fra menneskelige forfattere. Dette vekker bekymring rundt plagiering og brudd på opphavsretten, men det handler også om at AI-baserte tekstgeneratorer spyr ut feilinformasjon.

Dette kan også føre til at en AI-skrevet bok bruker tekst fra andre AI-skapte bøker, helt uten å sjekke fakta. Særlig når det gjelder sakprosa kan det skapes en meget uheldig tilbakekobling som sprer feilinformasjon og gjør det vanskelig å finne ut hvor en uttalelse faktisk stammer fra.

For øyeblikket kan kanskje Amazon optimalisere prosessen med fjerning av tøvete AI-skapt innhold så snart det dukker opp, men innsatsen må forsterkes. Så sent som i mai 2023 trengte ikke selgere av bøker på Amazons Kindle Publishing å oppgi om bøkene var skrevet (eller illustrert) ved hjelp av AI-generatorer som ChatGPT or Midjourney.

Det er også et annet problem som fortsetter å ri Amazon og andre nettbaserte markedsplasser som en mare, nemlig falske anmeldelser. Bøker er intet unntak. AI-baserte tekstgeneratorer forverrer problemet ved å gjøre det enklere å oversvømme anmelderseksjonene, både når det gjelder kvalitet og kvantitet. Våre engelskspråklige kolleger har skrevet en veiledning til hvordan du kan oppdage falske anmeldelser på Amazon. 

Selv om det er mye flott å si om kunstig intelligens, er det også en stor og uunngåelig fare for misbruk. Vi håper at Amazon virkelig deler våre bekymringer for både forfattere og lesere og anstrenger seg for å beskytte arbeid som faktisk er skapt av mennesker – og deres publikum.

• Her kan du lese flere av våre artikler om kunstig intelligens.