Amazon vor gigantischem Problem: KI-generierte Inhalte fluten Kindle Unlimited

KI hat das Jahr 2023 weiter fest in ihrem Griff und so erreichen uns wöchentlich positive wie auch besorgniserregende Neuigkeiten aus dem Segment. 

Denn während Text-Chatbots wie ChatGPT durchaus das Potenzial haben, unsere Arbeit zu erleichtern oder uns in Windeseile Lösungsvorschläge für kleine sowie große Probleme zu offerieren, werden die technologischen Möglichkeiten auch immer häufiger für Betrügereien und die Jagd nach dem schnellen Geld genutzt.

Und so dürfte es auch kaum verwundern, dass der kürzliche Aufschrei beliebter Buchautoren auf den rasanten Zuwachs von KI-generierten Büchern zurückzuführen ist. 

Self-Publishing ist hier das Stichwort, ist es doch einer der vielversprechendsten Vorzüge von Amazons Kindle-Direct-Programm. Selbiger erlaubt es Autoren, ihre Inhalte ohne überkomplexe Prozeduren einer kleinen (oder größeren) Fangemeinde zur Verfügung zu stellen – gänzlich ohne Verleger. 

Genau das ist aber problematisch! Zumindest, wenn man diesen kinderleichten Einstieg in die Welt der Belletristik mit künstlicher Intelligenz paart und es so (in der Theorie) jedem Einzelnen erlaubt, neue "Werke" im Stundentakt zu veröffentlichen.

Die erschreckende Bilanz bisher: 19 der Bestseller in den aktuellen Top 100 der Teen & Young Adult Contemporary Romance eBooks auf Amazon sind noch echte, legitime Bücher. Der Rest scheinen unsinnige und zusammenhangslose KI-Werke zu sein, die nun die Existenz von Autoren wie Caitlyn Lynch bedrohen. 

Motherload untersucht auf Basis des noch jungen Tweets schließlich die Plattform, entdeckt zum Erstaunen vieler Interessenten allerdings, dass die KI-Bücher bereits von Amazon selektiert und entsprechend entfernt wurden – zumindest aus den Toplisten.

Zum Kauf standen sie aber dennoch zur Verfügung und entlang der genossenen Sichtbarkeit sowie potenziellen "Bot-Nutzung" (für Clickfarming-Aktivitäten) dürften sich hier einige Ganoven ein goldenes Näschen verdient haben. 

Aber mal ganz abseits vom wirtschaftlichen Aspekt ergibt sich doch auch auf einer persönlicheren Ebene ein großes Problem: Schließlich sind unzählige Autoren (für Inspiration) sowie Leser tagtäglich bei Kindle Unlimited unterwegs und suchen nach den besten Werken, um sich hierin fallen zu lassen. Was also, wenn der Großteil dieser Listen weiterhin von KI-Inhalten durchseucht ist? Lynch jedenfalls fürchtet, es könnte "die Todesglocke für Kindle Unlimited sein", sollte Amazon dies nicht in den Griff bekommen.

Was wird Amazon tun?

Auf Nachfrage von Motherboard gab Amazon bekannt, dass es "klare Richtlinien" dafür gibt, welche Bücher zum Verkauf angeboten werden dürfen. Insofern sich dahingehend also Bedenken im Hinblick auf betrügerische Tätigkeiten auftun, wolle das Unternehmen weiter nachhaken, um Leser und Autoren auch künftig zu schützen. 

Explizit wird hierbei auch thematisiert, dass Amazon ein wachsames Auge auf die spamartige Verbreitung von KI-generierten Büchern haben wird und so Werke auf Sinnhaftigkeit und Zusammenhang der gebotenen Texte überprüft.

Ein wichtiger Schritt in die richtige Richtung! Es ist gut zu wissen, dass Amazon Lesern sowie Autoren weiterhin Ansporn gibt, sich mit Inhalten auf Kindle Unlimited auseinanderzusetzen, sie zu lesen, zu lieben und natürlich auch zu erwerben. Und es ist auch grandios, dass Autoren für ihr Tun weiterhin von Amazon unterstützt werden – zumindest im Rahmen des derzeit möglichen. 

Ein Sprecher ergänzt hierzu: "Wir haben klare inhaltliche Richtlinien, die regeln, welche Bücher zum Verkauf angeboten werden dürfen, und gehen jedem Buch sofort nach, wenn ein Problem hiermit auftritt. Wir investieren viel, um ein vertrauenswürdiges Einkaufserlebnis zu bieten und um Kunden und Autoren vor Missbrauch zu schützen."

Kreative Inhalte sind aber schon längst ein attraktives Ziel für KI-Generatoren wie ChatGPT oder Midjourney. So kritisierten Bildkünstler bereits die potenzielle Macht und möglichen Auswirkungen, die KI auf das Segment haben dürfte, die Filmindustrie muss sich inzwischen mit KI-generierten Film- und Serien-Intros herumplagen und auch die Kunst des Schreibens scheint nun vom KI-Wahn betroffen.

Im jüngsten Fall diesbezüglich ist es zweifelsfrei an Amazon, Leser wie auch Autoren abzusichern und mit nötiger Strenge gegen die KI-Inhalte vorzugehen. In anderen Fällen scheinen mir die Betroffenen ohne entsprechenden Ansprechpartner allerdings noch etwas hilfloser und zumeist an die Treue ihrer Community sowie den Wunsch nach etwas Einzigartigem und Echtem gebunden. 

Not just about plagiarism

Chris Cowell, Sofwareentwickler, sprach kürzlich mit der Washington Post und äußerte sich hier zu einem Plagiatsvorfall, wo KI die eigene Arbeit dreist kopierte und in ähnlicher Form auf Amazon verkaufte.

Das Problem von KI hört aber im Bücher-Segment nicht einfach bei Plagiaten auf. Viel mehr muss auch auf den Inhalt selbst im Hinblick auf Authentizität der Informationen geachtet werden. Nicht selten übernimmt die KI, trotz stetig erweitertem Wissensschatz, nämlich noch Falschinformationen oder generiert selbige gern einmal. 

Und wenn KI schließlich fälschliche KI-Inhalte kopiert und das Ganze zwei- bis dreimal hintereinander geschieht, ergibt sich eine bedrohliche Rückkopplungsschleife, die schließlich Fehlinformationen immer weiter verbreitet, während der Ursprung stetig schwerer nachvollzogen werden kann.

Aber noch einmal zurück zu Amazon: Konkret kann der Online-Händler vermutlich am besten gegen Inhalte von ChatGPT, Midjourney und Co. vorgehen, wenn man (vorerst) die Regelungen vom Mai 2023 wieder aufhebt. Kürzlich wurde hier nämlich erst beschlossen, dass bei Amazon Kindle Publishing nicht länger angegeben werden muss, ob das Buch mithilfe von KI-Generatoren geschrieben wurde.

Das ist aber natürlich nur ein erster Schritt. Neue Kontrollmaßnahmen, Absicherungsmöglichkeiten müssen, sollen und werden folgen. Wie genau die aussehen? Das ist wohl das Einzige, was ich dir aktuell nicht beantworten kann.

Amazon hat es aktuell schon nicht leicht. Einerseits ist man doch mitten in den Vorbereitungen des Prime Day und somit ohnehin im Dauerstress, andererseits machen Probleme wie das oberhalb erwähnte oder der Zuwachs an gefälschten Rezensionen es dem Versandriesen nicht gerade einfach.

KI und Shopping kann aber doch auch Hand in Hand gehen! Zumindest will das Microsoft alsbald unter Beweis stellen und spendiert Edge sowie Bing eine Reihe von nützlichen Features, die deine Shopping-Erfahrung in naher Zukunft versüßen wollen.