Deepfake-Fotos nähern sich schnell dem Punkt, an dem viele den Unterschied zwischen ihnen und echten Bildern nicht mehr erkennen können. Das musste auch die KI-Bildgenerierungsplattform Midjourney schmerzhaft erfahren, als einige Nutzer kürzlich mehrere Bilder erstellten, darunter auch Fälschungen des ehemaligen US-Präsidenten Donald Trump bei seiner Verhaftung. Nachdem die Bilder viral gegangen waren, dachten viele, sie seien echt und lösten damit Gespräche und Kontroversen auf der Grundlage von komplett erfundenen Informationen aus.
Laut The Washington Post und einem Bericht von The Verge verbreiteten sich diese Deepfakes so weit, dass Midjourney am 28. März kostenlose Testversionen aussetzte. Als wir den CEO und Gründer von Midjourney, David Holz, um Klärung baten, betonte er jedoch, dass es einen anderen Grund für die Aussetzung gab: "Benutzer, die sich für mehrere kostenlose Testkonten anmeldeten, brachten den Service für zahlende Benutzer zum Absturz. Deshalb haben wir vorübergehend kostenlose Testversionen ausgesetzt."
Dies steht im Einklang mit einer früheren Aussage von Holz gegenüber The Verge in Bezug auf die kostenlosen Tests, dass es aufgrund von "außergewöhnlicher Nachfrage und Testmissbrauch" geschah. Zuvor ermöglichte die kostenlose Testversion von Midjourney das Erstellen von 25 Bildern pro Monat, bevor Benutzer mindestens eine monatliche Abonnementgebühr von 10 US-Dollar zahlen mussten.
Als Holz von uns zu den kontroversen Deepfakes befragt wurde, die mit Midjourney erstellt wurden, sagte er: "Ich denke, wir versuchen immer noch herauszufinden, welche die richtigen Moderationsrichtlinien sind. Wir nehmen Feedback von Experten und der Community entgegen und versuchen, sehr sorgfältig zu sein. Wir haben bereits einige neue Systeme, die bald kommen sollten."
Es sieht jedoch so aus, als ob Midjourney die kostenlosen Testversionen vorerst deaktivieren wird. "Wir haben versucht, die Testversionen mit neuen Sicherheitsvorkehrungen wieder zu aktivieren, aber sie schienen nicht ausreichend zu sein, deshalb schalten wir sie wieder aus, um den Service für alle anderen aufrechtzuerhalten", sagte Holz uns. Er fügte hinzu, dass die kostenlosen Testversionen irgendwann wieder zurückkommen werden, aber das Unternehmen noch darüber nachdenkt, wie man damit umgehen soll. "Wir versuchen immer noch herauszufinden, wie wir kostenlose Testversionen zurückbringen können. Wir haben versucht, eine aktive E-Mail-Adresse zu verlangen, aber das reichte nicht aus, deshalb sind wir zurück am Anfang."
Was ist Midjourney?
... seit Anfang des Jahres posten wir auf unserem Twitteraccount TechRadar Deutschland (@TechradarDE) jeden Tag aktuelle News, Bestenlisten oder neue Testberichte, um dich jederzeit über das informiert zu halten, was gerade in der Technikwelt abgeht.
Midjourney ist nur eine von mehreren KI-Bildgeneratoren, darunter Dall-E, Jasper Art, Starry AI, Stable Diffusion und viele andere. Diese Websites erstellen neue und komplett erfundene Bilder, die auf vorhandenen Online-Bildern und -Daten trainiert sind. Die Bilder können fotorealistisch sein, fantastische Tierbilder, surreale Bilder, Pixelkunst und vieles mehr darstellen. Was Midjourney ursprünglich von anderen Generatoren unterschied, war die malerische Qualität seiner Bilder im Vergleich zu anderen. Zumindest bis Version 5 am 15. März veröffentlicht wurde.
Ursprünglich waren Midjourney erstellte Bilder leicht zu erkennen, dank gemeinsamer Merkmale wie schrägen Händen (zu viele Finger). Aber mit dem Start von Version 5 der Software wurden die Bilder in der Qualität deutlich verbessert. Das bedeutet, dass man Bilder mit realistischeren Händen sowie besserem Licht und Stoff herstellen kann. Im Grunde genommen kann man dank der besseren Technologie und der schieren Anzahl von realen Bildern, die für das Training von Midjourney verfügbar sind, jede Menge Deepfakes von Prominenten und anderen öffentlichen Personen erstellen.
Deepfakes oder Fotos, die mit KI-Technologie erstellt wurden, um Fehlinformationen mit gefälschten Bildern zu verbreiten, sind zu einem wachsenden Problem geworden. Neben den Deepfakes von Donald Trumps Verhaftung gab es auch andere mit Midjourney erstellte, wie etwa Papst Franziskus in einem weißen Daunenmantel, der französische Präsident Emmanuel Macron, der durch die anhaltenden Proteste in Paris geht, und Twitter-CEO Elon Musk, der mit der US-Abgeordneten Alexandria Ocasio-Cortez Händchen hält.
Es ist nicht das erste Mal, dass mit KI generierte Kreationen im Mittelpunkt von Kontroversen stehen. Technologieführer und KI-Experten haben kürzlich in einem offenen Brief gefordert, das Training von KI-Chatbots wie ChatGPT zu stoppen.
Die Zukunft von KI-generierten Bildseiten wie Midjourney ist unsicher. Obwohl die Technologie großes Potenzial hat, um den Menschen zu helfen, kann sie und wurde sie bereits auf zerstörerischere Weise eingesetzt. Nur die Zeit wird zeigen, ob Sicherheitsvorkehrungen, von Gesetzgebern bis hin zu den Unternehmen selbst, Sicherheit und öffentliches Wohl gewährleisten können, während KI gleichzeitig gedeihen und wachsen darf.
