Les deepfakes sont presque arrivés à un point où beaucoup d'entre nous ne peuvent plus faire la différence entre les fausses et les images réelles. C'est une leçon que le générateur d'images d'IA Midjourney a apprise à ses dépens lorsque certains ont utilisé sa plateforme pour créer plusieurs fausses images, dont celles de l'ancien président américain Donald Trump en train de se faire arrêter. Après que les images sont devenues virales, beaucoup ont cru qu'elles étaient réelles, déclenchant des conversations et des controverses basées sur des informations complètement fabriquées.
Selon The Washington Post et The Verge, ces deepfakes ont pris une telle ampleur qu'ils ont incité Midjourney à interrompre ses essais gratuits le 28 mars. Cependant, lorsque TechRadar a contacté le PDG et fondateur de Midjourney (David Holz) pour obtenir des éclaircissements, ce dernier a insisté sur le fait qu'il y avait une autre raison à cet arrêt : "Les utilisateurs qui s'inscrivaient pour plusieurs comptes d'essai gratuit réduisaient le service pour les utilisateurs payants, c'est pourquoi nous avons temporairement interrompu les essais gratuits".
Cela correspond à une déclaration précédente de Holz à The Verge concernant les essais gratuits, à savoir que cela était dû à "une demande extraordinaire et à un abus de l'essai". Auparavant, l'essai gratuit de Midjourney permettait 25 images gratuites par mois avant que les utilisateurs ne doivent payer un abonnement mensuel d'au moins 10 dollars.
Interrogé sur la création de ces deepfakes controversés, Holz a déclaré à TechRadar : "Je pense que nous essayons encore de déterminer quelles sont les bonnes politiques de modération. Nous prenons en compte les commentaires des experts et de la communauté, et nous essayons d'être vraiment réfléchis. Nous avons déjà quelques nouveaux systèmes qui devraient être livrés prochainement."
Pour l'instant, il semble que Midjourney va maintenir la désactivation de ses essais gratuits, du moins dans l'immédiat. "Nous avons essayé de réactiver les essais avec de nouvelles sécurités contre les abus, mais cela n'a pas semblé suffisant, alors nous les désactivons à nouveau pour maintenir le service pour tous les autres", nous a dit Holz.
Il a ajouté que les essais gratuits reviendront un jour, mais que l'entreprise réfléchissait encore à la manière de procéder. "Nous avons essayé d'exiger une adresse e-mail active, mais cela n'a pas suffi, alors nous sommes retournés à la table à dessin."
Qu'est-ce que Midjourney ?
Midjourney n'est qu'un des nombreux générateurs d'images d'IA qui existent aujourd'hui, et parmi lesquels on retrouve Dall-E, Jasper Art, Starry AI, Stable Diffusion, et bien d'autres. Ces sites existent pour créer des images entièrement fabriquées qui sont formées à partir d'images et de données en ligne existantes. Il peut s'agir d'images photoréalistes, d'images fantaisistes d'animaux, d'images surréalistes, de pixel art, etc. À l'origine, Midjourney se distinguait des autres générateurs par la qualité de ses images, qui s'apparentaient davantage à de la peinture. Du moins jusqu'à la sortie de la version 5 le 15 mars dernier.
Au départ, les images créées par Midjourney étaient facilement repérables grâce à des signes communs tels que des mains déformées (trop de doigts). Mais dès le lancement de la version 5 de son logiciel, la qualité des images s'est considérablement améliorée, ce qui a permis de créer des images avec des mains plus réalistes, ainsi qu'un meilleur éclairage et de meilleures textures. En fait, il est possible de créer des tonnes de deepfake de célébrités et d'autres personnalités publiques grâce à la combinaison d'une meilleure technologie et d'un nombre considérable d'images réelles disponibles pour l'entraînement de Midjourney.
Les deepfakes, ou images créées à l'aide d'une technologie d'intelligence artificielle dans le but de diffuser de fausses informations, sont un problème de plus en plus répandu. Au-delà des deepfakes de l'arrestation de Donald Trump, d'autres créés avec Midjourney montraient le pape François portant une doudoune blanche, le président français Emmanuel Macron présent lors des manifestations en cours à Paris, et le PDG de Twitter, Elon Musk, tenant la main de la représentante américaine Alexandria Ocasio-Cortez.
Ce n'est pas la première fois que des créations générées par l'IA sont au centre d'une controverse, puisque des leaders technologiques et des experts en IA ont récemment publié une lettre ouverte appelant à l'arrêt de la formation des chatbots d'IA comme ChatGPT.
L'avenir des sites d'images générées par l'IA comme Midjourney est incertain. Bien que la technologie ait un grand potentiel pour aider les humains, elle peut être utilisée, et l'a déjà été, de manière plus destructrice. Seul l'avenir nous dira si les garde-fous, des législateurs aux entreprises elles-mêmes, peuvent gérer la sécurité et le bien public, tout en permettant à l'IA de s'épanouir et de se développer.
