- L’outil d’intelligence artificielle Grok, développé par X, a généré des images pornographiques représentant des femmes et des enfants
- Face à cela, des sénateurs américains ont demandé à Apple et Google de retirer ces applications de leurs boutiques
- La Malaisie et l’Indonésie ont d’ores et déjà bloqué leur accès
Ces dernières semaines, il est apparu que Grok, le chatbot d’intelligence artificielle intégré à X, était utilisé activement pour produire des images explicites de femmes et d’enfants sans leur consentement. Cette situation a conduit à des appels en faveur du retrait des applications Grok et X des boutiques d’Apple et Google.
La pression s’est intensifiée lorsqu’un groupe de sénateurs américains a adressé une lettre aux deux géants de la tech, exigeant une réaction. L’autorité britannique de régulation des médias, Ofcom, a également annoncé ce jour l’ouverture d’une enquête officielle.
La lettre a été signée par les sénateurs Ron Wyden, Ben Ray Luján et Edward Markey. Ils y appellent les entreprises à « faire respecter les conditions d’utilisation de vos boutiques d’applications », affirmant que « la génération de contenus nuisibles et probablement illégaux mettant en scène des femmes et des enfants par X constitue une violation manifeste des règles de distribution de vos plateformes ».
Les sénateurs y décrivent comment Grok aurait « modifié des images pour représenter des femmes en train d’être agressées sexuellement, humiliées, blessées voire tuées » et comment il aurait aussi « généré des images sexualisées d’enfants ». De telles pratiques, rappellent-ils, contreviennent aux politiques en vigueur chez Apple comme chez Google.
Les conditions d’utilisation de Google interdisent aux utilisateurs de « créer, télécharger ou diffuser tout contenu facilitant l’exploitation ou les abus envers les enfants », y compris « toute représentation susceptible de conduire à leur exploitation sexuelle ».
Chez Apple, le règlement exclut expressément les contenus à caractère « ouvertement sexuel ou pornographique ». Les sénateurs estiment que « fermer les yeux sur les agissements de X reviendrait à décrédibiliser totalement vos pratiques de modération ».
La pression monte sur X et Elon Musk
Le même groupe de sénateurs a également critiqué la résistance d’Apple et Google face aux projets de régulation accrus de leurs boutiques d’applications.
« Ne rien faire reviendrait à saper vos déclarations publiques et vos positions juridiques selon lesquelles vos plateformes offriraient une expérience plus sûre que les installations d’applications directes sur les téléphones », ont-ils souligné. Ils ajoutent : « Ce principe est au cœur de votre opposition aux réformes législatives visant à renforcer la concurrence sur les boutiques d’applications, et de votre défense face aux accusations d’abus de position dominante via vos systèmes de paiement ».
Les sénateurs rappellent qu’Apple et Google ont déjà démontré leur capacité à réagir rapidement pour bannir certaines applications. « Vos entreprises ont retiré sans délai des apps permettant de signaler légalement les actions de la police migratoire, comme ICEBlock et Red Dot », indiquent-ils. « Or, contrairement aux contenus choquants générés par Grok, ces applications ne créaient ni n’hébergeaient de contenu nuisible ou illégal. Pourtant, sur la seule base des arguments avancés par le gouvernement, vous les avez supprimées. »
Ils concluent en exprimant leur espoir que les deux entreprises « réagiront avec la même rapidité et prendront les mesures nécessaires pour retirer les applications X et Grok de leurs boutiques ».
Quelle que soit la décision d’Apple et Google, la pression continue de s’intensifier pour X et Grok. Les gouvernements d’Indonésie et de Malaisie ont récemment bloqué l’accès à Grok, en raison de la polémique liée à la génération d’images. D’autres pays pourraient suivre, alors que le Royaume-Uni, l’Union européenne et l’Inde examinent à leur tour l’outil d’IA de très près.
