Google a prévenu qu'un jugement en sa défaveur dans une affaire en cours devant la Cour suprême pourrait mettre en péril l'ensemble d'Internet, en supprimant une protection clé contre les poursuites judiciaires concernant des décisions de modération de contenu faisant intervenir l'intelligence artificielle (IA).
La section 230 de la loi sur la décence des communications de 1996 offre actuellement un "bouclier de responsabilité" général en ce qui concerne la façon dont les entreprises modèrent le contenu de leurs plateformes.
Toutefois, comme le rapporte CNN, Google a écrit dans un document juridique que, si la Cour suprême se prononce en faveur du plaignant dans l'affaire Gonzalez contre Google (concernant les algorithmes de YouTube recommandant du contenu pro-ISIS aux utilisateurs), le monde de l'Internet pourrait être envahi par du contenu dangereux, offensant et extrémiste.
L'automatisation dans la modération
Faisant partie d'une loi vieille de près de 27 ans, déjà visée par une réforme par le président américain Joe Biden, la section 230 n'est pas équipée pour légiférer sur les développements modernes tels que les algorithmes d'intelligence artificielle, et c'est là que les problèmes commencent.
L'argument principal de Google est que l'Internet s'est tellement développé depuis 1996 que l'intégration de l'intelligence artificielle dans les solutions de modération de contenu est devenue une nécessité. "Pratiquement aucun site web moderne ne fonctionnerait si les utilisateurs devaient trier eux-mêmes le contenu", indique la société dans sa requête.
"L'abondance de contenu" implique que les entreprises technologiques doivent utiliser des algorithmes pour présenter ce contenu aux utilisateurs de manière gérable, qu'il s'agisse des résultats des moteurs de recherche, des offres de vols ou des recommandations d'emploi sur les sites d'emploi.
Google a également indiqué qu'en vertu de la législation en vigueur, les entreprises technologiques qui refusent simplement de modérer leurs plateformes constituent un moyen parfaitement légal d'éviter toute responsabilité, mais que cela fait courir à l'Internet le risque de devenir un "cloaque virtuel".
Le géant technologique a en outre souligné que les directives communautaires de YouTube désavouent expressément le terrorisme, le contenu pour adultes, la violence et "tout autre contenu dangereux ou offensant", et qu'il modifie continuellement ses algorithmes pour bloquer de manière préventive les contenus interdits.
Il a par ailleurs affirmé qu'environ 95 % des vidéos violant la "politique d'extrémisme violent" de YouTube ont été automatiquement détectées au deuxième trimestre 2022.
Néanmoins, les requérants dans l'affaire soutiennent que YouTube n'a pas supprimé tout le contenu lié à l'État islamique et que, ce faisant, il a contribué à la "montée en puissance de l'État islamique".
Dans une tentative de se distancier de toute responsabilité sur ce point, Google a répondu en disant que les algorithmes de YouTube recommandent du contenu aux utilisateurs en fonction des similitudes entre un élément de contenu et le contenu auquel un utilisateur s'intéresse déjà.
Il s'agit d'un cas complexe et, bien qu'il soit facile de souscrire à l'idée qu'Internet est devenu trop grand pour la modération manuelle, il est tout aussi convaincant de suggérer que les entreprises devraient être tenues responsables lorsque leurs solutions automatisées échouent.
Après tout, si même les géants de la technologie ne peuvent pas garantir ce qui se trouve sur leur site web, les utilisateurs de filtres et de contrôles parentaux ne peuvent pas être sûrs qu'ils prennent des mesures efficaces pour bloquer les contenus choquants.
