- Sam Altman a exhorté le gouvernement et Anthropic à désamorcer les tensions et à coopérer sur la gouvernance de l’IA
- Il a estimé que les gouvernements devraient détenir le pouvoir en matière d’IA et de décisions liées à la sécurité nationale
- Il a indiqué faire encore majoritairement confiance aux institutions, tout en reconnaissant que beaucoup ne partagent pas cette confiance
Les relations entre Anthropic et le gouvernement des États-Unis sont devenues un point de tension particulièrement explosif dans le débat plus large sur la régulation et le contrôle de l’IA. L’escalade a commencé lorsque les négociations avec le Pentagone sur les modalités d’utilisation du modèle Claude d’Anthropic ont échoué, l’entreprise ayant refusé de supprimer les garde-fous empêchant l’usage d’armes totalement autonomes ou la mise en place d’une surveillance de masse à l’intérieur du pays.
Les réactions venues de Washington, notamment une directive exécutive interdisant aux agences fédérales d’utiliser la technologie d’Anthropic et qualifiant l’entreprise de « risque pour la chaîne d’approvisionnement », ont donné lieu à des poursuites judiciaires invoquant des violations constitutionnelles. Depuis, un juge fédéral a temporairement bloqué les mesures prises par le Pentagone.
Le PDG d’OpenAI, Sam Altman, considère apparemment qu’un apaisement est nécessaire des deux côtés.
« Trouver un moyen de travailler ensemble. Arrêter, arrêter les choses des deux côtés, mettre fin à l’escalade des deux côtés et trouver un moyen de coopérer », a déclaré Altman lors d’un entretien avec Laurie Segall.
Les exigences sécuritaires de l’IA
Les entreprises d’IA ont mis en avant le potentiel de cette technologie dans des domaines comme la sécurité nationale, tout en plaidant pour une régulation légère. Altman semble avoir conclu que les entreprises ne peuvent pas tenir ces deux positions simultanément. Si l’IA est aussi déterminante sur le plan géopolitique que beaucoup l’affirment, les gouvernements voudront nécessairement en garder le contrôle.
« Cela ne fonctionne pas pour notre industrie de dire : voici la technologie la plus puissante jamais créée par l’humanité », a déclaré Altman. « Elle va être l’élément déterminant en géopolitique. Elle va devenir l’arme cybernétique la plus puissante jamais conçue. Elle va, en quelque sorte, déterminer les guerres futures et les dispositifs de protection. Et nous ne vous la donnerons pas. »
Reste à savoir si les citoyens se sentent à l’aise à l’idée que le gouvernement contrôle une technologie aussi déterminante. Altman a indiqué continuer à faire majoritairement confiance au système de contre-pouvoirs, tout en reconnaissant que de nombreuses personnes « ne font vraiment pas confiance au gouvernement pour respecter la loi ».
Cette position se distingue de celle de certains dirigeants du secteur de l’IA, plus méfiants à l’égard des autorités publiques. Néanmoins, Altman estime qu’il serait une erreur de ne pas coopérer avec le gouvernement sur les questions de sécurité nationale, en particulier concernant les infrastructures numériques.
« Il faut travailler avec le gouvernement, mais l’intensité actuelle du climat de méfiance, cela avait été mal évalué, et quelque chose est désormais mieux compris à ce sujet », a-t-il déclaré.
Confiance dans le contrôle de l’IA
En substance, Altman et ceux qui partagent sa position souhaitent collaborer avec les gouvernements, alors même que la défiance du public face aux risques d’abus liés à l’IA s’accroît.
« L’une des questions les plus importantes auxquelles le monde devra répondre l’an prochain est la suivante : les entreprises d’IA sont-elles plus puissantes que les gouvernements, ou l’inverse ? Et il est très important que les gouvernements soient plus puissants », a déclaré Altman. « L’avenir du monde, et les décisions concernant les éléments les plus cruciaux de la sécurité nationale, doivent être prises dans le cadre d’un processus démocratiquement élu. Et par les personnes désignées dans ce cadre, pas par moi, ni par le PDG d’un autre laboratoire. »
Altman est revenu à plusieurs reprises sur le fait que la puissance de l’IA progresse plus vite que la capacité des institutions, des gouvernements ou de la plupart des individus à s’y adapter. Les systèmes deviennent plus performants et, parallèlement, leur potentiel d’usage détourné augmente.
Les enjeux deviennent toujours plus élevés et plus graves. Les conflits majeurs entre ceux qui sont censés élaborer des régulations sûres et les entreprises qui, du moins en théorie, cherchent à orienter la technologie vers une trajectoire éthique, constituent un problème considérable.
Un simple appel diplomatique invitant des camps opposés à « trouver un moyen de travailler ensemble » ne suffira probablement pas à résoudre la situation. Cela montre toutefois qu’Altman sait que la réponse ne sera pas évidente, même s’il l’a formulée comme une requête adressée à ChatGPT.
- OpenAI ne veut plus seulement répondre à vos questions, mais gérer votre quotidien numérique
- Une faille silencieuse dans ChatGPT permettait de voler des données sans alerter les utilisateurs
- Et si votre écriture devenait une vraie police utilisable partout ? Claude franchit un cap inattendu
- « Je ne suis pas fan de l’IA » : Steve Wozniak démonte les limites de l’intelligence artificielle
- Pour le patron d’Oracle, l’IA n’en est qu’à ses débuts et le plus impressionnant reste à venir
