- L'un des parrains de l'IA avertit qu'un incident grave pourrait être nécessaire avant une réglementation appropriée de cette technologie
- Selon lui, l'humanité aurait peut-être été « mieux lotie » sans l'IA, mais il est encore temps d'agir
- L'IA pourrait créer « un énorme fossé entre les riches et les pauvres » et conduire à « une société déchirée »
Geoffrey Hinton, informaticien lauréat du prix Nobel et largement considéré comme l'un des parrains de l'intelligence artificielle, a exprimé ses inquiétudes concernant l'avenir de cette technologie. Il redoute notamment qu'elle puisse être utilisée pour paralyser les systèmes financiers mondiaux ou provoquer d'importantes baisses de tension sur les réseaux électriques.
L'année dernière encore, Hinton revenait sur la rapidité des progrès de l'IA. Il reconnaissait ne pas avoir pensé que la technologie atteindrait ce niveau en seulement 40 ans, et expliquait que cette perspective lui semblait encore inimaginable dix ans auparavant.
Il a également récemment mis en garde contre l'utilisation malveillante de l'IA par des personnes poursuivant des objectifs cachés. Hinton estime qu'il est difficile d'empêcher les acteurs malveillants de détourner cette technologie. Au regard de la récente vague de cyberattaques reposant sur l'IA, ses craintes pourraient être en train de se concrétiser.
Le parrain de l'IA pourrait avoir raison
Dans un entretien accordé au Guardian, Hinton explique ne pas faire partie des personnes convaincues que l'IA mènera nécessairement à une catastrophe. Il pense que cette technologie pourrait contribuer à créer un avenir meilleur, mais craint aussi un scénario dans lequel les risques ne seraient pas maîtrisés. Ce dernier pourrait entraîner « un énorme fossé entre les riches et les pauvres », de graves problèmes culturels, un chômage massif et une société profondément déchirée.
Il s'est également inquiété d'une concentration du contrôle de l'IA entre quelques entreprises. Selon lui, les sociétés du secteur cherchent avant tout à développer leurs technologies plus vite que leurs concurrentes, sans tenir compte des risques. Hinton estime que Zuckerberg, Musk et Sam Altman comprennent ces dangers, mais s'en soucient peu et privilégient les gains financiers.
L'année à venir pourrait représenter un tournant, estime Hinton. Il compare la possibilité d'un grave incident lié à l'IA, comme une attaque contre les systèmes financiers ou les infrastructures électriques, à la fusion partielle du cœur de la centrale nucléaire de Three Mile Island en 1979. Malheureusement, le chercheur pense qu'une crise majeure pourrait être nécessaire pour faire prendre conscience aux entreprises des dangers de leurs technologies.
Hinton conserve néanmoins le sentiment que l'humanité contrôle encore la situation. Il estime que des mesures pourraient être prises, à condition d'y consacrer des efforts considérables. Il considère également qu'une telle mobilisation reste possible.
Il est encore temps de rendre l'IA sûre
Geoffrey Hinton n'est pas le seul à considérer que l'intelligence artificielle pourrait devenir dangereuse. De nombreux responsables politiques, dirigeants d'entreprise et chercheurs spécialisés dans l'IA ont demandé un ralentissement international du développement de cette technologie, afin de mieux comprendre et limiter ses risques.
La multiplication des incidents impliquant des agents IA échappant au contrôle de leurs opérateurs a donné un aperçu des capacités potentiellement dangereuses des modèles les plus avancés. Certains de ces incidents se sont même produits dans des environnements pourtant considérés comme sécurisés.
Mais réglementer l'intelligence artificielle nécessitera un effort de coopération internationale colossal. Le président américain Donald Trump a présenté l'IA comme une technologie dans laquelle il faut gagner ou perdre. Il a défendu l'autorégulation des entreprises du secteur, tout en encourageant la poursuite du développement de l'IA afin que les États-Unis conservent leur avance sur la Chine.
Pour certains sceptiques qui alertent depuis des années sur les dangers d'un développement incontrôlé de l'IA, les propos de Hinton pourraient avoir un goût amer. Le danger existe toujours et un incident majeur pourrait être nécessaire avant que la situation n'évolue. Mais une catastrophe pourrait aussi suffire à déclencher une véritable réglementation de l'intelligence artificielle.
- Intelligence artificielle : le « parrain de l'IA » exprime son inquiétude
- Faut-il ralentir l'IA ? 5 points pour comprendre le débat entre les grands patrons de la tech et Donald Trump
- Des hackers utilisent des malwares générés par IA pour frapper les infrastructures critiques américaines à une échelle inédite
