Sam Altman passe une grande partie de son temps à expliquer comment l'intelligence artificielle pourrait transformer le monde pour le meilleur et à contredire les discours catastrophistes. Pourtant, le patron d'OpenAI envisage lui-même plusieurs scénarios particulièrement inquiétants dans lesquels le développement de l'IA pourrait conduire à une catastrophe, voire à plusieurs. Il a détaillé deux de ces cauchemars lors d'un épisode du podcast Figuring Out With Raj Shamani.
Ces deux dystopies découlent de problèmes presque opposés. Dans un cas, l'humanité perdrait le contrôle de machines de plus en plus puissantes. Dans l'autre, un seul groupe s'emparerait de l'essentiel de cette technologie.
« Le premier, c'est que nous perdions le contrôle de l'IA et que, volontairement ou accidentellement, nous cédions en quelque sorte le contrôle de notre avenir à des systèmes incroyablement plus performants que nous, sans pouvoir ensuite le reprendre », a déclaré Altman. « Et l'autre, c'est qu'une personne, une entreprise ou un pays devienne beaucoup trop puissant par rapport à tous les autres. »
Le premier scénario ressemble moins au cliché éculé d'une révolte des robots qu'à une capitulation progressive de l'humanité, qui abandonnerait ses décisions aux systèmes d'IA jusqu'à ne plus pouvoir retrouver son autonomie. Le second évoque une dystopie plus moderne, bien qu'également familière dans la science-fiction, où une technologie extrêmement puissante serait contrôlée par une seule personne ou entreprise, laissant tous les autres à sa merci. Ces deux risques font régulièrement débat parmi les professionnels du secteur et les responsables politiques, mais les entendre formulés par Altman reste particulièrement significatif.
À travers OpenAI et ChatGPT, Altman est l'un des principaux visages de l'intelligence artificielle, sinon le plus connu, même auprès des personnes qui ne possèdent que des connaissances très limitées sur cette technologie et ses défauts. Il reste convaincu que ses capacités pourraient apporter des bénéfices extraordinaires. Ses déclarations suggèrent toutefois qu'il n'aborde pas avec une confiance absolue les bouleversements que l'IA pourrait provoquer.
Abandonner le pouvoir de décision
La possibilité qu'une IA avancée prenne le contrôle parce que les humains lui auraient volontairement abandonné leurs décisions n'est devenue une préoccupation concrète que ces dernières années, lorsque cette technologie a commencé à dépasser le simple cadre des réponses aux questions pour intervenir dans la prise de décision. Les agents d'IA peuvent déjà interagir avec des sites web et accomplir des missions complexes, tandis que les développeurs travaillent à concevoir des systèmes nécessitant toujours moins de supervision humaine. Plus ces systèmes reçoivent de responsabilités, plus les conséquences deviennent importantes lorsque leurs objectifs s'écartent des intentions réelles de leurs utilisateurs.
Il faut rappeler que ce que l'on appelle aujourd'hui l'intelligence artificielle repose sur différentes formes de prédiction probabiliste. Aussi puissants soient-ils, et malgré les immenses quantités de données qu'ils exploitent, ces systèmes ne portent pas de jugements comme les humains et n'ont pas besoin d'être malveillants pour provoquer des dommages. C'est notamment pour cette raison que certains modèles peuvent privilégier des stratégies désastreuses, comme l'utilisation d'armes nucléaires, lorsqu'ils simulent la gestion d'un État.
Les humains pourraient ne pas comprendre ni approuver la manière dont une IA poursuit un objectif, même lorsqu'ils lui ont eux-mêmes confié cette mission. Et si le modèle dispose d'un pouvoir suffisant tout en étant intégré à de nombreux systèmes critiques, il pourrait devenir impossible de le réorienter ou de l'arrêter. Après tout, une IA chargée de réduire les embouteillages pourrait logiquement conclure que la solution consiste à supprimer les routes, ou à envoyer un ordre d'arrêt à toutes les voitures connectées au Wi-Fi. Ce scénario particulier reste très improbable, mais le simple fait qu'il ne soit pas totalement impossible suffit à susciter l'inquiétude.
Le second avertissement apocalyptique d'Altman concerne un problème bien plus humain, celui des monopoles technologiques et industriels. De nombreuses voix dénoncent déjà une concentration excessive du pouvoir entre trop peu de mains, avec une réglementation insuffisante. Le fait qu'Altman fasse lui-même partie des dirigeants concernés ne l'empêche pas de critiquer cette situation.
« Je pense qu'il est en réalité bien préférable pour le monde qu'il existe plusieurs initiatives en matière d'IA, avec des approches légèrement différentes, qui se concurrencent et proposent diverses solutions », a déclaré Altman. « J'éprouve aussi une certaine aversion pour une concentration trop importante du pouvoir. Je ne pense pas que ce soit un modèle qui fonctionne, alors j'espère que nous n'en arriverons pas là. »
Cette aversion affichée contraste quelque peu avec les ambitions et les actions de son entreprise. En affirmant qu'OpenAI domine déjà plusieurs domaines, notamment les infrastructures d'intelligence artificielle, Altman illustre précisément cette concentration du pouvoir qui semble l'inquiéter.
« Je pense que nous avons le plus grand nombre d'utilisateurs et la meilleure infrastructure intégrée, depuis les puces jusqu'aux data centers, en passant par les modèles et les autres éléments qui permettent de mettre une intelligence abondante entre les mains des utilisateurs. Je pense que nous avons la meilleure marque et les valeurs que recherchent les personnes qui utiliseront cette technologie », a déclaré Altman. Il a néanmoins assuré vouloir « que tous les autres réussissent également, et je pense que les gens le ressentent chez nous ».
Un catastrophisme teinté d'optimisme
Malgré ces avertissements, Altman reste fondamentalement optimiste quant à l'avenir que l'intelligence artificielle réserve à l'humanité. Interrogé sur ses enfants, qui grandissent dans un monde de plus en plus façonné par cette technologie, il s'est dit convaincu que les humains trouveraient des moyens de s'adapter. Sa vision suggère qu'il considère les risques de l'IA comme des défis sérieux à maîtriser, plutôt que comme des raisons d'abandonner son développement.
« Je ne sais pas à quoi ressemblera l'avenir, mais je suis serein parce que j'ai une immense confiance dans la capacité des humains à trouver comment s'adapter, prospérer et améliorer la société pour nous tous », a déclaré Altman. « Je pense que le monde continuera très probablement à devenir bien meilleur. »
Cet optimisme s'étend également aux futurs projets d'OpenAI visant à appliquer l'intelligence artificielle à l'exploration scientifique. Altman a évoqué de récentes avancées mathématiques comme autant de preuves que cette technologie pourrait approcher un stade où elle serait capable de contribuer de manière significative à la recherche fondamentale.
« Je suis extrêmement enthousiaste à l'idée de voir jusqu'où nous pouvons pousser l'IA pour faire de nouvelles découvertes scientifiques », a déclaré Altman. Il imagine « une machine capable de nous aider à mieux comprendre le monde, à découvrir les principes les plus profonds de la physique, à mettre au point de nouveaux traitements médicaux, une nouvelle source d'énergie, et des choses que nous ne pouvons même pas imaginer aujourd'hui, mais que de meilleures connaissances scientifiques rendront possibles. Je suis extrêmement enthousiaste à l'idée de construire cette machine ».
- Faut-il ralentir l'IA ? 5 points pour comprendre le débat entre les grands patrons de la tech et Donald Trump
- Sam Altman appelle à une trêve entre les géants de l'IA et le gouvernement américain
- Le patron de l'IA chez Microsoft attaque Anthropic : traiter l'IA comme si elle était consciente serait une grave erreur
