L'intelligence artificielle fascine autant qu'elle effraie. Celui qui est considéré comme le "parrain de l'IA" a d'ailleurs quitté Google pour des raisons éthiques. Et si Elon Musk pense qu'elle pourrait devenir la "nounou de l'humanité", elle pourrait également détruire des centaines de milliers d'emplois à travers le monde. De plus, selon l'ancien PDG de Google, l'IA pourrait "tuer ou blesser" des humains. Un groupe de spécialistes et d'entrepreneurs vient ainsi de nous mettre en garde.
La déclaration de 22 mots, raccourcie pour la rendre aussi claire et concise que possible, annonce : "L'atténuation du risque d'extinction par l'IA devrait être une priorité mondiale au même titre que d'autres risques à l'échelle de la société tels que les pandémies et les guerres nucléaires."
Intelligence artificielle : le PDG d'OpenAI s'engage
Cette déclaration a été publiée par un organisme à but non lucratif, le Center for AI Safety. Elle est notamment cosignée par Sam Altman, PDG d'OpenAI, Demis Hassabis, PDG de Google DeepMind, ainsi que Geoffrey Hinton et Yoshua Bengio. Ces deux derniers ont remporté le prix Turing 2018 (parfois appelé le "prix Nobel de l'informatique") pour leurs travaux sur l'IA.
Cette déclaration intervient au moment où un débat complexe et controversé sur la sécurité de l'IA est mené, notamment à la Maison-Blanche. Au début de l'année, une lettre ouverte signée par certaines personnes, dont Elon Musk, appelait à une "pause" de six mois dans le développement de l'IA. Certains, comme Bill Gates, ont exprimé leur désaccord. Des experts ont estimé qu'elle surestimait le risque posé par l'IA, tandis que d'autres étaient d'accord avec le risque, mais pas avec la solution proposée dans la lettre.
Dan Hendrycks, directeur exécutif du Center for AI Safety, ne compte d'ailleurs pas proposer de solution, mais se contente d'évoquer les risques. Celui-ci précise : "Nous ne voulions pas proposer un menu très large de 30 interventions potentielles. Lorsque cela se produit, le message est dilué. Il y a une idée fausse très répandue, même dans la communauté de l'IA, selon laquelle il n'y a qu'une poignée de prophètes de malheur. En réalité, de nombreuses personnes expriment en privé des inquiétudes à ce sujet.
Source : theverge
