La course à l'intelligence artificielle semble inarrêtable. Pourtant, de nombreux spécialistes s'en inquiètent. C'est notamment le cas du "parrain de l'IA", qui a quitté Google pour des raisons éthiques. Celui-ci vient d'ailleurs de faire part de ses inquiétudes. De nombreux experts appellent ainsi à sa réglementation, y compris Sam Altman, patron d'OpenAI. L'entreprise, qui développe une IA superintelligente, compte bien encadrer celle-ci.
Une superintelligence est un modèle d'IA hypothétique. Cette technologie serait plus efficace que l'humain le plus doué et le plus intelligent, et excellerait dans plusieurs domaines d'expertise au lieu d'un seul comme certains modèles de la génération précédente. OpenAI estime qu'un tel modèle pourrait voir le jour avant la fin de la décennie et est en train de former une équipe dédiée à la gestion des risques liés à la superintelligence artificielle.
Une fois de plus, OpenAI met en garde contre les dangers de l'IA
L'entreprise de Sam Altman déclare ainsi : "La superintelligence sera la technologie la plus importante que l'humanité ait jamais inventée et pourrait nous aider à résoudre un grand nombre des problèmes les plus importants du monde. Mais l'immense pouvoir de la superintelligence pourrait aussi être très dangereux et pourrait conduire à la déresponsabilisation de l'humanité, voire à l'extinction de l'homme."
La nouvelle équipe sera ainsi co-dirigée par Ilya Sutskever, scientifique en chef d'OpenAI, et Jan Leike, responsable du laboratoire de recherche de l'entreprise. OpenAI affirme d'ailleurs qu'elle consacrera 20 % de sa puissance de calcul à l'initiative. L'entreprise veut ainsi s'assurer que sa superintelligence peut être utilisée en toute sécurité.
OpenAI précise : "Bien qu'il s'agisse d'un objectif incroyablement ambitieux et que nous ne soyons pas assurés de réussir, nous sommes optimistes et pensons qu'un effort ciblé et concerté peut résoudre ce problème [...] De nombreuses idées se sont révélées prometteuses lors d'expériences préliminaires, nous disposons de mesures de progrès de plus en plus utiles et nous pouvons utiliser les modèles actuels pour étudier bon nombre de ces problèmes de manière empirique."
Source : engadget
