Quiconque s'inquiète de la montée en puissance d’un cerveau artificiel misanthrope façon Skynet pourra se rassurer un minimum. La « résistance » est d’ores et déjà en place et elle vient de présenter un système de protection inédit, destiné à éviter une éventuelle révolte de l'IA.
L'organisation à but non lucratif MITRE Corporation s'est associée à 12 grandes entreprises technologiques - dont Microsoft, IBM et Nvidia - pour instaurer un système de sécurité capable de seconder les analystes humains pour repérer, alerter, répondre et traiter les menaces visant les ressources d'apprentissage machine, aussi appelée Machine Learning (ML).
- Ceci n’est pas une mise à jour de Windows 10 mais un malware tenace
- Meilleurs antivirus 2020 : quelle solution gratuite, premium ou business choisir ?
- En complément de votre antivirus, optez pour les meilleurs VPN | VPN Jeux en ligne | VPN Télétravail | VPN gratuits
La Matrice est universelle
Selon Microsoft, la création de ce système a été motivée par la croissance continue du nombre d'attaques IA générées dans le monde. L'entreprise a mené une enquête auprès de 28 grandes firmes, et a constaté que presque toutes ne sont pas encore conscientes de la menace que peut représenter l'apprentissage machine antagoniste, vingt-cinq d'entre elles déclarant qu'elles ne disposent pas des outils adéquats pour sécuriser leurs ressources ML.
Afin de rassurer et de conseiller ces organisations, la Matrice (le nom du système de contre-attaque – ironique, non ?) cherche à accompagner leurs départements informatiques à se défendre face aux offensives visant les ressources ML.
La Matrice des Menaces contre l’Apprentissage Machine répertorie un certain nombre de vulnérabilités et de comportements adverses repérés par Microsoft et MITRE au fil des ans, ainsi que toute une série de solutions sécuritaires mises en place par la firme de Redmond. Elle est aujourd’hui accessible sur GitHub, pour toutes les entreprises qui souhaitent en savoir plus.
« Nous avons constaté que, lorsqu'ils attaquent un système, les cybercriminels utilisent fréquemment une combinaison de techniques traditionnelles comme le phishing, ainsi que des ressources d’apprentissage machine détournées », avance Microsoft pour justifier le développement de la Matrice. « Afin de sécuriser l'apprentissage machine, les barrières entre les entreprises et les responsabilités publiques et privées s'estompent ; les défis du secteur public comme la sécurité nationale nécessiteront la coopération des acteurs privés autant que des investissements publics », rajoute Mikel Rodriguez, directeur de la recherche sur l'apprentissage machine chez MITRE.
« Pour aider à relever ces défis, MITRE s'est engagée à travailler avec des organisations comme Microsoft et la communauté tech au sens large. De manière à identifier les vulnérabilités critiques dans la chaîne d'approvisionnement de l'apprentissage machine. Ce cadre est une première étape pour aider à rassembler les différents acteurs et leur permettre de réfléchir aux nouveaux défis à relever pour sécuriser les systèmes d'apprentissage machine de manière plus holistique ».
