Skip to main content

Discrimination raciale : Microsoft fait front à son tour contre les dérives policières

reconnaissance faciale
(Crédit photo: Shutterstock / Prostock-studio)

Le géant tech Microsoft a annoncé qu'il refuserait de vendre sa technologie de reconnaissance faciale aux institutions policières américaines, tant qu'une réglementation fédérale appropriée n'aura pas été introduite pour empêcher son utilisation abusive.

Cette annonce fait suite à des mesures similaires prises par les autres titans du secteur, IBM et Amazon. Le premier ne vendra plus ou ne développera plus cette technologie controversée, affirmant également qu’il abandonnait tout projet de recherche connexe. Tandis que le second a mis en place un moratoire d'un an sur l'utilisation de la reconnaissance faciale par la police aux Etats-Unis. Ni Microsoft ni Amazon n'ont encore confirmé si leurs déclarations respectives s'étendaient en dehors de la juridiction américaine.

Les porte-paroles de Microsoft ont également déclaré que la société comptait réévaluer sa liste de commandes liée à son logiciel de reconnaissance faciale. Avec un contrôle plus strict de la légitimité de ses clients, même en dehors de tout contexte d'application de la loi.

La reconnaissance faciale dans la tourmente ?

Si la technologie de reconnaissance faciale a considérablement évolué ces dernières années et peut aider des investigations policières légitimes, son application a toujours été controversée.

Les craintes recensées de ses opposants concernent la possibilité de mener une surveillance de masse et d’attribuer une notation sociale des individus. Des inquiétudes renforcées par la définition des filtres paramétrés par les utilisateurs de la reconnaissance faciale - qui pourrait laisser à une IA le pouvoir de discriminer des individus en fonction de leurs attributs physiques, tels que l'âge, la morphologie, le sexe ou la couleur de la peau.

Les méthodes d'audit qui régissent le développement des modèles d'IA - y compris ceux propres aux applications de reconnaissance faciale - restent incohérentes et non réglementées. Ce qui augmente la possibilité que la technologie désavantage plus insidieusement encore chaque minorité.

Poussés à l'action par les manifestations nationales faisant suite au décès de George Floyd, Microsoft - comme IBM et Amazon avant - réclame l’instauration de nouvelles réglementations pour empêcher que la reconnaissance faciale ne contribue aux discriminations quelles qu’elles soient.

« En raison des principes moraux que nous avons mis en place, nous ne distribuons plus aujourd'hui notre technologie de reconnaissance faciale aux services de police des États-Unis », a déclaré Brad Smith, président de Microsoft. « C’est une période qui nous appelle vraiment à écouter davantage, à apprendre davantage et surtout à agir davantage. Nous cesserons de vendre ce type de technologie aux forces de l’ordre, tant que ne sera pas promulguée une législation fondée sur les droits de l'homme pour régir la reconnaissance faciale ».

La compagnie Amazon, quant à elle, espère que cette nouvelle position de l’industrie high-tech incitera les gouvernements à introduire les cadres juridiques nécessaires à l'application de la reconnaissance faciale. « Nous avons plaidé pour que des réglementations plus strictes viennent appuyer l'usage éthique de la reconnaissance faciale, et ces derniers jours, le Congrès américain semble prêt à relever ce défi ».

Via TechCrunch