Microsoft a discrètement retiré une énorme base de données de reconnaissance faciale contenant plus de 10 millions d’images d’environ 100.000 personnes.

Les images ont été recueillies à partir des moteurs de recherche et publiées en 2016 dans un jeu de données appelé MS Celeb et utilisées pour former des systèmes de reconnaissance faciale dans le monde entier, y compris par des chercheurs militaires et des entreprises chinoises telles que SenseTime et Megvii.

MS Celeb, une base d’entrainement de système de reconnaissance

Le dataset – précédemment utilisé dans le cadre d’un projet d’IA visant à reconnaître les célébrités – a été associé aux efforts déployés par la Chine pour sévir contre les minorités ethniques dans le pays.

“Le site était destiné à des fins académiques” souligne Microsoft auprès du Financial Times. “Elle a été gérée par un employé qui n’est plus chez Microsoft et a été supprimée depuis.”

La technologie de reconnaissance faciale est couramment utilisée pour les tâches quotidiennes comme déverrouiller les téléphones et étiqueter les amis sur les réseaux sociaux, mais les préoccupations relatives à la vie privée persistent.

Les progrès de l’intelligence artificielle et la prolifération des caméras facilitent de plus en plus la surveillance et le suivi de ce que font les individus.

Les autorités font souvent appel à cette technologie pour des enquêtes, mais celle-ci n’est pas sans défauts. Des logiciels utilisés par la Metropolitan Police du Royaume-Uni produisent ainsi des correspondances incorrectes dans 98% des cas.

Bon nombre des personnes figurant dans le jeu données n’ont pas accordé leur consentement, mais leurs images ont été récupérées sur Internet sous licence Creative Commons, selon le FT. Cette licence permet la réutilisation des photos à des fins de recherche.

Le gouvernement chinois a utilisé un logiciel de reconnaissance faciale pour suivre et contrôler 11 millions d’Ouïghours, une minorité majoritairement musulmane, dans le pays, rapportait le New York Times en avril.

Tirant parti d’un vaste réseau de caméras de surveillance, la technologie recherchait les Ouïghours en fonction de leur apparence et surveillait leurs déplacements. Des millions de personnes auraient ainsi été emprisonnées dans des camps de détention, selon le Times.