AI Now, un institut de recherche qui examine l’impact social de l’intelligence artificielle, vient de publier une étude dans laquelle il diagnostique l’industrie de l’intelligence artificielle avec une “crise de la diversité”. Avec ce diagnostic, l’étude aborde des questions que nous ne nous étions probablement pas posées auparavant en réfléchissant au développement de ces nouvelles technologies.
L’étude elle-même s’intitule “Disciminating Systems” et peut être lue dans sa version originale anglaise via ce lien. Selon les conclusions de l’étude, plusieurs lacunes ou insuffisances dans le domaine de l’intelligence artificielle sont signalées. 

Crise de la diversité des genres et des races dans le secteur de l’IA

 “L‘inégalité dans l’industrie de l’IA est extrême“. 80% des enseignants d’IA sont des hommes, et seulement 18 % des auteurs des conférences pertinentes dans le domaine sont des femmes. Le département de recherche sur l’intelligence artificielle de Facebook ne compte que 15 % des femmes et celui de Google seulement 10 %. Il n’existe pas de données publiques sur la profession des personnes trans ou d’autres minorités sexuelles.

Pour les personnes de couleur, la situation est encore pire. Par exemple : seulement 2,5% des travailleurs de Google sont des personnes de couleur, alors que chez Facebook et Microsoft, le chiffre n’atteint que 4%. Compte tenu des décennies de travail et d’investissement pour renverser ce type d’inégalité, la situation est alarmante.
AndroidPIT 16 9 shutterstock 622521101 L’industrie de l’IA est largement dominée par les hommes blancs. © AndroidPIT
Bien entendu, le rapport fait un certain nombre de suggestions pour améliorer la situation actuelle. Par exemple : les entreprises pourraient améliorer leur transparence en publiant des rapports sur le travail et sa compensation financière, ventilés par race et par sexe. La publication de rapports de transparence sur le harcèlement et la discrimination est également suggérée.

Eh bien, même avec l’exposition de ces problèmes et suggestions, l’approche reste dans le domaine de l’abstraction, mais a des conséquences très claires dans la vie quotidienne et dans l’utilisation quotidienne des différentes technologies. Par exemple, le domaine de l’homme blanc peut influer sur les réalisations conçues pour la reconnaissance faciale, ce qui a des répercussions sur les groupes historiquement marginalisés. Par exemple, l’utilisation d’un programme pour deviner l’orientation sexuelle des gens à l’aide d’un système de reconnaissance faciale, une expérience menée par des chercheurs de l’Université Stanford.

De nombreux travailleurs de l’industrie technologique se sont levés pour signaler des problèmes majeurs dans le développement de l’intelligence artificielle, incitant les entreprises dans lesquelles ils travaillent à suspendre ou à réviser l’utilisation d’outils susceptibles de nuire aux groupes vulnérables ou minoritaires. Des employés d’Amazon ont interrogé des gestionnaires sur l’utilisation de la reconnaissance faciale par l’entreprise. Plus récemment, les employés de Google se sont dressés contre un comité de surveillance de l’éthique qui comprenait le président de la Heritage Foundation, un groupe connu pour son lobbying contre les droits des personnes LGBTG. En réponse, la société a complètement dissous le conseil d’administration.

Les auteurs du rapport concluent : “La crise de la diversité dans le domaine de l’IA est bien documentée et d’une portée très large. Les symptômes se manifestent dans la disparité des emplois dans l’industrie et le monde universitaire, dans l’inégalité des offres d’emploi et des promotions, dans les technologies d’IA qui reflètent et propagent des stéréotypes préjugés, et dans la résurgence du déterminisme biologique dans les systèmes automatisés.”

Qu’en pensez-vous ? L’un d’entre vous a-t-il été victime ou témoin d’un cas de discrimination par un système basé sur l’intelligence artificielle ?