Le volume 2-2 de la revue est consacré aux facteurs de risques et d'opportunités liés à l’utilisation des technologies numériques, dont l’intelligence artificielle (IA) , et à leur influence sur les questions d’équité, de diversité et d’inclusion (EDI), tant pour les employées et employés, les gestionnaires, les organisations publiques ou privées que la société.
Il est codirigé par Tania Saba (fondatrice et titulaire de la chaire BMO en diversité et gouvernance de l’Université de Montréal et professeure titulaire à l’École de Relations Industrielles de l’Université de Montréal) et par Gaëlle Falcon (professeure agrégée en gestion des ressources humaines à la Faculté des Sciences de l'Administration de l’Université Laval).
Il s’inscrit dans le contexte de l’utilisation accrue des systèmes fondés sur l’IA (SIA) dans différentes sphères du monde du travail, notamment en gestion des ressources humaines et en management (Strohmeier, 2020; Strohmeier et Piazza, 2015). Un SIA est un système basé sur une technologie d’intelligence artificielle qui peut faire des prédictions, des recommandations ou prendre des décisions influençant des environnements réels ou virtuels, avec des niveaux d’autonomie variables (OCDE, 2019). Or, les SIA risquent de reproduire les inégalités existantes dans les systèmes de gestion dans lesquels ils sont implantés, voire de les amplifier (Bolukbasi et al., 2016; Zou et Schiebinger, 2018).
Une prise de conscience a récemment émergé dans les communautés scientifiques et les milieux professionnels face aux enjeux de créer ou renforcer les stéréotypes et discriminations par les SIA (O’Neil, 2016; Zou et Schiebinger, 2018). Les appels à développer des SIA responsables ou dignes de confiance se sont multipliés ces dernières années, mais leur opérationnalité reste incertaine (Cachat-Rosset et Klarsfled, 2023).
Cependant, la question du risque discriminatoire n’est pas la seule manière d’appréhender le phénomène. Les technologies numériques telles que l’IA peuvent également atténuer certaines formes d’inégalité et représenter un accélérateur important du développement de l’EDI dans les organisations (Cachat-Rosset, 2024).
Bibliographie
Bolukbasi, T., Chang, K. W., Zou, J. Y., Saligrama, V. et Kalai, A. (2016). Man is to computer programmer as woman is to homemaker? debiasing word embeddings. Advances in Neural Information Processing Systems 29, 4349–57.
Cachat-Rosset, G. (2024). L’intelligence artificielle : meilleure alliée ou fossoyeuse de l’équité, de la diversité et de l’inclusion dans les organisations ? Dans A. Ollier-Malaterre et X. Parent-Rocheleau (dirs.), Le management à l'ère numérique : nouvelles pratiques, réalités et régulations. Presses de l’Université du Québec.
Déclaration de Montréal (2018). La Déclaration de Montréal pour un développement responsable de l'intelligence artificielle. https://declarationmontreal-iaresponsable.com/la-declaration/
Cachat-Rosset, G. et Klarsfeld, A. (2023). Diversity, Equity, and Inclusion in Artificial Intelligence: An Evaluation of Guidelines. Applied Artificial Intelligence, 37(1), 2176618.
OCDE (2019). Recommendation of the council on artificial intelligence.
O’Neil, C. (2016). Weapons of math destruction: How big data increases inequality and threatens democracy. Broadway Books.
Strohmeier, S. (2020). Digital human resource management: A conceptual clarification. German Journal of Human Resource Management, 34(3), 345-365.
Strohmeier, S. et Piazza, F. (2015). Artificial intelligence techniques in human resource management—a conceptual exploration. Intelligent Techniques in Engineering Management: Theory and Applications, 149-172.
Zou, J. et Schiebinger, L. (2018). Design AI so that it’s fair. Nature 559 (7714) : 324–26.