Lors du Women’s Forum, qui s’est tenu à Paris du 20 au 22 novembre 2019, la question du biais des outils dotés d’intelligence artificielle, largement utilisés en RH, a été abordée.

L’intelligence artificielle a fait partie des nombreux thèmes abordés lors de la dernière édition du Women’s forum. Sous un angle critique. Car on a longtemps cru que les machines intelligentes allaient faire preuve de davantage d’objectivité que les humains. Fini, donc, les stéréotypes des hommes de 40 ans qui embauchent leurs pairs ? Las ! Dans le domaine du recrutement comme dans d’autres activités RH, les machines se contentent d’apprendre ce qu’on leur donne à « cruncher ». Si les données fournies à la machine, qui concernent par exemple des niveaux de salaires, encore souvent inférieurs pour les femmes, comportent ce biais, la machine va le répliquer, en éliminant des candidatures aux prétentions jugées trop élevées…

Les exemples sont nombreux et ne touchent pas que les femmes. Des études ont montré qu’aux États-Unis, les candidats afro-américains et hispaniques souffraient des mêmes biais au point de vue salarial. En outre, les recherches font état de difficultés de la part du machine learning pour reconnaître des personnes de couleur, et en particulier les femmes. Conçus essentiellement par des hommes blancs, qui dominent le monde du numérique et de la tech, ces outils se trompent dans 35 % des cas, et n’ont pas pu, selon le Massachusetts Institute of Technology, identifier Michèle Obama ou Serena Williams. Au-delà de la qualité des données originelles, se pose donc aussi la question des algorithmes. Parmi les solutions pour en finir avec les biais de l’intelligence artificielle, évoquées à l’occasion du Women’s Forum, figurent la modification des données de base, bien sûr, mais aussi l’intégration de davantage de femmes dans le secteur du numérique, afin d’éviter le mode de reproduction systématique d’une réalité que l’on veut changer.