Enseignements tirés de « IA et recrutement : comment atténuer les biais de genre grâce à des pratiques responsables d’IA ? »
Le vendredi 29 mai, l’Institut pour l’égalité des femmes et des hommes (ci-après : « l’Institut ») a organisé l’événement « IA et recrutement : comment atténuer les biais de genre grâce à des pratiques responsables d’IA ? ». Cette journée inspirante a permis de partager des résultats de recherche passionnants, des perspectives pratiques et des bonnes pratiques concrètes afin de développer et d’utiliser l’IA de manière à limiter les biais de genre et à éviter que les organisations ne passent à côté de talents.
Principaux enseignements :
- Développeur·se ou utilisateur·rice : veillez toujours à ce qu’il y ait un·e human in the loop.
- Une politique en matière d’IA ne doit pas nécessairement être complexe ou coûteuse ; les PME peuvent elles aussi intégrer de bonnes pratiques.
- L’expérience et les human skills des recruteur·se·s restent essentielles.
Dans son mot de bienvenue, Liesbet Stevens, directrice adjointe de l’Institut, a souligné que l’IA offre de nombreuses possibilités pour améliorer les procédures de sélection, mais que les effets positifs ne sont pas garantis. L’IA n’est pas neutre et elle peut reproduire et renforcer les inégalités existantes. Il est important d’y prêter attention, non seulement d’un point de vue éthique, mais aussi en raison des avantages économiques : un recrutement inclusif est non seulement juste, mais il augmente également les chances pour les organisations de trouver les meilleur·e·s candidat·e·s.
Liesbet Stevens a également présenté les recommandations de l’Institut à l’intention des décideur·se·s politiques et des organisations. Ces recommandations portent tout d’abord sur la réglementation et la gouvernance. L’AI Act européen constitue un pas en avant positif, mais la législation à elle seule ne suffit pas. Il faut un cadre solide au niveau national dans lequel les règles anti-discrimination, le droit du travail et la politique en matière de technologie se renforcent mutuellement.
Par ailleurs, il faut se concentrer sur les connaissances et la sensibilisation au sein des organisations. L’Institut demande aux développeur·se·s d’IA de partir du principe « Equality by Design » et plaide en faveur de l’élaboration d’une politique interne en matière d’IA dans chaque organisation, qu’elle soit privée ou publique, petite ou grande. Dans une telle politique, la supervision humaine doit toujours occuper une place centrale.
La question n'est pas de savoir si nous utilisons l'IA, mais comment nous le faisons.
Liesbet Stevens, directrice adjointe de l'Institut pour l'égalité des femmes en des hommes
Recrutement et sélection à l'ère de l'IA
Simon Wuidar, chercheur au LENTIC de l’ULiège, a présenté l’étude « Recrutement et sélection à l’ère de l’IA » menée par l’ULiège et l’UHasselt. Afin d’analyser l’utilisation de l’IA dans le recrutement et la prise de conscience des biais et des risques de discrimination, l’étude a opté pour une combinaison d’entretiens semi-structurés, d’un questionnaire rempli par plus de 400 professionnel·le·s du recrutement et de focus groups.
L’étude révèle que 74 % des recruteur·se·s utilisent l’IA dans au moins l’une des trois phases du processus de recrutement et de sélection : la préparation, la recherche de candidat·e·s et la sélection finale. À mesure que l'on avance dans le processus, l’utilisation de l’IA diminue.
Source : Policy brief « Recrutement et sélection à l’ère de l’IA »
Les professionnel·le·s du recrutement ont une opinion majoritairement positive quant à l’utilisation de l’IA dans les processus de recrutement et de sélection : 64 % des recruteur·se·s y sont favorables (54 % plutôt favorables, 10 % tout à fait favorables), tandis que seulement 13 % y sont opposé·e·s. Les principales raisons d’utiliser l’IA sont le gain de temps sur les tâches administratives, un recrutement plus rapide, la facilité d’utilisation et l’attente d’un processus de sélection plus objectif.
L’étude montre que la perception des recruteur·se·s quant aux risques de biais varie en fonction de la phase du processus de recrutement au cours de laquelle les systèmes d’IA sont utilisés. Les biais liés au genre n’ont été que rarement mentionnés spontanément. Lors de la dernière phase du processus de sélection, 39 % des recruteur·se·s interrogé·e·s ont même indiqué qu’il n’y avait aucun risque de biais.
Bien que 47 % des recruteur·se·s interrogé·e·s estiment que l’AI Act aura un impact significatif sur les processus de recrutement, seules 21 % des organisations ont déjà pris des mesures pour s’y préparer.
Afin d'aider les organisations à élaborer une politique en matière d'IA, l'Institut a rédigé une brochure contenant des informations et des conseils, qui a été présentée lors de la conférence.
Simon Wuidar a également mentionné les conseils suivants pour les recruteur·se·s :
- restez toujours critique et faites appel au peer review ;
- corrigez les résultats générés par l'IA ;
- « re-humanisez » les textes générés par l’IA ;
- ne vous fiez pas uniquement aux algorithmes de plateformes telles que LinkedIn Recruiter pour trouver des candidat·e·s, car ceux-ci peuvent présenter des biais ;
- valorisez votre expertise, celle-ci peut aider à repérer de bon·ne·s candidat·e·s non standard ;
- tirez parti de votre connaissance de l’entreprise et du secteur.
Equality by design
Milla Vidina, d’Equinet, a présenté le projet « Equality by Design, Deliberation and Oversight ». Ce projet visait à (1) soutenir la société civile et les organismes chargés de l’égalité afin de lutter contre la discrimination liée à l’IA, (2) favoriser les échanges avec le secteur de la technologie et (3) intégrer les principes « Equality by Design » dans les normes européennes relatives à l’IA.
Equality by Design, Deliberation and Oversight:
- Design : intégrer de manière proactive l’égalité dans la conception des systèmes d’IA, les safeguards techniques et les structures organisationnelles, afin de veiller à ce que la prévention des biais, l’inclusivité, fairness, l’explicabilité et l’accessibilité soient intégrées dès la conception du système.
- Deliberation: impliquer diverses parties prenantes dans un processus décisionnel inclusif et une conception participative tout au long du cycle de vie de l’IA, afin de traduire des principes abstraits en pratiques sociotechniques adaptées à des contextes spécifiques.
- Oversight: garantir la responsabilité au moyen d’une évaluation continue, d’une documentation et de la transparence, ainsi que par des processus de contrôle indépendants et des mécanismes de recours et de réparation.
Plus d'informations, de documentation et de webinaires sur le project sont disponibles sur le site web d’Equinet.
Bonnes pratiques en matière de développement de l'IA
Caroline Vandenplas, de Yuma, a souligné qu’à chaque étape du cycle de vie de l’IA, des choix de conception doivent être opérés pour limiter les biais : anticiper les risques, définir des principes éthiques et contrôler les décisions humaines qui façonnent le système d’IA. Elle a cité trois sources de biais dans l’IA :
- les données historiques présentant de biais ;
- les variables proxy (par exemple : nom, photo, loisirs, style d'écriture) pouvant indiquer indirectement le genre et dont l'impact doit absolument être testé ;
- les feedback loops (où l'output de l'IA redevient un input dans le modèle) qui font qu'un modèle d'IA devient de plus en plus inéquitable au fil du temps.
Les développeur·se·s doivent donc :
- construire des ensembles de données représentatifs (mesurer leur composition, rétablir l'équilibre, s'assurer que les labels ne présentent aucun biais) ;
- mesurer les résultats d'un système d'IA par groupe, et non pas uniquement dans l'ensemble. Choisir ensuite quel critère de fairness appliquer et effectuer des corrections de debiasing si nécessaire ;
- assurer un monitoring du système d'IA dès sa mise en service. Enregistrer les données relatives à l'input, aux scores et à l'output, avec un avertissement en cas de dépassement d'un seuil défini d'impact lié au genre. Répéter le test de fairness à chaque nouveau déploiement du système.
Bias is not a bug. It's a design decision.
Caroline Vandenplas, Yuma
Leila Rebbouh , d’Oniryx, a présenté aux participant·e·s le développement d’un système d’IA qui scanne et évalue les CV, pour lequel elle a appliqué le principe « Fairness by Design ». Chaque score attribué par le système à un CV s’accompagne d’une explication justifiant pourquoi le système est parvenu à ce score. Le·La recruteur·se a alors la possibilité de suivre cette recommandation ou non, et doit toujours assumer la responsabilité de la décision finale.
Elle a testé le système afin d’analyser et de corriger d’éventuels biais de genre, en examinant notamment l’influence d’une variante féminine d’un titre, par exemple « expert » et « experte », ainsi que celle des prénoms masculins et féminins. Il s’est avéré que le système favorisait les prénoms masculins, ce qui démontre l’importance de l’anonymisation des CV par les recruteur·se·s. Leila Rebbouh tiendra compte des résultats de ces tests dans le développement ultérieur du système.
Avec onze ans d'expérience, il dépasse largement le minimum requis de sept ans.
À propos de « Nicolas »
Avec onze ans d'expérience, elle répond aux exigences minimales du poste.
À propos de « Nicole »
Lissah Blommaert, de delaware, a cité trois cas concrets dans lesquels l’IA a échoué dans le domaine du recrutement et a systématiquement désavantagé les femmes. Dans ces cas, il manquait soit une décision sur la définition de « fairness », soit un monitoring du système une fois celui-ci mis en service, soit une interprétation pertinente du principe « human in the loop ». Elle a également souligné que la plupart des problèmes liés à l’IA dans le recrutement et la sélection proviennent de processus manquants ou mal exécutés, et non de la technologie elle-même.
Selon Lissah Blommaert, une IA efficace dans le domaine du recrutement comprend les trois éléments essentiels suivants :
- un monitoring continu : suivez chaque mois les taux de sélection des différents groupes, testez à nouveau le système et corrigez-le en cas de résultats biaisés ;
- une définition clairement établie de la notion de fairness : il existe différentes définitions mathématiquement incompatibles ; il convient donc de faire un choix délibéré et de le communiquer ouvertement ;
- human in the loop : l’IA peut représenter un soutien, mais les humain·e·s sont indispensables pour établir une relation, procéder à l’évaluation finale et apporter du contexte.
FINDHR : Facilitating the prevention, detection, and management of discrimination in algorithmic hiring
Après la pause lunch, Paulina Novo, de WIDE+, a présenté le projet européen FINDHR consacré à la prévention, à la détection et à la réduction de la discrimination intersectionnelle dans le recrutement par l’IA. Le projet a réuni des partenaires issus de différentes disciplines – techniques, juridiques, éthiques – afin de développer des outils, des directives et des recommandations à l’intention des développeur·se·s, des professionnel·le·s RH et des décideur·se·s politiques. Il comprenait notamment une recherche-action participative menée dans sept pays afin de recueillir les expériences et les points de vue des candidat·e·s sur les processus de recrutement faisant appel à l’IA.
Bien que les candidat·e·s interrogé·e·s aient indiqué que le manque de transparence renforçait le sentiment d’exclusion et de découragement et réduisait la confiance dans le processus et dans l’employeur, ils·elles n’ont pas rejeté l’utilisation de l’IA ; ils·elles ont surtout réclamé une intervention humaine judicieuse, ainsi que des critères de sélection et des mécanismes de feedback compréhensibles.
Il est donc essentiel de communiquer de manière claire et honnête avec les candidat·e·s et de savoir bien expliquer comment une décision a été prise, afin de renforcer la participation et l’inclusion, ainsi que la confiance.
I had a picture in my CV, but I decided to make some tweaks and remove my picture after getting feedback from a friend’s friend that this will help remove the bias... that people won’t see that you are a woman applying for a developer position. I also removed the mention that I was from Colombia. And after that, it seems to really change and I got more successful from hearing back to move on to the next round.
Candidate interrogée dans le cadre du projet FINDHR
Pour plus d’informations sur le projet et les toolkits destinées aux développeur·se·s, aux professionnel·le·s RH et aux décideur·se·s politiques, rendez-vous sur le site web de FINDHR.
L'utilisation responsable de l'IA générative dans le recrutement
Heike Pauli, de la GPT Academy de l’UCLL, a abordé plus en détail l’utilisation responsable de l’IA générative, comme ChatGPT ou CoPilot, dans le domaine du recrutement. Elle a fait participer le public à l’aide de questions sous forme de quiz et a partagé une astuce concernant un prompt du Vacature Studio de la GPT Academy. Cet outil aide les professionnel·le·s RH à créer des offres d’emploi qui correspondent au profil recherché, tout en veillant à l’inclusivité dans le langage utilisé et à l’accessibilité, et en évitant les stéréotypes. Heike Pauli a enfin donné un aperçu du projet « fAIr recruitment », qui vise, grâce à un GenAI Readiness Dashboard, à des workshops pratiques, à des études de cas et à des blogs proposant des conseils, à sensibiliser à la gestion des préjugés et de la discrimination dans le recrutement avec GenAI.
GPT Academy propose des workshops et un accompagnement aux PME en vue d’utiliser l’IA générative de manière responsable. Plus d’informations sur le site web gpt-academy.be.
Bonnes pratiques en matière d'utilisation de l'IA dans le recrutement
Aline Bernard , de Randstad Group, a ouvert la table ronde par une présentation de la politique interne de Randstad visant à utiliser l’IA de manière responsable dans les processus de recrutement. Randstad considère l’IA comme un outil permettant de renforcer les compétences, et non de remplacer des emplois, avec l’égalité et l’inclusion comme piliers centraux. L’IA peut aider à détecter les préjugés linguistiques, à découvrir des talents et à mettre en lumière des compétences : un steward ou une hôtesse de l’air peut très bien devenir un·e excellent·e project ou event manager.
Chez Randstad, il n’y a pas de décisions automatisées : le·la recruteur·se assume toujours la responsabilité finale du résultat d’un processus de sélection. Le droit à une explication est également garanti pour les candidat·e·s. Les guardians of ethics de Randstad :
- un pre-deployment audit ;
- des AI officers disposant d'un droit de veto sur l'utilisation de certains systèmes ;
- un contrôle en trois étapes par des commissions d'évaluation portant sur les aspects juridiques, de protection des données et éthiques.
AI helps us read faster, but humans remain the sole deciders.
Aline Bernard, Randstad Group
Lisa De Kerpel a ensuite expliqué l’approche d’Inetum concernant l’utilisation de l’IA dans le recrutement. Inetum proposant des services numériques, l’IA est fortement intégrée dans le travail quotidien des consultant·e·s et des spécialistes qui travaillent pour l’entreprise. Inetum s’engage en faveur d’une utilisation responsable de l’IA par l’ensemble de ses collaborateur·rice·s : via des formations, un programme de maîtrise de l’IA, une DEI self-assessment et une sensibilisation aux biais, ainsi qu’une culture d’entreprise inclusive grâce au renforcement de la diversité dans le leadership et la She Sparks community.
Inetum remet constamment en question les systèmes d’IA qu’elle utilise dans le cadre du recrutement. Elle vérifie ainsi s’il existe des différences de résultats lorsque l’IA analyse des CV présentant des profils similaires mais comportant de légères variations, ou lorsque le langage utilisé diffère. De plus, les recruteur·se·s comparent leur propre évaluation d’un CV avec le résultat fourni par l’IA. Les recruteur·se·s eux·elles-mêmes, le groupe de travail D&I ainsi que le·la spécialiste interne en IA sont impliqué·e·s dans ces tests.
Reducing bias is not a one-time fix, it's a continuous effort.
Lisa De Kerpel, Inetum
Laurence Theunis, d’Adoc Talent Management, une PME spécialisée dans la consultance en matière de RH et de recrutement, la formation et la recherche innovante axée sur les profils de titulaires de doctorat, a souligné que les préjugés en matière de recrutement peuvent survenir à toutes les étapes du processus décisionnel : de la définition des besoins du poste à l’entretien d’embauche, en passant par toutes les étapes intermédiaires. L’IA peut accélérer les préjugés et les rendre systématiques, mais elle peut aussi, au contraire, aider à les mettre au jour.
Adoc Talent Management applique le cadre ETHICAL (issu de la littérature scientifique) pour l’utilisation de l’IA :
E = Examine policies
T = Think social impact
H = Harness understanding
I = Indicate use
C = Critically engage
A = Access secure versions
L = Look at user agreements
Par ailleurs, Adoc dispose d’un comité dédié à l’IA, organise des formations, fait du tool mapping et assure la traçabilité de l’utilisation des outils d’IA.
Laurence Theunis a également présenté l’outil Aqueria, issu du hackathon du projet HeR-Lab. Cet outil agnostique aide à identifier et éliminer les biais de genre des descriptions de fonction, grâce à une analyse du texte qui explique pourquoi une formulation contient un biais de genre et propose des suggestions concrètes de reformulation.
Comme Adoc s’occupe également de l’accompagnement des candidat·e·s, Laurence Theunis a enfin donné quelques conseils aux candidat·e·s souhaitant utiliser l’IA pour leur candidature :
- réfléchir à l'objectif ;
- vérifier l'exactitude ;
- conserver sa personnalité et son authenticité ;
- fournir du contexte ;
- éviter les informations confidentielles ;
- essayer de tirer des enseignements de l'expérience utilisateur·rice.
Use AI to prepare and clarify – not to fabricate or erase yourself.
Laurence Theunis, Adoc Talent Management
Le mot de clôture a été prononcé par le ministre de l’Égalité des chances, Rob Beenders, qui a exposé les projets du gouvernement fédéral en matière d’IA. Des travaux sont en cours pour élaborer une politique globale relative à l’utilisation de l’IA au sein des services publics et une stratégie belge en matière de données, ainsi que pour développer une administration digitale inclusive et établir des règles claires concernant les nouvelles technologies et les systèmes à haut risque. En ce qui concerne la mise en œuvre nationale de l’AI Act, l’objectif est d’assurer la sécurité juridique pour les entreprises innovantes, mais aussi une protection effective pour les citoyen·ne·s. Dans le cadre de la future stratégie en matière d’IA, une attention particulière sera en outre accordée à la dimension de genre.
Une IA équitable nécessite des choix politiques, des règles claires et une vigilance constante.
Rob Beenders, ministre de l'Égalité des chances
