Dit was 'AI en rekrutering: hoe kunnen we genderbias beperken met verantwoorde AI-praktijken?'

Op vrijdag 29 mei organiseerde het Instituut voor de gelijkheid van vrouwen en mannen (hierna 'het Instituut') het evenement 'AI en rekrutering: hoe kunnen we de genderbias beperken met verantwoorde AI-praktijken?' Tijdens deze inspirerende dag werden boeiende onderzoeksresultaten, praktische inzichten en concrete goede praktijken gedeeld om AI zo te ontwikkelen en gebruiken dat genderbias beperkt wordt, en dat organisaties geen talenten mislopen.

Belangrijkste takeaways:

1. Ontwikkelaar of gebruiker: zorg altijd voor een human in the loop.
2. Een AI-beleid hoeft niet ingewikkeld of duur te zijn, ook KMO's kunnen goede praktijken integreren.
3. Ervaring en human skills van recruiters blijven belangrijk. 

Aanwerving en selectie in het tijdperk van AI

Simon Wuidar, onderzoeker aan LENTIC van de ULiège, presenteerde de studie ‘Aanwerving en selectie in het tijdperk van AI’ uitgevoerd door de ULiège en de UHasselt. Om het gebruik van AI in rekrutering en het bewustzijn van bias en discriminatierisico’s te analyseren, is in de studie gekozen voor een combinatie van semigestructureerde interviews, een vragenlijst ingevuld door meer dan 400 aanwervingsprofessionals, en focusgroepen.

Uit het onderzoek blijkt dat 74% van de recruiters AI gebruikt in minstens één van de drie fases van het aanwervings- en selectieproces: de voorbereiding, het vinden van kandidaten en de uiteindelijke selectie. Naarmate het selectieproces vordert, neemt het gebruik af.

Bron: Policy brief ‘Aanwerving en selectie in het tijdperk van AI’ 

Aanwervingsprofessionals staan overwegend positief tegenover het gebruik van AI in aanwervings- en selectieprocessen: 64% van de recruiters is voorstander (54% eerder voorstander, 10% absoluut voorstander), terwijl amper 13% tegen is. De belangrijkste redenen om AI te gebruiken zijn tijdwinst bij administratieve taken, een snellere aanwerving, gebruiksgemak en de verwachting van een objectiever selectieproces.

Het onderzoek toont aan dat de perceptie van recruiters over biasrisico's verschilt naargelang de fase van het wervingsproces waarin AI-systemen worden ingezet. Gender bias werd maar zelden spontaan genoemd. In de laatste fase van het selectieproces gaf zelfs 39% van de bevraagde recruiters aan dat er geen enkel biasrisico was. 

Hoewel 47% van de bevraagde recruiters denkt dat de AI Act een grote impact zal hebben op rekruteringsprocessen, heeft slechts 21% van de organisaties al maatregelen genomen om zich hierop voor te bereiden.

Goede praktijken in AI-ontwikkeling

Caroline Vandenplas van Yuma benadrukte dat in elke fase van de AI-levenscyclus ontwerpbeslissingen moeten worden genomen om bias te beperken: het anticiperen van risico's, het uitwerken van ethische principes, en het auditen van menselijke beslissingen die het AI-systeem vormgeven. Ze haalde drie bronnen aan van bias in AI:

1. historische data die bias vertonen;
2. proxyvariabelen (bijv. naam, foto, hobby's, schrijfstijl) die indirect gender kunnen aanduiden en waarvan de impact absoluut getest moet worden;
3. feedback loops (waarbij output van AI opnieuw als input in het systeem komt) die ervoor zorgen dat een AI-model na verloop van tijd steeds oneerlijker wordt.

Ontwikkelaars moeten daarom:

1. representatieve datasets bouwen (de samenstelling meten, evenwicht herstellen, zorgen dat de labels geen bias vertonen);
2. de uitkomsten van een AI-systeem per groep meten, niet enkel als geheel. Vervolgens kiezen welke maatstaf voor fairness wordt toegepast en debiasing correcties doen als nodig;
3. het AI-systeem monitoren zodra het in gebruik genomen is. Houd data bij over input, scores en output met een waarschuwing voor het overschrijden van een vastgelegde drempel van gegenderde impact. Herhaal die fairness-test telkens het systeem opnieuw wordt uitgerold.  

Leila Rebbouh van Oniryx nam de aanwezigen mee in de ontwikkeling van een AI-systeem dat cv’s scant en beoordeelt, waarvoor ze het Fairness by Design-principe toepaste. Elke score die het systeem aan een cv geeft, gaat samen met een uitleg over waarom het systeem tot die score is gekomen. De recruiter krijgt dan de mogelijkheid om dit te volgen of niet, en moet altijd zelf verantwoordelijkheid nemen voor de eindbeslissing. 

Ze heeft het systeem getest om eventuele gender bias te analyseren en corrigeren, waarbij ze keek naar de invloed van een vrouwelijke variant van een titel, bijvoorbeeld expert en experte, en van mannelijke en vrouwelijke voornamen. Het systeem bleek mannelijke voornamen te bevoordelen, wat het belang van anonimisering van cv’s door recruiters aantoont. Leila Rebbouh neemt de resultaten van deze tests mee in de verdere ontwikkeling van het systeem.

Met elf jaar ervaring overtreft hij ruimschoots het vereiste minimum van zeven jaar.

Over 'Nicolas'

Met elf jaar ervaring voldoet ze aan de minimumvereisten van de functie.

Over 'Nicole'

Lissah Blommaert van delaware haalde drie concrete cases aan waarin AI in rekrutering de mist in ging en vrouwen consequent benadeelde. In deze gevallen ontbrak er ofwel een beslissing over de definitie van ‘fairness’, ofwel een monitoring van het systeem eens in gebruik genomen, ofwel een zinvolle invulling van ‘human in the loop’. Ze benadrukte ook dat de meeste problemen met AI in aanwerving en selectie voortkomen uit processen die ontbreken of niet correct worden uitgevoerd, niet uit de technologie zelf. 

Goede AI in rekrutering bevat volgens Lissah Blommaert de volgende drie essentiële elementen: 

1. voortdurende monitoring: hou maandelijks bij wat de selectiecijfers zijn van diverse groepen, hertest het systeem en corrigeer bij vertekende resultaten; 
2. een benoemde definitie van fairness: er bestaan verschillende definities die mathematisch incompatibel zijn, maak daarom een bewuste keuze en communiceer daar openlijk over; 
3. human in the loop: AI kan ondersteunen maar mensen zijn nodig voor het opbouwen van een relatie, het finaal beoordelen en het brengen van context.

Generatieve AI verantwoord inzetten bij rekrutering

Heike Pauli van GPT Academy van UCLL ging dieper in op het verantwoord gebruik van generatieve AI, bijvoorbeeld ChatGPT of CoPilot, in rekrutering. Ze activeerde het publiek met quizvragen, en deelde een tip voor een prompt uit de Vacature Studio van GPT Academy. Deze helpt HR-professionals om vacatures te creëren die aansluiten bij het gezochte profiel en die ook aandacht hebben voor inclusiviteit in taalgebruik en toegankelijkheid, en stereotypes vermijden. Heike Pauli gaf ten slotte een inkijkje in het project ‘fAIr recruitment’, dat via een GenAI Readiness Dashboard, praktijkgerichte workshops, uitgevoerde case studies en blogs met adviezen wil sensibiliseren over het omgaan met bias en discriminatie in rekrutering met GenAI. 

Vervolgens was het aan Lisa De Kerpel om de benadering van Inetum voor het gebruik van AI in rekrutering toe te lichten. Aangezien Inetum digitale dienstverlening biedt, is AI sterk geïntegreerd in het dagelijks werk van de consultants en specialisten die voor Inetum werken. Inetum zet in op het verantwoord gebruik van AI door alle medewerkers: via trainingen, een AI-geletterdheid programma, een DEI self-assessment en bewustmaking van bias, en een inclusieve bedrijfscultuur via het versterken van diversiteit in leadership en de She Sparks-community.

Inetum daagt de eigen AI-systemen die ze gebruiken in rekrutering continu actief uit. Zo testen ze of er verschillen in resultaten zijn als ze cv’s met vergelijkbare profielen maar met kleine variaties door AI laten analyseren, of als het taalgebruik anders is. Daarnaast vergelijken recruiters hun eigen evaluatie van een cv met het resultaat van AI. Zowel de recruiters zelf, de D&I-werkgroep als de interne AI-specialist zijn bij deze tests betrokken. 

Laurence Theunis van Adoc Talent Management, een KMO die zich richt op consultancy in HR en rekrutering, training, en research innovation gespecialiseerd in PhD profielen, haalde aan dat bias in rekrutering in de volledige pijplijn van beslissingen voor kan komen: van het bepalen van de noden voor de job tot het sollicitatiegesprek, en alles wat daartussen zit. AI kan bias versnellen en systematisch maken, maar het kan ook juist helpen om bias te onthullen. 

Adoc Talent Management past het ETHICAL-framework (afkomstig uit de wetenschappelijke literatuur) toe voor het gebruik van AI:

E = Examine policies
T  = Think social impact
H = Harness understanding
I = Indicate use
C = Critically engage
A = Access secure versions
L = Look at user agreements

Adoc heeft daarnaast een AI-comité, organiseert training, maakt tool mapping en zorgt voor traceerbaarheid van het gebruik van AI-tools. 

Laurence Theunis presenteerde ook de 'Aqueria'-tool, die voortkomt uit de hackathon van het HeR-Lab project. De technologie-onafhankelijke tool helpt om genderbias in functiebeschrijvingen te identificeren en weg te halen, via een biasscan van de tekst die gepaard gaat met uitleg over waarom een formulering genderbias bevat, en concrete voorstellen voor herschrijving. 

Omdat Adoc zich ook bezighoudt met het coachen van kandidaten, gaf Laurence Theunis ten slotte een aantal adviezen mee aan kandidaten die AI willen gebruiken voor hun sollicitatie: 

• nadenken over het doel;
• checken op correctheid;
• eigenheid behouden;
• context meegeven;
• vertrouwelijke informatie vermijden;
• proberen te leren van de gebruikservaring.