Het gebruik van artificial intelligence maakt een snelle opmars in HR-processen. Het biedt grote kansen, maar ook grote ethische uitdagingen. In een online seminar gaven businessfilosoof Jochanan Eynikel en Ixly-directeur Diddo van Zand hun visie hoe AI op een ethisch goede manier kan worden ingezet.
Van Zand schetste de razendsnelle ontwikkeling van AI. Het aantal wetenschappelijke publicaties over het onderwerp is het afgelopen decennium enorm toegenomen. Tegelijk zijn de kosten voor de inzet van algoritmes sinds 2018 scherp gedaald. In arbeidsmarktcommunicatie worden ze nu al op grote schaal gebruikt en andere HR-processen zullen snel volgen.
Ixly gebruikt algoritmes onder meer bij de analyse van interessevragenlijsten. De technologie is in staat om voorspellingen te doen of iemand goed past in een bepaalde functie of branche. Van Zand: “Je kunt het algoritme trainen om te voorspellen wie het goed gaat doen. Goed doen is bij ons dat mensen productief zijn maar ook dat ze bevlogenheid hebben, dat ze het werk dat ze doen leuk vinden. Die variabelen proberen we te voorspellen en dat gaat ertoe leiden dat mensen blijer zijn en dat ze langer bij een organisatie blijven, dat ze niet na gemiddeld twee jaar al weggaan maar pas na drie jaar of langer.” Daardoor zijn er minder wisselingen en functioneren teams beter. Dat geeft veel waarde voor zowel individuen als voor de organisatie.
Dit betekent dat de technologie HR-beslissingen gaat beïnvloeden en dat brengt belangrijke ethische uitdagingen met zich mee, legde Eynikel uit. “Ethiek gaat over de vraag wat ik moet doen. Het gaat over goed en slecht gedrag. Als de technologie ons gedrag beïnvloedt, dan kan het niet neutraal zijn.”
Hij gaf verschillende voorbeelden waaruit blijkt dat de inzet van AI juist in HR snel kan ontsporen. Zo zette Amazon een AI-systeem in bij de selectie van software ingenieurs. Omdat de meeste succesvolle programmeurs mannen zijn, ging dit systeem als snel over op het weren van vrouwen uit het selectieproces. “Het ging zo ver dat mannelijke kandidaten die in hun CV hadden staan wat hun vrouw deed al werden geweerd”, aldus Eynikel.
Een ander voorbeeld is dat van investeringsfonds Bridgewater dat een app inzette waarmee medewerkers hun collega’s doorlopend kunnen beoordelen op een groot aantal verschillende competenties. Dit gaf de organisatie meer controle over beslissingen en leidde tot meer efficiëntie, maar het had ook een duidelijke keerzijde. Medewerkers kregen het gevoel dat ze voortdurend onder controle stonden. Daardoor kwamen belangrijke waarden zoals autonomie en vertrouwen onder druk te staan.
Vanuit het publiek werd de vraag gesteld of de inzet van AI zoals Ixly dat doet er niet toe kan leiden dat de technologie altijd dezelfde mensen gaat selecteren en zo kandidaten mist die niet in het plaatje passen. In de praktijk gebeurt juist het omgekeerde, reageerde Van Zand. “Ik denk dat je de vooroordelen die mensen zelf hebben ook niet moet uitvlakken. Mensen hebben ook impliciete modellen van waaruit ze reageren. We hebben een keer onderzoek gedaan bij een salesorganisatie. De conclusie was daar dat leidinggevenden een prototype beeld hebben van wat een salesmedewerker is.” In de praktijk is het profiel van mensen die succesvol zijn in een salesrol veel breder.
De analyses kunnen mensen juist helpen om die vooroordelen weg te nemen en tot betere beslissingen te komen. Een voorbeeld is de energietransitie. Een van de grote uitdagingen is dat de mensen die duurzame technologie zoals warmtepompen kunnen installeren er niet zijn. Van Zand: “Je vindt daar niet de juiste mensen die al gekwalificeerd zijn. Deze algoritmes kunnen helpen om sneller meer talent naar boven te halen zoals we dat al doen bij IT’ers of vrachtwagenchauffeurs. We kijken wie er talent voor hebben en als je ze gaat opleiden wie die opleiding kunnen afmaken en een aantal jaar met plezier dat werk kunnen doen.”
Hoe kunnen organisaties zorgen dat ze AI inzetten voor dit soort positieve doelen en de ethische valkuilen vermijden? Bedrijfsfilosoof Eynikel verwees naar de leiderschapstheorie van Simon Sinek en zette een paar aanbevelingen op een rij. “Start with the why. Welk positief doel streef je na met tools en met HR? Vertrek daar vandaan. Ten tweede, expliciteer je waardekaders. Dat zijn eigenlijk de morele krijtlijnen waarbinnen je producten ontwikkeld worden. Ontwikkel AI-systemen met je ecosysteem, je klant en je gebruikers, en betrek hun expertise. Identificeer en test heel vroeg en stuur bij waar nodig. Maak duidelijk we hebben het op die manier ontworpen zodat zaken zoals privacy of non-discriminatie beschermd zijn.”
Van Zand kijkt er op dezelfde manier naar. Hij wees erop dat de kwaliteit van de data die het model gevoed krijgt heel bepalend is voor de uitkomsten. “Het begint bij de dataset die je gebruikt. Je moet echt heel goed nadenken welke data je wel of niet wil gebruiken. Omdat het nu zo makkelijk is, zie je dat hele ruwe datasets geupload worden. Dan weet je eigenlijk niet goed wat je aan het doen bent. Net zoals je dat met andere instrumenten doet om te voorspellen moet je heel precies kijken wat er gebeurt om bias te voorkomen. Welk effect hebben leeftijd, opleiding, geslacht en andere kenmerken op de voorspellingen van de algoritmes? Dan kan het heel goed dat je voorspellingen gaat doen die goed te verantwoorden zijn.”
Daarvoor is het cruciaal dat HR goede basiskennis heeft van de technologie. “Of je wel of niet een goede directeur of medewerker selecteert is een high impact beslissing. Je moet als HR de psychologie snappen van wat AI is, hoe het werkt en wat het doet. Ik pleit ervoor om het onderdeel te laten zijn van de opleiding. Het is niet dat je zelf moet kunnen doen maar je moet het snappen hoe het werkt en zorgen dat je waarden voldoende in het systeem vertegenwoordigd zijn.”
Als AI goed wordt ingezet kan het veel waarde toevoegen aan HR-beslissingen. Dat betekent dat de morele kaders en doelen vooraf helder zijn, dat stakeholders betrokken zijn bij de ontwikkeling, dat de juiste, relevante data is toegevoegd aan algoritmes en dat alles goed is gedocumenteerd. Tenslotte zijn onderhoud en regelmatig toetsen of er vooroordelen in het model zijn geslopen cruciaal. Daar hoort bij dat zo nodig wordt bijgestuurd. “Het is niet zo dat als je vandaag een model hebt dat dit dan voor tien jaar geldt. Het kan over een halfjaar weer anders zijn. Je zult je algoritmes dus continu moeten toetsen, minimaal één keer per jaar”, concludeerde Van Zand.