Wat zijn de belangrijkste ethische risico's van AI in recruitment?
Bias die uit historische data wordt overgenomen, gegevens die verder worden gebruikt dan waarvoor ze zijn verzameld, en beoordelingen die niet zijn uit te leggen. Alle drie zijn te beheersen, maar niet zonder er iets voor te doen.
AI in selectie levert veel op. Sneller screenen, minder onderbuikgevoel, beoordelingen die je kunt vergelijken. Maar juist omdat het zo goed werkt, wordt er weinig gevraagd naar wat eronder zit. Dit artikel gaat over de drie plekken waar het ethisch misgaat, en over wat je eraan doet zonder je hele proces om te gooien.
Er wordt veel gesproken over ethiek en AI, meestal in abstracte termen. In de praktijk komt het neer op drie concrete vragen die je over elk instrument in je proces moet kunnen beantwoorden.
Kun je die drie niet beantwoorden, dan heb je geen ethisch probleem in de toekomst maar nu al.
Een model leert van wat het krijgt. Train je het op je eigen aannamehistorie, dan leert het welk type mens jij de afgelopen jaren hebt aangenomen. Dat voelt als objectiviteit, maar het is je eigen voorkeur op schaal.
Wat dit lastig maakt is dat je het niet ziet. Een score ziet er precies hetzelfde uit, of hij nu klopt of niet. Daarom is periodieke controle geen luxe maar de enige manier om erachter te komen. Kijk of de uitkomsten tussen groepen uiteenlopen en of dat verschil te verklaren is uit de functie.
Hier gaan we uitgebreider op in in onze blog over hoe AI bias verkleint en waar het misgaat.
AI-tools werken met gevoelige gegevens, van cv's tot opgenomen gesprekken. Twee dingen gaan daar vaak mis.
Het eerste is dat gegevens verder reizen dan bedoeld. Een assessmentuitkomst die is verzameld voor één vacature, wordt een jaar later gebruikt om iemand voor iets anders te benaderen. Dat is een andere verwerking en daar hoort een eigen afweging bij.
Het tweede is uitlegbaarheid. Een model dat werkt als een zwarte doos is niet alleen juridisch kwetsbaar, het is ook praktisch onhandig. Je kunt een kandidaat niet vertellen waarom hij is afgevallen, en je kunt zelf niet zien of het model iets meet wat niet ter zake doet. Wat je niet kunt uitleggen, kun je ook niet verbeteren.
Over de juridische kant lees je meer in onze blog over de AVG en AI in recruitment.
Vier maatregelen dekken het grootste deel van het risico.
Is AI in selectie überhaupt ethisch verantwoord?
Ja, en in veel gevallen ethisch beter dan het alternatief. Een mens die honderd cv's in een middag doorneemt beoordeelt niet consistent. De vraag is niet of je AI gebruikt maar hoe.
Wat is het grootste risico dat organisaties onderschatten?
Een model trainen op de eigen aannamehistorie en de uitkomst objectief noemen.
Hoe weet ik of een leverancier dit serieus neemt?
Vraag om onafhankelijk onderzoek naar wat het instrument meet, en om documentatie over waar de gegevens staan. Wie daarop lang moet nadenken, geeft je al een antwoord.
Ethische AI in recruitment gaat niet over techniek maar over verantwoordelijkheid. Wie bias controleert, zuinig is met gegevens en zijn beoordelingen kan uitleggen, kan AI met vertrouwen inzetten. Wie dat overslaat, heeft zijn oude gewoontes alleen sneller gemaakt.
Wil je weten hoe onderbouwde selectie eruitziet? Bekijk de assessments van Selection Lab of plan een vrijblijvend gesprek in.
.png)
Wat zijn de belangrijkste ethische risico's van AI in recruitment?
Bias die uit historische data wordt overgenomen, gegevens die verder worden gebruikt dan waarvoor ze zijn verzameld, en beoordelingen die niet zijn uit te leggen. Alle drie zijn te beheersen, maar niet zonder er iets voor te doen.
AI in selectie levert veel op. Sneller screenen, minder onderbuikgevoel, beoordelingen die je kunt vergelijken. Maar juist omdat het zo goed werkt, wordt er weinig gevraagd naar wat eronder zit. Dit artikel gaat over de drie plekken waar het ethisch misgaat, en over wat je eraan doet zonder je hele proces om te gooien.
Er wordt veel gesproken over ethiek en AI, meestal in abstracte termen. In de praktijk komt het neer op drie concrete vragen die je over elk instrument in je proces moet kunnen beantwoorden.
Kun je die drie niet beantwoorden, dan heb je geen ethisch probleem in de toekomst maar nu al.
Een model leert van wat het krijgt. Train je het op je eigen aannamehistorie, dan leert het welk type mens jij de afgelopen jaren hebt aangenomen. Dat voelt als objectiviteit, maar het is je eigen voorkeur op schaal.
Wat dit lastig maakt is dat je het niet ziet. Een score ziet er precies hetzelfde uit, of hij nu klopt of niet. Daarom is periodieke controle geen luxe maar de enige manier om erachter te komen. Kijk of de uitkomsten tussen groepen uiteenlopen en of dat verschil te verklaren is uit de functie.
Hier gaan we uitgebreider op in in onze blog over hoe AI bias verkleint en waar het misgaat.
AI-tools werken met gevoelige gegevens, van cv's tot opgenomen gesprekken. Twee dingen gaan daar vaak mis.
Het eerste is dat gegevens verder reizen dan bedoeld. Een assessmentuitkomst die is verzameld voor één vacature, wordt een jaar later gebruikt om iemand voor iets anders te benaderen. Dat is een andere verwerking en daar hoort een eigen afweging bij.
Het tweede is uitlegbaarheid. Een model dat werkt als een zwarte doos is niet alleen juridisch kwetsbaar, het is ook praktisch onhandig. Je kunt een kandidaat niet vertellen waarom hij is afgevallen, en je kunt zelf niet zien of het model iets meet wat niet ter zake doet. Wat je niet kunt uitleggen, kun je ook niet verbeteren.
Over de juridische kant lees je meer in onze blog over de AVG en AI in recruitment.
Vier maatregelen dekken het grootste deel van het risico.
Is AI in selectie überhaupt ethisch verantwoord?
Ja, en in veel gevallen ethisch beter dan het alternatief. Een mens die honderd cv's in een middag doorneemt beoordeelt niet consistent. De vraag is niet of je AI gebruikt maar hoe.
Wat is het grootste risico dat organisaties onderschatten?
Een model trainen op de eigen aannamehistorie en de uitkomst objectief noemen.
Hoe weet ik of een leverancier dit serieus neemt?
Vraag om onafhankelijk onderzoek naar wat het instrument meet, en om documentatie over waar de gegevens staan. Wie daarop lang moet nadenken, geeft je al een antwoord.
Ethische AI in recruitment gaat niet over techniek maar over verantwoordelijkheid. Wie bias controleert, zuinig is met gegevens en zijn beoordelingen kan uitleggen, kan AI met vertrouwen inzetten. Wie dat overslaat, heeft zijn oude gewoontes alleen sneller gemaakt.
Wil je weten hoe onderbouwde selectie eruitziet? Bekijk de assessments van Selection Lab of plan een vrijblijvend gesprek in.
