Zo organiseert u aantoonbaar menselijk toezicht op AI-screening
AI screent uw kandidaten, maar wie kijkt mee? Zo richt u menselijk toezicht in dat u ook kunt aantonen, voordat de AI Act het verplicht.
Steeds meer HR-teams laten AI de eerste schifting doen. De software leest cv's, rangschikt kandidaten en plant gesprekken in. De vraag die daarbij hoort is minder vaak beantwoord. Wie kijkt er nog mee, waarop let die persoon, en kunt u achteraf laten zien dat het gebeurd is? Menselijk toezicht is geen vinkje in een instellingenmenu. Het is een werkproces dat u zelf inricht, en straks ook moet kunnen aantonen.
Waarom menselijk toezicht een eigen ontwerp vraagt
De verleiding bij AI-screening is om de tool te vertrouwen zolang de uitkomsten redelijk lijken. Melissa Sorenson, directeur van de Amerikaanse brancheorganisatie voor screening PBSA, waarschuwt in The HR Director dat kandidaten bij geautomatiseerde beoordeling uitgesloten kunnen raken voordat ze een echte kans hebben gehad zichzelf te presenteren. Zij trekt de vergelijking met de Amerikaanse ban the box-beweging, waarbij werkgevers werden verplicht een strafblad in context te beoordelen in plaats van iemand automatisch af te wijzen. Het patroon is hetzelfde. Een filter dat efficiënt lijkt, blijkt bij nader inzien een groep mensen te raken die u niet wilde uitsluiten.
Dat risico is niet theoretisch. RecruitingDaily beschrijft het bekende voorbeeld van Amazon, waar een intern selectiemodel vrouwen onbedoeld benadeelde omdat het leerde van historische wervingsdata. Het model deed precies wat het geleerd had. Dat was het probleem.
Wat de AI Act van u als gebruiker verwacht
De EU AI Act deelt partijen in twee rollen in. Aanbieders bouwen het systeem, gebruiksverantwoordelijken zetten het in. Op artificialintelligenceact.eu wordt die grens voor de wervingspraktijk scherp getrokken. Selecteert, configureert of gebruikt uw organisatie een AI-tool om personeelsbeslissingen te onderbouwen, dan bent u gebruiksverantwoordelijke, ongeacht wie de techniek heeft gebouwd. U kunt uw verplichtingen niet doorschuiven naar uw leverancier.
Dezelfde bron noemt de verplichtingen die vanaf 2 december 2027 gaan gelden voor AI bij werkgerelateerde beslissingen zoals screening, matching, ranking en chatbots. Het gaat om een risicobeoordeling, technische documentatie, onderzoek naar bias, menselijk toezicht, transparantie richting betrokkenen, doorlopende monitoring en logging van minimaal zes maanden. Artikel 14 legt het menselijk toezicht vast, artikel 26 lid 7 de informatieplicht richting werknemers en artikel 86 het recht van een betrokkene op uitleg. De sancties lopen op tot 15 miljoen euro of 3 procent van de wereldwijde omzet bij overtreding van de hoogrisicoverplichtingen, en tot 35 miljoen euro of 7 procent bij verboden praktijken. De wet werkt ook buiten de EU door wanneer de uitkomst binnen de Unie wordt gebruikt.
Belangrijk daarbij is dat toezicht dat niet is vastgelegd, in een controle niet bestaat. De logging-eis en de documentatieplicht zeggen impliciet hetzelfde. U moet niet alleen meekijken, u moet het kunnen laten zien.
Het proces hapert nu aan twee kanten
Terwijl u nadenkt over toezicht op de machine, verandert ook de andere kant van het proces. Sorenson signaleert dat kandidaten AI inzetten om cv's volledig te laten genereren, met weinig tot geen controle op juistheid, en dat zelfs deepfake-video's in sollicitatiegesprekken opduiken. Dat maakt de rol van de mens in de lus zwaarder, niet lichter. Een recruiter die alleen de top tien van het algoritme afwerkt, controleert twee dingen niet. Niet of het model de juiste mensen bovenaan zette, en niet of de informatie waarop het model zich baseerde klopt.
De optelsom is ongemakkelijk. Een geautomatiseerd filter dat draait op materiaal dat zelf geautomatiseerd is opgesteld, met een mens die vooral de uitkomst aftekent. Dat is precies de situatie waarin toezicht een formaliteit wordt.
Vier controles die u zelf kunt inrichten
Toezicht wordt pas echt als er momenten in het proces zitten waarop iemand iets kan tegenhouden. Vier die u zonder leverancier kunt organiseren.
Een steekproef op afwijzingen. Laat wekelijks een recruiter een vast aantal door het systeem afgewezen kandidaten met de hand beoordelen. Niet de geselecteerden, want die ziet u toch al. De fouten van een filter zitten in wat eruit valt.
Een tweede paar ogen bij grensgevallen. Spreek af bij welke score of welk twijfelsignaal een kandidaat altijd door een mens wordt bekeken, en leg vast wie dat doet.
Een vaste afwijkbevoegdheid. Recruiters moeten de rangschikking kunnen negeren zonder dat daar een goedkeuringsronde voor nodig is. Leg wel vast wanneer het gebeurde en waarom, want dat is later uw bewijs dat het toezicht werkte.
Een periodieke doorkijk per functiegroep. RecruitingDaily verwijst naar richtlijnen van de Amerikaanse toezichthouder FTC, die neerkomen op vier eisen. Transparantie over welke data u gebruikt, uitlegbaarheid van beslissingen, empirische houdbaarheid van de gebruikte gegevens en billijkheid richting beschermde groepen. Diezelfde bron adviseert jaarlijkse audits, kwalitatief en kwantitatief, en het vastleggen van de uitkomsten.
Wat u aan uw leverancier vraagt
De keuze van de tool bepaalt hoeveel toezicht u überhaupt kunt uitoefenen. Vraag welke velden het model meeweegt, of u drempelwaarden zelf kunt aanpassen, hoe lang beslislogs bewaard blijven en of u die logs kunt exporteren. Vraag ook of de leverancier een onafhankelijke biastoets heeft laten uitvoeren en of u die mag inzien. Een leverancier die op deze vragen geen antwoord heeft, verplaatst het risico naar u. Op het providersoverzicht van recruitmentaitools.nl ziet u per aanbieder welke functionaliteit wordt geboden.
Wat betekent dit voor uw organisatie
Als u vandaag AI gebruikt bij screening, matching of planning, bent u gebruiksverantwoordelijke en ligt de verantwoordelijkheid bij u, niet bij uw leverancier. Dat is vastgesteld op basis van de rolverdeling in de AI Act. De verplichtingen rond documentatie, logging en menselijk toezicht gaan volgens artificialintelligenceact.eu vanaf 2 december 2027 gelden voor deze toepassingen, dus u heeft tijd, maar de inrichting van een toezichtproces kost al snel enkele kwartalen omdat er afspraken, rollen en vastlegging bij komen kijken.
Waarschijnlijk is het verstandigst om nu te beginnen met het goedkoopste deel. Leg vast wie meekijkt, waarop, en hoe vaak. Dat kost geen software. Wat wel geld en tijd kost is achteraf reconstrueren hoe beslissingen in de afgelopen jaren tot stand zijn gekomen, op het moment dat een afgewezen kandidaat om uitleg vraagt of een toezichthouder aanklopt.
Eén nuance daarbij. Menselijk toezicht garandeert geen betere selectie. Het garandeert dat er iemand aanspreekbaar is en dat fouten zichtbaar kunnen worden. Wie verwacht dat een steekproef alle bias eruit haalt, overschat de maatregel.
Veelgestelde vragen
Moeten wij nu al aan de AI Act voldoen als wij AI gebruiken bij werving?
Volgens artificialintelligenceact.eu gaan de verplichtingen voor AI bij werkgerelateerde beslissingen op 2 december 2027 in. De inrichting van toezicht, documentatie en logging kunt u het beste eerder starten, omdat u dan ook over historie beschikt wanneer de eisen gaan gelden.
Kunnen wij de verantwoordelijkheid bij onze leverancier leggen?
Nee. Dezelfde bron stelt dat wie een AI-tool selecteert, configureert of gebruikt om personeelsbeslissingen te onderbouwen, gebruiksverantwoordelijke is, ongeacht wie de techniek bouwde. Contractuele afspraken met een leverancier veranderen die rol niet.
Hoe vaak moeten wij onze AI-selectie controleren?
De AI Act schrijft doorlopende monitoring voor zonder vaste frequentie te noemen. RecruitingDaily verwijst naar jaarlijkse audits als praktijknorm, aangevuld met vastlegging van de uitkomsten. Een wekelijkse steekproef op afwijzingen is geen wettelijke eis, maar wel de goedkoopste manier om fouten vroeg te zien.
Conclusie
Menselijk toezicht op AI in werving is geen instelling die u aanzet, maar een reeks momenten waarop iemand iets kan tegenhouden en dat ook vastlegt. De wet vraagt er vanaf eind 2027 om, de praktijk vraagt er nu al om, zeker nu ook het materiaal waarop uw systeem zich baseert steeds vaker door AI is opgesteld. Begin bij het deel dat niets kost. Bepaal wie meekijkt, waarop, en leg vast dat het gebeurd is.
Bronnen
Op zoek naar de juiste AI recruitment tool?
Vergelijk de beste AI recruitment tools en vind je perfecte match.
Bekijk de vergelijking