Wanneer is het gebruik van AI in HR een ‘hoog risico’?

De AI Act is op 1 augustus 2024 in werking getreden. De verplichtingen voor hoog-risico systemen gelden pas vanaf 2 augustus 2027. Toch is het verstandig om daar niet op te wachten. De richting is duidelijk en dit is hét moment om nu al te inventariseren welke AI-toepassingen je gebruikt en welke risico’s daarbij horen.  

Wanneer is er sprake van hoog risico? 

De AI Act bevat een lijst met toepassingen die als hoog risico worden aangemerkt. Voor HR gaat het om Annex III, punt 4: AI-systemen op het gebied van werkgelegenheid en personeelsbeheer. De kans is groot dat jouw AI-toepassing in deze categorie valt als deze bijvoorbeeld:  

• kandidaten selecteert of filtert, zoals cv-screeningtools of geautomatiseerde interviews; 
• medewerkers beoordeelt of rangschikt: bijvoorbeeld via performance tools die prestaties analyseren; 
• invloed heeft op beslissingen over iemands baan, promotie of contractbeëindiging.

De kern is eenvoudig: hoe directer de AI-toepassing invloed heeft op beslissingen over mensen, hoe groter de kans dat er sprake is van een hoog risico-AI-systeem. 

Niet iedere AI-toepassing is automatisch hoog risico 

Een belangrijke nuance: puur ondersteunende tools vallen soms buiten deze categorie. Denk aan AI die alleen documenten doorzoekt of administratie verwerkt, zonder dat de output direct invloed heeft op een beslissing over een persoon. 

Wees daarbij wel kritisch. Als een manager “formeel” de beslissing neemt, maar in de praktijk sterk leunt op de aanbevelingen van AI, dan kan het systeem alsnog als hoog risico worden beschouwd. De centrale vraag is steeds: beïnvloedt de AI-output daadwerkelijk de beslissing over een persoon? 

Wat betekent dit concreet voor jou? 

Als je met een hoog-risico-AI-systeem werkt, verandert je rol. Dan gaat het niet langer meer alleen om “handig gebruik van AI”, maar ook om aantoonbare controle. Dit zijn de belangrijkste punten:

1. Breng de risico’s in kaart

Je moet kunnen uitleggen welke data je gebruikt, waarom dat nodig is, welke risico’s er zijn voor kandidaten of medewerkers, en hoe je die risico’s beperkt. In de praktijk heb je vaak te maken met meerdere beoordelingen: 

• DPIA (Data Protection Impact Assessment): Op basis van de AVG ben je vaak al verplicht om een DPIA uit te voeren als je AI inzet voor HR-doeleinden. Zeker bij profilering of geautomatiseerde besluitvorming over personen is dit meestal noodzakelijk. 
• Fundamentele rechtenbeoordeling (FRIA): De AI Act introduceert een aanvullende beoordeling van de impact op grondrechten. Let op: deze verplichting geldt specifiek voor overheidsinstanties en bepaalde andere publieke dienstverleners die hoog-risico AI-systemen gebruiken. Voor private organisaties is dit geen wettelijke verplichting, maar het kan wel verstandig zijn om soortgelijke overwegingen mee te nemen. 
• Algemene risicobeoordeling: Los van specifieke wettelijke verplichtingen is het sowieso aan te raden om in kaart te brengen welke risico’s jouw AI-toepassing met zich meebrengt en hoe je die beheert. 

Praktische tip: laat AI je helpen om zo’n analyse op te stellen, maar vertrouw er nooit blind op. Laat de uitkomsten altijd toetsen door de privacy- of compliance-specialist binnen jouw organisatie.

2. Voorkom bias en discriminatie actief

AI kan onbewust bestaande vooroordelen versterken. Als gebruiker ben je niet verantwoordelijk voor het testen van het model zelf, dat is de verantwoordelijkheid van de aanbieder, maar je moet wel alert zijn op signalen van ongelijke uitkomsten. 

Concreet: 

• Monitor de resultaten: zie je opvallende patronen in wie wordt geselecteerd of afgewezen? 
• Meld afwijkingen aan de aanbieder. 
• Documenteer wat je doet om eerlijke uitkomsten te bevorderen.

3. Zorg voor transparantie

Mensen moeten weten dát AI wordt gebruikt, waarvoor en wat de mogelijke impact is. Dus geen black box, transparantie is essentieel. Kandidaten en medewerkers moeten in begrijpelijke taal kunnen lezen wat er gebeurt. 

Praktische tip: laat AI je helpen bij het schrijven van heldere uitleg in gewone taal. En laat die tekst even checken door iemand met kennis van AI-compliance.

4. Houd menselijk toezicht

Dit is een kernpunt in de AI Act: er moet altijd iemand zijn die de AI-output kan beoordelen en kan ingrijpen als dat nodig is. 

In de praktijk betekent dit: 

• Iemand kijkt mee om de uitkomsten te beoordelen en een beslissing te heroverwegen. 
• “De tool zegt nee, dus het is nee” is niet acceptabel. 
• Het moet duidelijk zijn wie eindverantwoordelijk is.

Let op: de wet verbiedt niet dat AI een rol speelt in beslissingen, maar vereist wel dat een mens de controle houdt.

5. Documenteer wat je doet

Misschien niet het leukste onderdeel, maar wel noodzakelijk. Bij vragen of audits moet je kunnen laten zien dat je het goed hebt ingericht. 

Als gebruiker hoef je niet de volledige technische documentatie van het systeem te maken, ook dat is de verantwoordelijkheid van de aanbieder. Maar je moet wel bijhouden: 

• hoe je het systeem gebruikt; 
• welke keuzes je maakt; 
• welke controles je uitvoert; 
• welke automatisch gegenereerde logs beschikbaar zijn (minimaal zes maanden bewaren). 

Praktische tip: laat AI je helpen om documentatie te structureren. Dat scheelt tijd en zorgt voor consistentie. 

Tot slot

De AI Act vraagt om bewust en verantwoord gebruik van AI binnen HR. Je hoeft geen technisch expert te worden, maar je moet wel weten wat je inzet, waarvoor en hoe je de risico’s beheert. Begin daarom met een inventarisatie van je huidige AI-toepassingen binnen je organisatie en beoordeel per tool of deze onder de hoog-risico regels valt. Zo weet je waar je aan toe bent en kun je op tijd de juiste stappen zetten. 

Dit artikel is geschreven door Charelle van Tilborg, jurist bij RAP. RAP is een online HR-platform voor medewerkers, leidinggevenden en HR-professionals.

Wil je zeker weten dat jouw organisatie AI compliant inzet binnen HR? Of twijfel je over de juiste strategie voor AI-chatbots: zelf ontwikkelen of inkopen? Download onze praktische AI-checklist en krijg direct inzicht in de belangrijkste aandachtspunten rondom wet- en regelgeving, governance en implementatie. Meld je daarnaast aan voor onze whitepaper ‘Zelf ontwikkelen of inkopen?’ en ontdek welke afwegingen organisaties maken bij de inzet van AI-oplossingen. 

 Download de AI-checklist en meld je aan voor ontvangst van de whitepaper. Zo ben je voorbereid op een toekomstbestendige en verantwoorde inzet van AI.