Een AI-systeem is “hoog risico” onder de AI Act als het valt binnen een van de categorieën van bijlage III — of als het een veiligheidscomponent is in een product dat al onder EU-productwetgeving valt. Bijlage III noemt onder meer AI voor werving en HR, kredietscoring, onderwijs en toetsing, biometrie en toegang tot essentiële diensten. Deze systemen zijn niet verboden, maar mogen alleen op de markt onder strikte voorwaarden: risicobeheer, datagovernance, technische documentatie, menselijk toezicht, logging en een conformiteitsbeoordeling. Dit artikel loopt de categorieën van bijlage III langs met Nederlandse voorbeelden, en legt uit welke verplichtingen op aanbieders en gebruikers rusten.
Key Takeaways
- Een systeem is hoog risico als het onder bijlage III valt of een veiligheidscomponent is in een gereguleerd product.
- Kerncategorieën: HR/werving, kredietscoring, onderwijs, biometrie, essentiële diensten.
- Aanbieders dragen de zwaarste last: risicobeheer, documentatie, conformiteitsbeoordeling en registratie.
- Gebruikers (deployers) moeten menselijk toezicht borgen en soms een FRIA (fundamentele-rechten-effectbeoordeling) uitvoeren.
- De meeste hoog-risicoverplichtingen worden van kracht in augustus 2026.
Wanneer is een systeem hoog risico?
De AI Act kent twee routes naar de kwalificatie hoog risico (art. 6):
- Bijlage III — het systeem wordt gebruikt in een van de daar genoemde toepassingsgebieden. Dit is de route die de meeste organisaties raakt.
- Productveiligheid — het systeem is een veiligheidscomponent van een product dat onder bestaande EU-productwetgeving valt (denk aan medische hulpmiddelen of machines) en een conformiteitsbeoordeling door derden vereist.
Er is een nuance: valt een systeem formeel onder bijlage III maar vormt het geen wezenlijk risico voor gezondheid, veiligheid of grondrechten, dan kan een uitzondering gelden. De aanbieder moet dat wel documenteren en onderbouwen — het is geen vrijbrief. De precieze afbakening staat in Verordening 2024/1689; het bredere kader beschrijven we in de AI Act: de Europese AI-verordening uitgelegd.
De categorieën van bijlage III met Nederlandse voorbeelden
| Categorie | Nederlands voorbeeld | Aandachtspunt |
|---|---|---|
| Werving en HR | CV-screening, sollicitatie-assessments | Discriminatierisico |
| Kredietscoring | Kredietbeoordeling, BKR-achtige scoring | Toegang tot krediet |
| Onderwijs | Geautomatiseerde toetsing, toelating | Kansengelijkheid |
| Biometrie | Gezichtsherkenning, emotieherkenning | Grondrechten, AVG art. 9 |
| Essentiële diensten | Toegang tot uitkeringen, verzekeringen | Bestaanszekerheid |
| Rechtshandhaving | Risicoprofilering | Zeer gevoelig |
| Kritieke infrastructuur | Beheer van energie/water | Veiligheid |
Werving en HR
AI die cv’s screent, kandidaten rangschikt of assessments beoordeelt, is hoog risico. Het discriminatierisico is reëel: een model dat op historische data traint, kan bestaande vooroordelen reproduceren. Dit raakt direct aan de AVG bij werving en selectie.
Kredietscoring
Systemen die de kredietwaardigheid van natuurlijke personen beoordelen, vallen onder hoog risico (met uitzondering van fraudedetectie). De toegang tot krediet is een essentiële dienst; een fout in het model kan iemand uitsluiten.
Biometrie
Biometrische identificatie- en categoriseringssystemen en emotieherkenning zijn hoog risico — voor zover ze niet al verboden zijn. Hier lopen de AI Act en artikel 9 AVG (bijzondere persoonsgegevens) door elkaar: biometrische gegevens zijn onder de AVG een bijzondere categorie met een streng regime.
Verplichtingen: aanbieder versus gebruiker
De AI Act legt de zwaarste last bij de aanbieder (provider) — degene die het systeem ontwikkelt of onder eigen naam op de markt brengt. De gebruiker (deployer) — degene die het systeem in gebruik neemt — heeft een lichtere, maar reële set verplichtingen.
Aanbieder (art. 8-17):
- Een risicobeheersysteem over de hele levenscyclus
- Datagovernance: relevante, representatieve, foutenvrije trainingsdata
- Technische documentatie en logging
- Transparantie en informatie aan gebruikers
- Menselijk toezicht by design
- Nauwkeurigheid, robuustheid en cyberbeveiliging
- Conformiteitsbeoordeling, CE-markering en registratie in de EU-databank
Gebruiker/deployer (art. 26-27):
- Gebruik conform de instructies van de aanbieder
- Menselijk toezicht borgen in de organisatie
- Relevante inputdata bewaken
- Logs bewaren
- Voor bepaalde deployers (overheid, essentiële diensten): een FRIA — een fundamentele-rechten-effectbeoordeling — uitvoeren
De FRIA en de DPIA
De fundamentele-rechten-effectbeoordeling (FRIA) is nieuw onder de AI Act: bepaalde gebruikers van hoog-risicosystemen moeten vooraf beoordelen welke impact het systeem heeft op de grondrechten van betrokkenen. Verwerkt het systeem persoonsgegevens, dan komt daar de DPIA onder de AVG bij. In de praktijk kunt u beide beoordelingen goed combineren, omdat ze deels dezelfde vragen stellen over risico’s voor personen. Een DPIA-stappenplan vormt een logische basis.
Het verschil in focus blijft wel bestaan. De DPIA kijkt naar de risico’s van de gegevensverwerking: grondslag, dataminimalisatie, bewaartermijnen en beveiliging. De FRIA kijkt breder naar álle grondrechten die het systeem kan raken — non-discriminatie, menselijke waardigheid, het recht op een eerlijk proces — ook waar geen persoonsgegevens in het spel zijn. Voer ze daarom niet als één document uit, maar als twee samenhangende beoordelingen die naar elkaar verwijzen. Zo voorkomt u dat een grondrechtenrisico buiten beeld valt omdat het niet direct met gegevensverwerking te maken heeft, en houdt u beide toezichthouders — de AP voor de AVG en de markttoezichthouder voor de AI Act — tevreden.
Registratie en de EU-databank
Voor hoog-risicosystemen uit bijlage III geldt een registratieplicht in een centrale EU-databank vóór ze in gebruik worden genomen. Aanbieders leggen daar informatie vast over het systeem, het beoogde doel en de conformiteitsstatus; bepaalde deployers (met name overheidsinstanties) registreren hun gebruik. Deze transparantie stelt toezichthouders en het publiek in staat te zien welke hoog-risicosystemen in omloop zijn — een bewuste doorbraak met de black-box-praktijk van het verleden. De Europese Commissie beheert het kader en publiceert richtsnoeren over de invulling van de verplichtingen per categorie.
Voor organisaties betekent dit dat compliance niet stopt bij interne documentatie: u moet uw hoog-risicosystemen actief aanmelden en de registratie actueel houden. Een gemiste of onjuiste registratie is een zelfstandige tekortkoming, los van de vraag of het systeem zelf aan de eisen voldoet.
Nederlandse gevoeligheid
FAQ
Wanneer is een AI-systeem hoog risico?
Als het valt onder een van de toepassingsgebieden van bijlage III (zoals HR, krediet, onderwijs, biometrie of essentiële diensten), of als het een veiligheidscomponent is in een product dat onder EU-productwetgeving valt. Een systeem uit bijlage III dat geen wezenlijk risico vormt, kan onder een gedocumenteerde uitzondering vallen.
Wat is het verschil tussen een aanbieder en een gebruiker?
De aanbieder (provider) ontwikkelt het systeem of brengt het onder eigen naam op de markt en draagt de zwaarste verplichtingen: risicobeheer, documentatie, conformiteitsbeoordeling en registratie. De gebruiker (deployer) neemt het systeem in gebruik en moet vooral menselijk toezicht borgen, logs bewaren en soms een FRIA uitvoeren.
Wat is een FRIA?
Een fundamentele-rechten-effectbeoordeling: een verplichte beoordeling voor bepaalde gebruikers van hoog-risicosystemen (met name overheid en aanbieders van essentiële diensten) van de impact op de grondrechten van betrokkenen. Bij verwerking van persoonsgegevens combineert u die het best met een DPIA.
Wanneer gelden de hoog-risicoverplichtingen?
Het gros van de verplichtingen voor hoog-risicosystemen wordt van kracht in augustus 2026. Voor bepaalde in gereguleerde producten ingebedde systemen geldt augustus 2027. Verboden praktijken zijn al sinds februari 2025 niet meer toegestaan.
Vallen HR- en recruitmenttools onder hoog risico?
Ja. AI die cv’s screent, kandidaten rangschikt of assessments beoordeelt, valt onder bijlage III als hoog risico, vanwege het discriminatierisico. Naast de AI-Act-verplichtingen geldt de AVG onverkort voor de verwerking van sollicitantgegevens.
Conclusie
Een AI-systeem is hoog risico als het onder bijlage III valt — HR, krediet, onderwijs, biometrie, essentiële diensten — of een veiligheidscomponent in een gereguleerd product is. Zulke systemen zijn toegestaan, maar alleen onder strikte voorwaarden. Aanbieders dragen de zwaarste last (risicobeheer, documentatie, conformiteitsbeoordeling); gebruikers moeten menselijk toezicht borgen en soms een FRIA uitvoeren. Met de deadline van augustus 2026 in zicht en de Nederlandse gevoeligheid rond algoritmes is het zaak de inventaris, de FRIA en de AVG-documentatie nu op orde te brengen.