RPA en AI-automatisering voldoen aan de AI Act wanneer je de systemen die je inzet correct classificeert op basis van risico, de bijbehorende verplichtingen naleeft en de verantwoordelijkheden tussen leverancier en gebruiker helder belegt. Voor de meeste AI-gedreven procesautomatisering in zakelijke omgevingen geldt dat de systemen in de categorie minimaal of beperkt risico vallen, waarvoor de eisen aanzienlijk lichter zijn dan voor hoog-risico toepassingen. In dit artikel beantwoorden we de meest gestelde vragen over de AI Act, specifiek gericht op organisaties die werken met RPA, Agentic AI en procesautomatisering.
Welke AI-systemen vallen onder de AI Act?
De AI Act is van toepassing op elk AI-systeem dat in de Europese Unie wordt aangeboden of ingezet, ongeacht waar de aanbieder gevestigd is. Concreet valt een systeem onder de wet als het een machineleercomponent, een op regels gebaseerde redenering of een statistisch model bevat dat output genereert, zoals voorspellingen, aanbevelingen, beslissingen of gegenereerde content.
Voor procesautomatisering betekent dit dat klassieke regelgebaseerde RPA-bots in een grijs gebied zitten. Puur deterministische scripts die stap voor stap vaste instructies uitvoeren zonder enige inferentie of leercomponent, worden doorgaans niet als AI-systeem beschouwd in de zin van de wet. Zodra een automatiseringsoplossing echter gebruikmaakt van machine learning, natuurlijke taalverwerking, computer vision of zelflerende modellen om beslissingen te nemen, valt het systeem wél onder de AI Act.
Agentic AI-systemen, die zelfstandig taken plannen en uitvoeren op basis van context en doelstellingen, vallen vrijwel altijd onder de definitie. Hetzelfde geldt voor chatbots die op basis van taalmodellen reageren, AI-gestuurde routeringssystemen in contactcenters en computer vision-toepassingen die beelden interpreteren. Kort gezegd: hoe meer een systeem zelfstandig redeneert, hoe zekerder het is dat de AI Act van toepassing is.
Hoe werkt de risicoclassificatie van de AI Act?
De AI Act verdeelt AI-systemen in vier risiconiveaus: onaanvaardbaar risico (verboden), hoog risico (streng gereguleerd), beperkt risico (lichte transparantieverplichtingen) en minimaal risico (ongereguleerd). De overgrote meerderheid van zakelijke AI-toepassingen valt in de categorie minimaal of beperkt risico.
De vier niveaus werken als volgt:
- Onaanvaardbaar risico: Verboden praktijken zoals manipulatieve technieken, social scoring door overheden, real-time biometrische identificatie in openbare ruimten en emotieherkenning op de werkvloer. Deze verboden gelden al vanaf 2 februari 2025.
- Hoog risico: Systemen die worden ingezet in acht specifieke domeinen zoals biometrie, kritieke infrastructuur, onderwijs, werkgelegenheid, toegang tot essentiële diensten, rechtshandhaving, migratie en rechtsbedeling. Ook systemen die profielen van personen opstellen, zijn altijd hoog risico.
- Beperkt risico: Systemen zoals chatbots en deepfakes waarbij gebruikers moeten weten dat ze met AI interacteren. De voornaamste verplichting is transparantie.
- Minimaal risico: Spamfilters, AI in videogames en vergelijkbare toepassingen. Geen specifieke verplichtingen.
Voor procesautomatisering in zakelijke omgevingen geldt dat de meeste toepassingen in de categorie minimaal of beperkt risico vallen, tenzij ze worden ingezet in een van de acht hoog-risico domeinen of persoonsprofilering uitvoeren.
Wat zijn de verplichtingen voor hoog-risico AI-systemen?
Hoog-risico AI-systemen zijn onderworpen aan een uitgebreide set verplichtingen die gelden voor zowel aanbieders als gebruikers. De kernverplichtingen draaien om documentatie, transparantie, menselijk toezicht en kwaliteitsborging van data en processen.
De belangrijkste verplichtingen voor aanbieders van hoog-risico AI zijn:
- Een robuust kwaliteitsmanagementsysteem opzetten en onderhouden
- Technische documentatie opstellen die aantoont dat het systeem aan de eisen voldoet
- Automatische logging van activiteiten inbouwen zodat het systeem traceerbaar is
- Transparante gebruikersinformatie verstrekken over mogelijkheden en beperkingen
- Menselijk toezicht mogelijk maken, zodat een medewerker het systeem kan bijsturen of stopzetten
- Robuustheid, nauwkeurigheid en cyberbeveiliging waarborgen
- Een conformiteitsbeoordeling uitvoeren en een CE-markering aanbrengen
- Het systeem registreren in de EU-databank voor hoog-risico AI
Voor gebruikers (deployers) van hoog-risico AI gelden aanvullende plichten: het systeem gebruiken conform de instructies van de aanbieder, menselijk toezicht organiseren en bij gebruik in HR-beslissingen of dienstverlening aan burgers een grondrechteneffectbeoordeling uitvoeren. Gebruikers zijn ook verplicht incidenten te melden en medewerkers te trainen in AI-geletterdheid, een verplichting die al per 2 februari 2025 geldt.
Hoe classificeer je een RPA-proces als hoog risico of niet?
Om te bepalen of een RPA-proces hoog risico is, stel je twee vragen: valt het systeem onder Annex I (veiligheidscomponent in gereguleerde producten) of Annex III (een van de acht hoog-risico gebruikssituaties)? Als het antwoord op beide vragen nee is, is het systeem in de meeste gevallen geen hoog-risico systeem.
Doorloop bij elk automatiseringsproces de volgende stappen:
- Bepaal of het systeem AI bevat: Maakt het gebruik van machine learning, NLP of computer vision? Zo nee, dan valt het buiten de AI Act.
- Controleer de Annex III domeinen: Wordt het systeem ingezet voor HR-beslissingen (werving, promotie, ontslag), kredietwaardigheidsbeoordelingen, toegang tot overheidsuitkeringen, of andere domeinen uit de acht categorieën?
- Check op persoonsprofilering: Stelt het systeem profielen op van individuen op basis van persoonsgegevens? Dan is het altijd hoog risico.
- Beoordeel de impact op grondrechten: Kan het systeem beslissingen nemen die significante gevolgen hebben voor mensen? Dit is een aanwijzing voor hoog risico.
- Documenteer je conclusie: Zelfs als je concludeert dat het systeem niet hoog risico is, leg je de redenering schriftelijk vast. Dit beschermt je bij een eventuele controle.
Een praktisch voorbeeld: een RPA-bot die facturen verwerkt en betalingen klaarzet voor goedkeuring, is in de meeste gevallen geen hoog-risico systeem. Een AI-systeem dat cv’s beoordeelt en kandidaten rankt voor sollicitatieprocedures valt wél in de hoog-risico categorie, omdat het onder werkgelegenheid en personeelsbeheer valt.
Wie is verantwoordelijk voor AI Act-naleving: leverancier of gebruiker?
Zowel de aanbieder (provider) als de gebruiker (deployer) dragen verantwoordelijkheid, maar voor verschillende verplichtingen. De aanbieder is primair verantwoordelijk voor de technische conformiteit van het systeem. De gebruiker is verantwoordelijk voor de correcte inzet van het systeem in de eigen organisatie en context.
De verantwoordelijkheidsverdeling ziet er als volgt uit:
- Aanbieder: Conformiteitsbeoordeling, technische documentatie, CE-markering, registratie in EU-databank, post-market monitoring en incidentmelding aan autoriteiten.
- Gebruiker: Gebruik conform de instructies, menselijk toezicht organiseren, medewerkers trainen, grondrechteneffectbeoordeling uitvoeren waar vereist, en incidenten doorgeven aan de aanbieder.
Er is een belangrijk aandachtspunt: een gebruiker kan zelf aanbieder worden met alle bijbehorende verplichtingen. Dit gebeurt wanneer je je eigen naam op een systeem zet, een substantiële wijziging aanbrengt in een bestaand systeem, of het beoogde doel zodanig aanpast dat een systeem in de hoog-risico categorie terechtkomt. Organisaties die AI-systemen van leveranciers aanpassen of combineren, moeten hier goed op letten.
Voor leveranciers buiten de EU geldt bovendien dat zij een gemachtigde vertegenwoordiger in de EU moeten aanwijzen. Importeurs en distributeurs hebben ook eigen verificatieplichten voordat zij een systeem op de markt brengen of verspreiden.
Wanneer treedt de AI Act in werking en wat zijn de deadlines?
De AI Act treedt gefaseerd in werking. De eerste verplichtingen golden al vanaf 2 februari 2025. De meeste verplichtingen voor hoog-risico AI-systemen gaan in per 2 augustus 2026, wat voor veel organisaties de meest relevante deadline is voor hun procesautomatisering.
De volledige tijdlijn op een rij:
- 2 februari 2025: Verboden praktijken (Artikel 5) zijn van kracht. De verplichting tot AI-geletterdheid voor medewerkers geldt.
- 2 augustus 2025: Verplichtingen voor GPAI-modellen (zoals grote taalmodellen), de governancestructuur, nationale toezichthouders en de boetebepalingen zijn van kracht.
- 2 augustus 2026: De meeste verplichtingen voor hoog-risico Annex III-systemen gelden volledig. Dit is de kritieke deadline voor de meeste zakelijke AI-toepassingen.
- 2 augustus 2027: Verplichtingen voor hoog-risico AI als veiligheidscomponent in gereguleerde producten (Annex I) worden actief. GPAI-modellen die vóór augustus 2025 al op de markt waren, moeten uiterlijk dan conform zijn.
De boetes zijn aanzienlijk: overtredingen van de verboden praktijken kunnen leiden tot maximaal 35 miljoen euro of 7% van de wereldwijde jaaromzet. Non-conformiteit met overige verplichtingen kan oplopen tot 15 miljoen euro of 3%. Voor kmo’s geldt telkens het laagste van het percentage of het vaste bedrag.
Gezien de deadline van augustus 2026 is het verstandig nu al te beginnen met het inventariseren van je AI-systemen, het uitvoeren van een risicoclassificatie en het in kaart brengen van de benodigde documentatie.
Hoe Pegamento helpt met AI Act-conforme procesautomatisering
Als je werkt met procesautomatisering en AI, wil je zeker weten dat je oplossingen voldoen aan de AI Act zonder dat dit ten koste gaat van de efficiëntie of flexibiliteit van je organisatie. Wij helpen organisaties met het verantwoord inzetten van AI en automatisering, van risicoclassificatie tot implementatie.
Wat wij concreet bieden:
- Agentic AI-assistenten die niet alleen instructies opvolgen, maar zelfstandig initiatief nemen en handelen. Dit is wat wij bedoelen met Agentic AI: een evolutie van uitvoerende bots naar zelfdenkende assistenten die processen actief aansturen. Lees meer over onze Agentic AI voor customer service.
- Oplossingen op maat met standaard bouwblokken, geen kostbaar maatwerk maar een slimme combinatie van bewezen modules die precies aansluiten op jouw situatie en sector.
- Alles onder één dak, van ontwikkeling en implementatie tot beheer en ondersteuning, zonder complex leveranciersmanagement of silo’s.
- ISO 27001-gecertificeerde informatiebeveiliging, aangevuld met ISO 9001 en ISO 26000, zodat compliance en kwaliteit structureel geborgd zijn.
- Begeleiding bij AI Act-voorbereiding, inclusief hulp bij risicoclassificatie, documentatie en het inrichten van menselijk toezicht op geautomatiseerde processen.
Wil je weten hoe jouw huidige of geplande automatiseringsoplossingen zich verhouden tot de AI Act? Neem contact op en we kijken samen naar de beste aanpak voor jouw organisatie.
Veelgestelde vragen
Moet ik voor elke RPA-bot afzonderlijk een risicoclassificatie uitvoeren, of kan ik dit per proces of afdeling doen?
Het is verstandig om de risicoclassificatie op systeemniveau uit te voeren, dus per individuele automatiseringsoplossing die een afzonderlijke AI-component bevat. Bots die dezelfde technologie gebruiken voor vergelijkbare taken kun je wel groeperen in een classificatietemplate, maar zodra de gebruikscontext of het domein verschilt, moet je de classificatie herhalen. Een factuurverwerkingsbot en een HR-screeningsbot vallen namelijk in totaal verschillende risicocategorieën, ook al draaien ze op hetzelfde platform.
Wat moet ik concreet doen om te voldoen aan de AI-geletterdheidsplicht die al geldt sinds 2 februari 2025?
De AI-geletterdheidsplicht vereist dat je als gebruikersorganisatie zorgt dat medewerkers die met AI-systemen werken voldoende kennis hebben om deze systemen verantwoord te bedienen en te beoordelen. Concreet betekent dit: breng in kaart welke medewerkers AI-systemen gebruiken, stel een basistraining samen over de werking, beperkingen en risico's van de betreffende systemen, en documenteer wie wanneer welke training heeft gevolgd. Je hoeft geen AI-experts te maken van je medewerkers, maar je moet aantoonbaar kunnen maken dat ze bewust en bekwaam omgaan met de AI-tools die ze dagelijks inzetten.
Wat gebeurt er als ik een AI-systeem van een externe leverancier aanpas voor mijn eigen gebruik — word ik dan zelf aanbieder?
Ja, in bepaalde situaties wel. Je wordt juridisch gezien aanbieder als je een substantiële wijziging aanbrengt in een bestaand AI-systeem, je eigen naam of merk op het systeem plaatst, of het beoogde doel van het systeem zodanig aanpast dat het in een hogere risicocategorie terechtkomt. Praktisch voorbeeld: als je een standaard taalmodel van een leverancier herconfigureert om zelfstandig HR-beslissingen te ondersteunen, ben je niet langer alleen gebruiker maar ook aanbieder met alle bijbehorende verplichtingen zoals conformiteitsbeoordeling en technische documentatie. Leg contractueel altijd vast wie welke verantwoordelijkheid draagt.
Hoe richt ik 'menselijk toezicht' op een geautomatiseerd AI-proces in de praktijk in?
Menselijk toezicht betekent niet dat een medewerker elke beslissing van een AI-systeem handmatig moet controleren, maar wel dat er een werkende mechanisme bestaat om in te grijpen wanneer dat nodig is. Concreet kun je denken aan: een goedkeuringsflow voor beslissingen boven een bepaalde drempelwaarde, een dashboard waarop afwijkingen of uitzonderingen zichtbaar zijn voor een verantwoordelijke medewerker, en een duidelijk gedocumenteerde procedure voor het pauzeren of stopzetten van het systeem. Zorg er ook voor dat de medewerker die toezicht houdt voldoende context en bevoegdheid heeft om daadwerkelijk bij te sturen — toezicht op papier zonder echte handelingsruimte telt niet.
Geldt de AI Act ook voor AI-systemen die we intern gebruiken en niet aan klanten aanbieden?
Ja, de AI Act maakt geen onderscheid tussen intern gebruik en extern aanbod. Zodra je een AI-systeem inzet binnen de EU — ook puur voor interne processen zoals HR, financiën of operations — ben je als gebruikersorganisatie gebonden aan de verplichtingen die voor deployers gelden. Als je het systeem zelf hebt ontwikkeld én intern inzet, ben je tegelijkertijd aanbieder én gebruiker en gelden beide sets verplichtingen. Interne AI-tools die hoog-risico taken uitvoeren, zoals geautomatiseerde beoordelingen van medewerkers, vallen dus volledig onder de wet.
Wat is het grootste praktische risico als ik nu nog niets doe ter voorbereiding op de AI Act?
Het grootste risico is niet zozeer de directe boete, maar de operationele verstoring als je vlak voor de deadline van augustus 2026 ontdekt dat een of meerdere van je AI-systemen hoog-risico zijn en nog niet voldoen aan de documentatie- en toezichtsvereisten. Het achteraf inrichten van een kwaliteitsmanagementsysteem, het opstellen van technische documentatie en het organiseren van menselijk toezicht kost aanzienlijk meer tijd en geld dan wanneer je dit meeneemt in de reguliere ontwikkel- en implementatiecyclus. Begin daarom nu met een inventarisatie van je AI-systemen, ook als je vermoedt dat de meeste in de lage risicocategorieën vallen.
Zijn er specifieke sectoren of use cases binnen procesautomatisering waarbij de kans op hoog-risico classificatie extra groot is?
Ja, de kans op een hoog-risico classificatie is aanzienlijk groter in sectoren en use cases die direct raken aan mensenrechten, toegang tot diensten of werkgelegenheid. Denk aan: geautomatiseerde kredietbeoordelingen of fraudedetectie bij financiële instellingen, AI-gestuurde werving- en selectietools in HR, geautomatiseerde triage of prioritering in de zorg, en systemen die bepalen of iemand in aanmerking komt voor overheidsuitkeringen of -diensten. Ook contactcenterautomatisering waarbij AI bepaalt hoe klanten worden gerouted of beoordeeld, kan in de hoog-risico sfeer komen als het gaat om toegang tot essentiële diensten. Een sectorcheck is daarom altijd onderdeel van een goede risicoclassificatie.
