Om ervoor te zorgen dat een Agentic AI oplossing voldoet aan de transparantie-eisen van de AI Act, moet je als organisatie aantonen dat het systeem traceerbaar, documenteerbaar en controleerbaar is. Dit geldt in het bijzonder wanneer jouw Agentic AI-toepassing als hoog-risico wordt geclassificeerd onder de verordening. In dit artikel beantwoorden we de meest gestelde vragen over transparantie, documentatie en menselijk toezicht bij Agentic AI in het licht van de AI Act.
Welke transparantie-eisen stelt de AI Act aan AI-systemen met hoog risico?
De AI Act verplicht aanbieders en gebruikers van hoog-risico AI-systemen om transparantie te bieden op vier niveaus: technische documentatie, logging van systeemgedrag, begrijpelijke informatie voor gebruikers, en aantoonbaar menselijk toezicht. Deze eisen zijn bedoeld om verantwoording mogelijk te maken en willekeurige of oncontroleerbare beslissingen te voorkomen.
Concreet betekent dit dat een hoog-risico AI-systeem moet voldoen aan de volgende transparantievereisten:
- Technische documentatie: een volledig dossier van het systeem, inclusief ontwerp, werking, trainingsdata en bekende beperkingen.
- Automatische logging: het systeem moet gebeurtenissen registreren zodat achteraf kan worden nagegaan welke beslissingen zijn genomen en op basis waarvan.
- Gebruikersinformatie: mensen die met het systeem werken of erdoor worden beïnvloed, moeten begrijpen dat ze met AI te maken hebben en wat het systeem doet.
- Uitlegbaarheid: de logica achter beslissingen moet inzichtelijk zijn voor toezichthouders en betrokkenen.
Hoog-risico AI is gedefinieerd in Artikel 6 van de AI Act en omvat onder andere systemen die worden ingezet in acht specifieke domeinen, waaronder toegang tot essentiële diensten, werkgelegenheid en personeelsbeheer, en rechtsbedeling. Systemen die profilering van natuurlijke personen uitvoeren, zijn altijd hoog-risico, ongeacht de context. De meeste verplichtingen voor hoog-risico Annex III-systemen gelden vanaf 2 augustus 2026.
Wat maakt Agentic AI anders dan gewone AI voor de AI Act?
Agentic AI onderscheidt zich van conventionele AI doordat het systeem zelfstandig initiatief neemt, beslissingen opeenvolgend koppelt en acties uitvoert zonder dat een mens elke stap goedkeurt. Dit autonome karakter maakt de toepassing complexer te beoordelen onder de AI Act, omdat de verantwoordelijkheidsketen minder direct is dan bij een enkelvoudig beslismodel.
Waar een traditioneel AI-model één invoer verwerkt en één uitvoer geeft, kan een Agentic AI-systeem een reeks stappen doorlopen: informatie ophalen, een beslissing nemen, een actie uitvoeren, het resultaat evalueren en vervolgens een nieuwe stap initiëren. Dit maakt het moeilijker om precies te bepalen welke stap tot welk resultaat heeft geleid.
Voor de AI Act is dit relevant om twee redenen. Ten eerste vergroot de autonomie het potentiële risico: hoe meer het systeem zelfstandig handelt, hoe groter de impact van een fout of ongewenste uitkomst. Ten tweede vraagt de meerstappige werking om logging en documentatie op het niveau van individuele acties, niet alleen op het niveau van het eindresultaat. Als jouw Agentic AI-oplossing beslissingen neemt die mensen direct raken, is de kans groot dat het als hoog-risico wordt geclassificeerd.
Welke documentatie is verplicht voor een Agentic AI-oplossing?
Voor een Agentic AI-oplossing die als hoog-risico wordt aangemerkt, is uitgebreide technische documentatie verplicht. Deze documentatie moet actueel zijn, toegankelijk voor toezichthouders en voldoende gedetailleerd om de werking, beperkingen en risico’s van het systeem volledig te begrijpen.
De verplichte documentatie omvat minimaal:
- Systeembeschrijving: een gedetailleerde omschrijving van het doel, de werking en de grenzen van het systeem.
- Risicobeheersysteem: een gedocumenteerde analyse van risico’s en de maatregelen die zijn genomen om deze te beheersen.
- Trainingsdata en datakwaliteit: informatie over welke data zijn gebruikt, hoe deze zijn geselecteerd en welke kwaliteitscontroles zijn toegepast.
- Prestatiestatistieken: meetbare indicatoren waarmee de nauwkeurigheid en betrouwbaarheid van het systeem worden aangetoond.
- Wijzigingshistorie: een overzicht van substantiële aanpassingen aan het systeem, inclusief de beoordeling of die aanpassingen de risicoklassificatie wijzigen.
Voor General Purpose AI-modellen (GPAI) gelden aanvullende verplichtingen: aanbieders moeten technische documentatie opstellen conform Annex XI, downstream-aanbieders informeren over capaciteiten en beperkingen conform Annex XII, en een samenvatting van de gebruikte trainingsdata publiek beschikbaar stellen. Als jouw Agentic AI-oplossing is gebouwd op een GPAI-model, gelden deze verplichtingen ook voor de onderliggende laag van het systeem.
Hoe leg je uit wat een Agentic AI-beslissing heeft veroorzaakt?
Uitlegbaarheid bij Agentic AI vraagt om een combinatie van technische logging, gestructureerde redeneertraces en begrijpelijke rapportage. Het doel is dat je achteraf kunt reconstrueren welke invoer, welke stap en welke weging tot een specifieke beslissing of actie heeft geleid.
In de praktijk betekent dit dat je op drie niveaus uitlegbaarheid moet organiseren:
- Actieniveau: elke actie die het systeem onderneemt, wordt gelogd met tijdstempel, context en de reden voor die actie.
- Beslissingsniveau: de redenering achter een keuze wordt vastgelegd, inclusief welke alternatieven zijn overwogen en waarom een bepaalde route is gekozen.
- Uitkomstniveau: het eindresultaat wordt gekoppeld aan de keten van acties en beslissingen die eraan voorafgingen, zodat een volledige audit trail beschikbaar is.
Dit is technisch uitdagend bij systemen die werken met grote taalmodellen of neurale netwerken, omdat de interne werking van deze modellen niet altijd direct interpreteerbaar is. Een praktische aanpak is het inbouwen van gestructureerde tussenrapportages in de workflow van het Agentic AI-systeem, zodat elke stap expliciet wordt vastgelegd in begrijpelijke taal. Voor toezichthouders en betrokkenen is het niet nodig dat zij de onderliggende modelarchitectuur begrijpen, maar wel dat zij kunnen volgen waarom een beslissing voor hen relevant was.
Wanneer is menselijk toezicht verplicht bij Agentic AI?
Menselijk toezicht is verplicht bij alle hoog-risico AI-systemen, inclusief Agentic AI-toepassingen die onder die categorie vallen. De AI Act eist dat aanbieders en gebruikers maatregelen treffen zodat mensen het systeem effectief kunnen monitoren, corrigeren en indien nodig stopzetten tijdens de werking.
De wet maakt onderscheid tussen twee vormen van toezicht. Bij toezicht tijdens gebruik moeten mensen in staat zijn om afwijkend gedrag te herkennen en in te grijpen voordat schade ontstaat. Bij toezicht achteraf gaat het om de mogelijkheid om beslissingen te herzien en de gevolgen te corrigeren. Beide vormen zijn relevant voor Agentic AI, juist omdat het systeem meerdere stappen zelfstandig doorloopt.
In de praktijk betekent dit dat je in jouw Agentic AI-oplossing expliciete breekpunten inbouwt: momenten waarop een mens de voortgang beoordeelt voordat het systeem verdergaat. Dit is met name verplicht wanneer het systeem beslissingen neemt die onomkeerbaar zijn of directe gevolgen hebben voor mensen, zoals het weigeren van een dienst, het initiëren van een betaling of het wijzigen van klantgegevens. Hoe groter de autonomie en de impact, hoe frequenter en dieper het menselijk toezicht moet zijn.
Hoe controleer je of jouw Agentic AI-oplossing voldoet aan de AI Act?
Je controleert of jouw Agentic AI-oplossing voldoet aan de AI Act door eerst de risicoklassificatie te bepalen, vervolgens de verplichtingen voor die klasse in kaart te brengen, en daarna systematisch te toetsen of jouw systeem en organisatie aan elke vereiste voldoen. Dit is een doorlopend proces, geen eenmalige check.
Een praktische aanpak bestaat uit de volgende stappen:
- Classificeer het systeem: bepaal of jouw Agentic AI-oplossing hoog-risico is op basis van Artikel 6 en Annex III. Controleer ook of het systeem profilering van personen uitvoert, want dat is altijd hoog-risico.
- Inventariseer de verplichtingen: stel per verplichting vast of je als aanbieder, deployer of importeur wordt aangemerkt. Wie het systeem onder eigen naam aanbiedt of substantieel wijzigt, neemt alle verplichtingen van een aanbieder over.
- Audit de documentatie: controleer of de technische documentatie compleet, actueel en toegankelijk is voor toezichthouders.
- Test de logging: verifieer dat het systeem automatisch voldoende gegevens vastlegt om beslissingen achteraf te kunnen reconstrueren.
- Evalueer het toezichtmechanisme: toets of de ingebouwde breekpunten voor menselijk toezicht in de praktijk werken en of medewerkers weten hoe ze moeten ingrijpen.
- Herhaal bij wijzigingen: elke substantiële aanpassing aan het systeem vereist een nieuwe beoordeling van de risicoklassificatie en de conformiteit.
Organisaties die nog niet volledig conform zijn, kunnen in de tussentijd aansluiten bij een gedragscode (Code of Practice) om een vermoeden van conformiteit te verkrijgen, totdat geharmoniseerde normen beschikbaar zijn. Dit biedt een gestructureerd pad richting volledige naleving zonder dat je hoeft te wachten op definitieve standaarden.
Hoe Pegamento helpt met AI Act-compliance voor Agentic AI
Voldoen aan de transparantie-eisen van de AI Act is geen administratieve bijzaak, maar een integraal onderdeel van hoe je een verantwoorde Agentic AI oplossing bouwt en beheert. Wij bij Pegamento begrijpen die uitdaging, omdat we Agentic AI niet als een losstaand product zien, maar als een evolutie van uitvoerende automatisering naar zelfdenkende assistenten die zelfstandig initiatief nemen en handelen. Wat vroeger RPA heette, is bij ons uitgegroeid tot Agentic AI: systemen die niet alleen instructies opvolgen, maar ook redeneren, prioriteren en handelen.
Onze aanpak is gebouwd op bewezen modules die je kunt combineren zonder kostbaar maatwerk, en die vanaf het begin zijn ontworpen met controleerbaarheid en transparantie als uitgangspunt. Concreet bieden wij:
- Ingebouwde audit trails zodat elke beslissing en actie van het systeem traceerbaar is.
- Gestructureerde breekpunten voor menselijk toezicht op de momenten die er echt toe doen.
- Documentatieondersteuning die aansluit op de vereisten van de AI Act, inclusief technische dossiers en risicobeoordelingen.
- Eén aanspreekpunt voor ontwikkeling, implementatie, beheer en compliance, zodat je geen complexe leveranciersstructuur hoeft te managen.
- ISO 27001-gecertificeerde beveiliging als fundament, aangevuld met ISO 9001 en ISO 26000, zodat informatiebeveiliging en kwaliteit geborgd zijn.
Wil je weten hoe jouw huidige of geplande Agentic AI-oplossing scoort op de AI Act-vereisten? Neem contact op en we kijken samen naar de beste aanpak voor jouw situatie.
Veelgestelde vragen
Geldt de AI Act ook voor Agentic AI-oplossingen die we intern gebruiken en niet aan derden aanbieden?
Ja, de AI Act maakt onderscheid tussen aanbieders (die het systeem ontwikkelen of op de markt brengen) en deployers (die het systeem in gebruik nemen). Ook als je een Agentic AI-oplossing uitsluitend intern inzet, ben je als deployer gebonden aan verplichtingen zoals menselijk toezicht, logging en het naleven van de instructies van de aanbieder. Als je het systeem bovendien zelf hebt ontwikkeld of substantieel hebt aangepast, gelden alle verplichtingen van een aanbieder, inclusief technische documentatie en conformiteitsbeoordeling.
Wat zijn de meest gemaakte fouten bij het inrichten van logging voor Agentic AI?
De meest voorkomende fout is dat organisaties alleen het eindresultaat loggen in plaats van elke individuele stap in de beslissingsketen. Voor Agentic AI is het juist essentieel dat tussenliggende acties, overwogen alternatieven en de context op het moment van beslissen worden vastgelegd. Een tweede veelgemaakte fout is het ontbreken van een retentiebeleid: logs moeten lang genoeg bewaard worden om audits en klachtenprocedures te ondersteunen, en de AI Act stelt daar specifieke eisen aan voor hoog-risico systemen.
Hoe bepaal ik of een aanpassing aan mijn bestaande Agentic AI-systeem 'substantieel' is en dus een nieuwe conformiteitsbeoordeling vereist?
Een aanpassing is substantieel als deze de bedoelde werking, het risiconiveau of de prestaties van het systeem significant beïnvloedt. Denk aan het toevoegen van nieuwe beslissingsbevoegdheden, het wisselen van het onderliggende AI-model, het uitbreiden naar een nieuw toepassingsdomein, of het aanpassen van de drempelwaarden voor geautomatiseerde beslissingen. Bij twijfel is het verstandig om de aanpassing te documenteren en expliciet te toetsen aan de oorspronkelijke risicoklassificatie; als de uitkomst verandert, is een volledige herbeoordeling verplicht.
Kunnen we al beginnen met bouwen aan een conforme Agentic AI-oplossing, of moeten we wachten tot alle geharmoniseerde normen beschikbaar zijn?
Je hoeft niet te wachten: de kernvereisten van de AI Act zijn al vastgesteld en de meeste verplichtingen voor hoog-risico Annex III-systemen gaan in per 2 augustus 2026. Je kunt nu al beginnen door de risicoklassificatie te bepalen, technische documentatie op te bouwen en logging en toezichtmechanismen in te richten op basis van de huidige wettekst. Zolang geharmoniseerde normen nog niet beschikbaar zijn, kun je aansluiten bij een erkende gedragscode (Code of Practice) om een vermoeden van conformiteit te verkrijgen.
Hoe leg ik een beslissing van mijn Agentic AI uit aan een klant die geen technische achtergrond heeft?
De AI Act vereist niet dat je de technische werking van het model uitlegt, maar wel dat de betrokkene begrijpt dat een AI-systeem een rol heeft gespeeld en wat de relevante uitkomst voor hem of haar is. Praktisch gezien betekent dit dat je in de workflow gestructureerde, mensvriendelijke samenvattingen genereert die in begrijpelijke taal beschrijven welke informatie is meegewogen en tot welke conclusie het systeem is gekomen. Bied daarnaast altijd een duidelijk contactpunt aan waar betrokkenen terecht kunnen met vragen of bezwaren over de beslissing.
Wat gebeurt er als mijn Agentic AI-oplossing is gebouwd op een extern GPAI-model, zoals een grote taalmodel-API? Wie is dan verantwoordelijk voor de AI Act-compliance?
De verantwoordelijkheid is gelaagd: de aanbieder van het GPAI-model is verantwoordelijk voor de verplichtingen op modelniveau, zoals technische documentatie conform Annex XI en het informeren van downstream-aanbieders over capaciteiten en beperkingen. Als jij het GPAI-model integreert in een hoog-risico Agentic AI-oplossing en deze onder eigen naam aanbiedt of substantieel aanpast, neem je de volledige verplichtingen van een aanbieder over voor het eindproduct. Het is daarom cruciaal om contractueel vast te leggen welke informatie de GPAI-aanbieder aan jou moet leveren, zodat jij jouw eigen technische dossier compleet kunt maken.
Hoe frequent moeten de breekpunten voor menselijk toezicht zijn, en wie in onze organisatie mag die toezichtrol vervullen?
De AI Act schrijft geen vaste frequentie voor, maar stelt dat het toezicht effectief moet zijn: de toezichthouder moet afwijkend gedrag tijdig kunnen herkennen en ingrijpen voordat schade ontstaat. De frequentie hangt dus af van de snelheid, autonomie en impact van jouw specifieke Agentic AI-oplossing. De persoon die de toezichtrol vervult, moet voldoende kennis hebben van het systeem om afwijkingen te beoordelen en bevoegd zijn om het systeem te pauzeren of te stoppen; dit hoeft geen technisch expert te zijn, maar mag ook geen louter formele rol zijn zonder echte interventiemogelijkheid.
