Agentic AI brengt in klantenservice concrete risico’s met zich mee op het gebied van autonome besluitvorming, gebrek aan transparantie en mogelijke schending van klantrechten. De EU AI Act verplicht organisaties die Agentic AI inzetten in klantcontact om deze risico’s systematisch te beheersen, menselijk toezicht te borgen en in bepaalde gevallen uitgebreide conformiteitsdocumentatie bij te houden. In dit artikel beantwoorden we de meest gestelde vragen over Agentic AI in klantenservice en wat de AI Act concreet van jouw organisatie vraagt.
Welke specifieke risico’s brengt Agentic AI mee in klantenservice?
Agentic AI in klantenservice brengt risico’s mee die verder gaan dan die van traditionele chatbots of geautomatiseerde keuzemenu’s. Omdat Agentic AI zelfstandig beslissingen neemt, acties uitvoert en initiatief kan nemen zonder tussenkomst van een medewerker, vergroot dat de kans op fouten met directe impact op klanten.
De voornaamste risico’s zijn:
- Autonome beslissingen zonder context: Een AI-agent die een klacht afhandelt of een verzoek verwerkt, mist soms de nuance die een mens wel zou oppikken, zoals bij een kwetsbare klant of een emotioneel beladen situatie.
- Gebrek aan transparantie: Klanten weten niet altijd dat ze met een AI-systeem communiceren, wat het vertrouwen schaadt en juridische verplichtingen raakt.
- Profilering en discriminatie: Als een Agentic AI klantgedrag analyseert om prioriteit of behandeling te bepalen, bestaat het risico dat bepaalde groepen systematisch benadeeld worden.
- Datakwaliteit en foutpropagatie: Een autonome agent die op basis van verouderde of onjuiste informatie handelt, kan verkeerde toezeggingen doen of klanten misleiden.
- Verlies van menselijk overzicht: Hoe meer taken Agentic AI autonoom uitvoert, hoe groter de kans dat medewerkers geen zicht meer hebben op wat er namens de organisatie gecommuniceerd wordt.
Deze risico’s zijn niet hypothetisch. In sectoren zoals overheid, zorg en woningcorporaties, waar klantcontact directe gevolgen heeft voor mensen, wegen ze extra zwaar.
Hoe classificeert de AI Act Agentic AI in klantenservice?
De AI Act hanteert vier risiconiveaus: onaanvaardbaar risico (verboden), hoog risico (streng gereguleerd), beperkt risico (lichte transparantieverplichtingen) en minimaal risico (ongereguleerd). Agentic AI in klantenservice valt doorgaans in de categorie beperkt of hoog risico, afhankelijk van wat het systeem concreet doet.
Beperkt-risico toepassingen, zoals een AI-chatbot die vragen beantwoordt of informatie verstrekt, vallen onder transparantieverplichtingen. De klant moet weten dat hij of zij met een AI-systeem communiceert. Dat klinkt eenvoudig, maar in de praktijk vergeten organisaties dit regelmatig te implementeren.
Hoog-risico classificatie ligt op de loer zodra Agentic AI:
- Profilering uitvoert van individuele klanten (altijd hoog risico volgens de AI Act);
- Beslissingen neemt over toegang tot essentiële diensten, zoals het al dan niet doorverbinden naar noodhulp of het beoordelen van een klantverzoek met financiële gevolgen;
- Wordt ingezet in sectoren die onder Annex III van de AI Act vallen, waaronder overheid en publieke dienstverlening.
Verboden praktijken gelden onverkort ook in klantenservice. Agentic AI mag geen manipulatieve technieken gebruiken die buiten het bewustzijn van de klant gedrag sturen, en mag kwetsbare groepen niet uitbuiten op basis van leeftijd, handicap of sociaaleconomische situatie. Deze verboden zijn al van kracht sinds 2 februari 2025.
Welke verplichtingen gelden er voor hoog-risico AI-systemen in klantcontact?
Als jouw Agentic AI-systeem als hoog-risico wordt geclassificeerd, gelden er vanaf 2 augustus 2026 uitgebreide verplichtingen. Organisaties die als deployer optreden, dus die een AI-systeem van een derde partij inzetten, dragen ook een deel van deze verantwoordelijkheid.
De kernverplichtingen voor hoog-risico AI zijn:
- Risicomanagementsysteem: Een doorlopend proces dat risico’s identificeert, evalueert en beheerst gedurende de volledige levenscyclus van het systeem.
- Datakwaliteitseisen: Trainings- en operationele data moeten relevant, representatief en zo vrij mogelijk van fouten zijn.
- Technische documentatie: Uitgebreide vastlegging van het systeem, zijn mogelijkheden, beperkingen en testresultaten.
- Logging en traceerbaarheid: Het systeem moet automatisch logs bijhouden zodat achteraf te reconstrueren is welke beslissingen het heeft genomen.
- Transparantie naar gebruikers: Klanten en medewerkers moeten begrijpen hoe het systeem werkt en welke beslissingen het neemt.
- Menselijk toezicht: Er moeten mechanismen zijn waarmee mensen het systeem kunnen monitoren, corrigeren en indien nodig stilleggen.
- Grondrechteneffectbeoordeling: Voor bepaalde toepassingen is een formele beoordeling van de impact op grondrechten verplicht.
Als deployer ben je ook verplicht om medewerkers die met het AI-systeem werken adequaat te trainen, en om ernstige incidenten te melden aan de bevoegde autoriteit.
Hoe borg je menselijk toezicht bij autonome AI-agenten?
Menselijk toezicht bij Agentic AI borg je door bewust interventiemomenten in te bouwen, duidelijke escalatieroutes te definiëren en medewerkers actief te betrekken bij het monitoren van AI-gedrag. De AI Act vereist dit expliciet voor hoog-risico systemen, maar ook voor lager geclassificeerde toepassingen is het een best practice.
In de praktijk betekent dit het volgende:
- Definieer grenzen voor autonomie: Bepaal welke acties de Agentic AI zelfstandig mag uitvoeren en bij welke situaties altijd een mens betrokken moet worden, zoals klachten over dienstverlening, financiële beslissingen of emotioneel beladen gesprekken.
- Bouw escalatiemechanismen in: Zorg dat de AI-agent zelf signaleert wanneer een situatie buiten zijn competentie valt en naadloos overdraagt aan een medewerker, inclusief de volledige gesprekshistorie.
- Monitor actief op afwijkingen: Gebruik dashboards en logging om te zien of de AI-agent zich gedraagt zoals verwacht. Onverwachte patronen, zoals plotseling veel escalaties of lage klanttevredenheidsscores, zijn vroege signalen van problemen.
- Train medewerkers in AI-geletterdheid: De AI Act verplicht organisaties al vanaf 2 februari 2025 om AI-geletterdheid te bevorderen. Medewerkers moeten begrijpen hoe de AI-agent werkt, wat zijn beperkingen zijn en hoe ze kunnen ingrijpen.
Menselijk toezicht is geen bijzaak, maar een structureel onderdeel van een verantwoord Agentic AI-systeem. Een AI-agent die volledig autonoom opereert zonder enige vorm van menselijke controle, voldoet niet aan de eisen van de AI Act.
Wat zijn de gevolgen van non-compliance met de AI Act?
Non-compliance met de AI Act kan leiden tot forse boetes, reputatieschade en operationele stillegging van AI-systemen. De boetestructuur is getrapt en treedt volledig in werking vanaf 2 augustus 2025.
De drie boetetreden zijn:
- Schending van verboden praktijken (Artikel 5): Tot 35 miljoen euro of 7% van de wereldwijde jaaromzet, afhankelijk van welk bedrag hoger is.
- Non-conformiteit met overige verplichtingen: Tot 15 miljoen euro of 3% van de wereldwijde jaaromzet.
- Onjuiste of misleidende informatie aan autoriteiten: Tot 7,5 miljoen euro of 1% van de wereldwijde jaaromzet.
Voor middelgrote organisaties geldt het laagste van het percentage of het vaste bedrag, wat de financiële impact enigszins begrenst. Maar ook los van boetes zijn de gevolgen van non-compliance reëel: toezichthouders kunnen AI-systemen laten stilleggen, klanten kunnen juridische stappen ondernemen en reputatieschade in sectoren zoals overheid en zorg is moeilijk te herstellen. Finland was in januari 2026 de eerste lidstaat die formele handhavingsbevoegdheden toekende aan zijn nationale autoriteit, een signaal dat handhaving concreet wordt.
Welke stappen zet je om Agentic AI conform de AI Act te implementeren?
Conform de AI Act implementeer je Agentic AI in klantenservice door te starten met een heldere risicoclassificatie, gevolgd door het inrichten van de vereiste governance, documentatie en toezichtmechanismen. Een gestructureerde aanpak voorkomt dat je achteraf moet repareren wat bij de opzet al fout ging.
Doorloop deze stappen:
- Breng het gebruik in kaart: Wat doet de Agentic AI precies? Welke beslissingen neemt het? Welke data gebruikt het? Dit vormt de basis voor de risicoclassificatie.
- Bepaal de risicocategorie: Valt het systeem onder beperkt risico of hoog risico? Voert het profilering uit? Heeft het impact op toegang tot essentiële diensten? Documenteer je redenering.
- Stel technische documentatie op: Beschrijf het systeem, zijn werking, beperkingen, testresultaten en de maatregelen die je hebt genomen om risico’s te beheersen.
- Richt logging in: Zorg dat het systeem automatisch bijhoudt welke beslissingen het neemt, wanneer, op basis van welke input en met welk resultaat.
- Definieer menselijk toezicht: Leg vast wie verantwoordelijk is voor monitoring, hoe escalatie werkt en hoe je het systeem kunt stilleggen als dat nodig is.
- Train je medewerkers: Zorg voor AI-geletterdheid in de organisatie. Medewerkers die met de AI-agent werken, moeten weten hoe het systeem werkt en wat hun rol is.
- Stel transparantiecommunicatie in: Informeer klanten altijd dat ze met een AI-systeem communiceren, zeker bij beperkt-risico toepassingen.
- Plan periodieke evaluaties: De AI Act vereist doorlopend risicomanagement. Bouw vaste momenten in om het systeem te evalueren en documentatie bij te werken.
Hoe Pegamento helpt met verantwoorde Agentic AI in klantenservice
Wij bij Pegamento begrijpen dat de combinatie van Agentic AI en regelgeving als de AI Act veel vragen oproept. Zeker voor organisaties die al worstelen met gefragmenteerde systemen, personeelstekorten en toenemende klantvolumes is het verleidelijk om risico’s naar later te verschuiven. Maar dat is precies waar het misgaat.
Onze AI-gedreven intelligentie is van de grond af opgebouwd met menselijk toezicht als uitgangspunt. Wat wij bieden:
- Risicoclassificatie als startpunt: We helpen je bepalen in welke categorie jouw gebruik van Agentic AI valt en wat dat concreet betekent voor jouw verplichtingen.
- Ingebouwde escalatieroutes: Onze Agentic AI-assistenten zijn ontworpen om naadloos over te dragen aan medewerkers, inclusief volledige gesprekscontext, zodat klanten hun verhaal niet hoeven te herhalen.
- Transparantie by design: Klanten weten altijd wanneer ze met een AI-agent communiceren, conform de transparantieverplichtingen van de AI Act.
- Logging en rapportage: Alle interacties worden gelogd en zijn inzichtelijk via centrale dashboards, zodat je altijd kunt verantwoorden wat het systeem heeft gedaan.
- Alles onder één dak: Van implementatie tot beheer en compliance-ondersteuning, je hebt één aanspreekpunt in plaats van meerdere leveranciers die niet op elkaar aansluiten.
- Gebouwd op bewezen modules: Geen kostbaar maatwerk, maar een slimme combinatie van bewezen bouwblokken die we aanpassen aan jouw situatie en sector.
We zijn ISO 27001 gecertificeerd (informatiebeveiliging), aangevuld met ISO 9001 en ISO 26000, wat betekent dat compliance en kwaliteit bij ons structureel geborgd zijn, niet iets wat je achteraf moet toevoegen. Wil je weten hoe jouw organisatie Agentic AI verantwoord en conform de AI Act kan inzetten? Neem contact op en we denken graag met je mee.
Veelgestelde vragen
Geldt de AI Act ook als wij een Agentic AI-systeem van een externe leverancier afnemen en niet zelf ontwikkelen?
Ja, ook als deployer — de partij die een AI-systeem van een derde inzet — draag je verplichtingen onder de AI Act. Je bent verantwoordelijk voor het correct gebruik van het systeem, het trainen van medewerkers en het melden van ernstige incidenten. Het is dus essentieel om bij je leverancier te controleren welke technische documentatie en conformiteitsverklaringen beschikbaar zijn, en contractueel vast te leggen wie welke verantwoordelijkheden draagt.
Hoe weet ik of mijn huidige Agentic AI-systeem al voldoet aan de transparantieverplichtingen van de AI Act?
Controleer minimaal of klanten op elk moment duidelijk geïnformeerd worden dat ze met een AI-systeem communiceren — dit geldt al vanaf de eerste interactie en ook bij geautomatiseerde e-mails of chatberichten. Kijk ook of het systeem klanten de mogelijkheid biedt om naar een menselijke medewerker over te stappen. Als dit niet actief is ingericht, is er sprake van non-compliance met de transparantieverplichtingen die al van kracht zijn.
Wat is het verschil tussen een AI-chatbot en Agentic AI, en maakt dat uit voor de AI Act-classificatie?
Een traditionele chatbot volgt vaste scripts en geeft vooraf bepaalde antwoorden, terwijl Agentic AI zelfstandig beslissingen neemt, acties uitvoert in systemen en initiatief kan nemen. Dit verschil is cruciaal voor de AI Act: hoe meer autonomie en impact op de klant, hoe groter de kans op een hoog-risico classificatie. Een chatbot die alleen informatie verstrekt valt doorgaans onder beperkt risico, maar een AI-agent die klantverzoeken verwerkt, dossiers bijwerkt of prioriteiten toekent kan al snel als hoog risico worden aangemerkt.
Wat moet ik doen als mijn Agentic AI-systeem een fout maakt die een klant heeft benadeeld?
Documenteer het incident direct en volledig via de ingerichte logging, en onderzoek via de audittrail welke beslissing het systeem heeft genomen en op basis van welke input. Bij hoog-risico systemen ben je verplicht ernstige incidenten te melden aan de bevoegde nationale autoriteit. Zorg daarnaast voor een herstelproces richting de getroffen klant en evalueer of aanpassingen aan het systeem of de autonomiegrenzen noodzakelijk zijn om herhaling te voorkomen.
Hoe vaak moet ik mijn risicoclassificatie en documentatie herzien na de initiële implementatie?
De AI Act vereist doorlopend risicomanagement, wat betekent dat je documentatie actueel moet blijven bij elke significante wijziging van het systeem, de gebruikte data of de toepassingscontext. Als praktische richtlijn hanteren veel organisaties minimaal één formele evaluatie per kwartaal, aangevuld met ad-hoc reviews bij systeemwijzigingen, nieuwe use cases of opvallende afwijkingen in de monitoringdata. Plan deze evaluatiemomenten vast in je governance-kalender zodat compliance geen eenmalige activiteit wordt maar een structureel proces.
Zijn er uitzonderingen of verlichte eisen voor kleine organisaties of non-profitinstellingen?
De AI Act kent voor kleine en middelgrote ondernemingen (kmo's) en start-ups enkele verlichtingen, zoals lagere vaste boetebedragen waarbij het laagste van het percentage of het vaste maximum geldt. Voor non-profitorganisaties bestaan geen structurele uitzonderingen op de inhoudelijke verplichtingen — de risicocategorie van het systeem en de impact op klanten bepalen de eisen, niet de rechtsvorm van de organisatie. Wel kunnen toezichthouders bij de handhaving rekening houden met de omvang en middelen van een organisatie.
Hoe ga ik om met Agentic AI in klantenservice als mijn organisatie actief is in meerdere EU-landen?
De AI Act is een EU-verordening die rechtstreeks van toepassing is in alle lidstaten, dus de kernverplichtingen zijn overal gelijk. Toch kunnen nationale toezichthouders — zoals de eerder genoemde Finse autoriteit — eigen handhavingsprioriteiten en meldprocedures hanteren. Zorg dat je weet welke nationale autoriteit bevoegd is per land waar je opereert, stem je incidentmeldingsprocedures hierop af en houd rekening met eventuele aanvullende sectorwetgeving, zoals in de zorg of financiële dienstverlening, die per lidstaat kan verschillen.
