De AI Act heeft directe gevolgen voor klantenserviceafdelingen die AI-tools inzetten voor klantinteracties, automatisering of besluitvorming. Afhankelijk van hoe je AI gebruikt, val je onder lichte transparantieverplichtingen of strengere eisen voor hoog-risicosystemen. In dit artikel beantwoorden we de meest gestelde vragen over wat de AI Act betekent voor klantenservice en hoe je je organisatie goed voorbereidt.
Welke AI-toepassingen in klantenservice vallen onder de AI Act?
De meeste AI-toepassingen in klantenservice vallen onder de categorie beperkt risico of minimaal risico binnen de AI Act. Denk aan chatbots, virtuele assistenten en geautomatiseerde e-mailverwerking. Deze systemen zijn grotendeels ongereguleerd, maar moeten wel aan transparantieverplichtingen voldoen zodra ze met mensen communiceren.
Concreet betekent dit dat een chatbot of gesproken AI-assistent gebruikers altijd duidelijk moet informeren dat ze met een AI-systeem communiceren en niet met een mens. Dit geldt vanaf 2 februari 2025, want de transparantieverplichtingen zijn al van kracht.
Er zijn echter situaties waarin klantenservice-AI wél in de hoog-risicocategorie terechtkomt. Dat is het geval wanneer het systeem:
- Profilering uitvoert van individuele klanten om beslissingen te nemen over toegang tot essentiële diensten, zoals krediet of verzekeringen
- Automatisch bepaalt of iemand in aanmerking komt voor een dienst of product op basis van persoonlijke kenmerken
- Wordt ingezet bij noodoproepen of urgente dienstverlening waarbij fouten directe gevolgen hebben voor veiligheid
- Emotieherkenning toepast op de werkvloer, bijvoorbeeld om medewerkers te monitoren
AI-systemen die uitsluitend routinematige taken uitvoeren, zoals het doorsturen van berichten of het ophalen van informatie uit een kennisbank, vallen doorgaans buiten de hoog-risicodefinitie. Zodra een systeem echter zelfstandig beslissingen neemt die klanten direct raken, verandert de classificatie.
Wat zijn de verplichtingen voor hoog-risico AI in klantcontact?
Als een AI-systeem in jouw klantenservice als hoog-risico wordt geclassificeerd, gelden er aanzienlijk strengere verplichtingen. De zwaarste eisen rusten op de aanbieder van het systeem, maar ook als deployer, de organisatie die het systeem inzet, heb je duidelijke verantwoordelijkheden.
Verplichtingen voor aanbieders van hoog-risico AI
Bedrijven die een hoog-risico AI-systeem ontwikkelen en op de markt brengen, moeten onder andere:
- Een continu risicomanagementsysteem opzetten gedurende de hele levenscyclus van het systeem
- Technische documentatie bijhouden conform de eisen van Annex IV van de AI Act
- Automatische logging van gebeurtenissen mogelijk maken
- Menselijk toezicht structureel inbouwen in het ontwerp van het systeem
- CE-markering en een conformiteitsverklaring aanvragen
- Het systeem registreren in de Europese AI-databank
Verplichtingen voor deployers in de klantenservice
Als je als klantenserviceafdeling een hoog-risico AI-systeem van een externe leverancier inzet, ben je de deployer. Jouw verplichtingen zijn beperkter, maar niet vrijblijvend:
- Het systeem gebruiken zoals de aanbieder dat heeft voorgeschreven
- Menselijk toezicht toewijzen aan bekwame en getrainde medewerkers
- Logs minimaal zes maanden bewaren
- Medewerkers informeren over het gebruik van het AI-systeem vóór ingebruikname (Artikel 26(7))
- Waar van toepassing een gegevensbeschermingseffectbeoordeling (DPIA) uitvoeren
Bovendien hebben klanten op grond van Artikel 86 het recht om een uitleg te vragen over beslissingen die een hoog-risico AI-systeem over hen heeft genomen. Zorg er dus voor dat je die uitleg ook kunt geven.
Wanneer moet een klantenserviceafdeling voldoen aan de AI Act?
De AI Act kent een gefaseerde inwerkingtreding. Voor klantenserviceafdelingen zijn drie momenten het meest relevant. De verboden praktijken en de AI-geletterdheidsplicht gelden al vanaf 2 februari 2025. De eisen voor hoog-risicosystemen worden op 2 augustus 2026 volledig afdwingbaar.
De concrete tijdlijn ziet er zo uit:
- Vanaf 2 februari 2025: Verboden AI-toepassingen zijn niet meer toegestaan. Denk aan manipulatieve technieken, emotieherkenning op de werkvloer en social scoring. Ook de AI-geletterdheidsplicht is van kracht, wat betekent dat medewerkers basiskennis over AI moeten hebben.
- Vanaf 2 augustus 2025: Verplichtingen voor aanbieders van General Purpose AI-modellen (GPAI) zijn actief. Boetes kunnen al worden opgelegd.
- Vanaf 2 augustus 2026: De meeste verplichtingen voor hoog-risico Annex III-systemen worden afdwingbaar. Dit is het moment waarop klantenserviceorganisaties die hoog-risico AI inzetten, volledig compliant moeten zijn.
Wacht dus niet tot 2026 om te beginnen. Het aanleggen van een AI-register, het beoordelen van je systemen en het trainen van medewerkers vergt tijd. Organisaties die nu al actief zijn, staan straks een stuk sterker.
Hoe verschilt de AI Act van de AVG voor klantenserviceteams?
De AI Act en de AVG vullen elkaar aan, maar richten zich op verschillende risico’s. De AVG beschermt persoonsgegevens en reguleert hoe je die verwerkt. De AI Act reguleert de AI-systemen zelf, ongeacht of ze persoonsgegevens verwerken. Voor klantenserviceteams betekent dit dat je beide kaders naast elkaar moet toepassen.
Een paar concrete verschillen:
- Scope: De AVG geldt voor elke verwerking van persoonsgegevens. De AI Act geldt specifiek voor AI-systemen en hun impact op mensen, ook als er geen persoonsgegevens in het spel zijn.
- Risicomodel: De AVG werkt met een principe van dataminimalisatie en doelbinding. De AI Act werkt met risiconiveaus die bepalen hoe streng de eisen zijn.
- Transparantie: Beide wetten verplichten tot transparantie, maar de AI Act voegt daar een specifieke eis aan toe: gebruikers moeten weten wanneer ze met een AI communiceren, ook als er geen persoonsgegevens worden verwerkt.
- Overlap bij DPIA: Bij hoog-risico AI die ook persoonsgegevens verwerkt, zijn zowel een AI Act-conformiteitsbeoordeling als een AVG-DPIA verplicht. Dit kunnen overlappende processen zijn die je slim kunt combineren.
Voor de dagelijkse praktijk van een klantenserviceafdeling betekent dit: de AVG-compliance die je al hebt ingericht, is een goede basis, maar is niet voldoende. De AI Act vraagt om aanvullende documentatie, risicobeoordelingen en governance rondom je AI-systemen specifiek.
Wat moeten klantenservicemedewerkers weten over AI-transparantie?
Klantenservicemedewerkers moeten begrijpen dat de AI Act twee soorten transparantieverplichtingen kent: transparantie naar klanten toe en transparantie binnen de organisatie. Beide zijn relevant voor de dagelijkse werkpraktijk.
Richting klanten geldt dat elke AI-toepassing die direct communiceert met mensen, zichzelf kenbaar moet maken als AI. Een chatbot die gesprekken voert, een voicebot die inkomende gesprekken afhandelt of een systeem dat geautomatiseerde e-mails verstuurt, moet dit duidelijk aangeven. Medewerkers die klachten ontvangen over AI-interacties moeten weten hoe ze die correct afhandelen en waar klanten hun rechten kunnen uitoefenen.
De AI-geletterdheidsplicht (Artikel 4) is al van kracht. Dit betekent dat organisaties hun medewerkers moeten trainen in basiskennis over AI: wat het is, hoe het werkt en wat de beperkingen zijn. Medewerkers hoeven geen technische experts te worden, maar moeten wel:
- Begrijpen welke AI-systemen ze dagelijks gebruiken
- Weten wanneer een AI-beslissing menselijk toezicht vereist
- Klanten correct kunnen informeren over het gebruik van AI in het klantcontact
- Signalen herkennen dat een AI-systeem onjuiste of bevooroordeelde uitkomsten produceert
Automation bias, het blindelings vertrouwen op AI-aanbevelingen zonder kritisch na te denken, is een specifiek risico dat de AI Act wil tegengaan. Medewerkers moeten getraind worden om AI als hulpmiddel te zien en niet als onfeilbare beslisser.
Hoe bereid je een klantenserviceafdeling voor op de AI Act?
De voorbereiding op de AI Act begint met een helder overzicht van alle AI-systemen die je gebruikt. Zonder die inventarisatie weet je niet welke verplichtingen op jou van toepassing zijn. Een gestructureerde aanpak in vier stappen helpt je op weg.
- Maak een AI-register: Documenteer alle AI-systemen die je inzet, inclusief hun doel, leverancier en de rol die jouw organisatie speelt (deployer, aanbieder of iets daartussenin).
- Classificeer je systemen: Bepaal per systeem het risiconiveau. De meeste klantenservicetools vallen onder beperkt of minimaal risico, maar controleer dit expliciet voor systemen die beslissingen nemen over klanten.
- Check contracten met leveranciers: Zorg dat leveranciers van AI-systemen hun verplichtingen als aanbieder nakomen. Vraag om technische documentatie, gebruiksaanwijzingen en informatie over hoe menselijk toezicht is ingebouwd.
- Train je medewerkers: Investeer in AI-geletterdheid voor iedereen die met AI-systemen werkt. Dit is niet alleen een wettelijke verplichting, maar ook een manier om de kwaliteit van je klantcontact te verbeteren.
Organisaties die meerdere leveranciers hebben voor telefonie, chat, WhatsApp en e-mail, lopen extra risico op compliance-gaten. Als systemen niet met elkaar communiceren en er geen centraal overzicht is, is het ook vrijwel onmogelijk om AI Act-verplichtingen zoals logging en menselijk toezicht goed in te richten.
Hoe Pegamento helpt met AI Act-compliance in klantenservice
Als klantenserviceafdeling wil je AI inzetten om klanten beter te helpen, niet om te verzanden in compliance-vraagstukken. Wij helpen organisaties om beide doelen tegelijk te bereiken: slimme AI-inzet die ook voldoet aan de eisen van de AI Act.
Onze Agentic AI voor customer service gaat verder dan traditionele automatisering. Waar klassieke RPA-bots instructies opvolgen, nemen onze Agentic AI-assistenten zelfstandig initiatief: ze denken mee, handelen proactief en schalen op waar nodig. Dit doen we niet met kostbare oplossingen op maat, maar met een slimme combinatie van bewezen standaard bouwblokken die we configureren naar jouw situatie.
Wat we concreet bieden voor AI Act-gereedheid:
- Transparante AI-systemen die zichzelf kenbaar maken aan klanten, conform de transparantieverplichtingen
- Ingebouwd menselijk toezicht, zodat medewerkers altijd de regie kunnen overnemen
- Logging en rapportage over alle klantcontactkanalen vanuit één centraal platform
- Ondersteuning bij het classificeren van AI-systemen en het opstellen van documentatie
- Alles onder één dak: van implementatie tot beheer en ondersteuning, zonder complexe leveranciersstructuur
We zijn ISO 27001-gecertificeerd voor informatiebeveiliging, aangevuld met ISO 9001 en ISO 26000, wat betekent dat compliance en kwaliteit bij ons structureel geborgd zijn. Wil je weten hoe jouw klantenserviceafdeling er nu voor staat en wat er nodig is om AI Act-compliant te werken? Neem contact op en we denken graag met je mee.
Veelgestelde vragen
Wat gebeurt er als mijn organisatie niet voldoet aan de AI Act?
Bij niet-naleving van de AI Act kunnen toezichthouders aanzienlijke boetes opleggen. Voor overtredingen van de zwaarste verplichtingen, zoals het inzetten van verboden AI-praktijken, kunnen boetes oplopen tot 35 miljoen euro of 7% van de wereldwijde jaaromzet. Voor minder ernstige overtredingen, zoals het niet naleven van transparantieverplichtingen, liggen de boetes lager maar zijn ze nog steeds significant: tot 15 miljoen euro of 3% van de omzet. Naast financiële sancties riskeer je ook reputatieschade bij klanten die steeds bewuster worden van hun AI-rechten.
Hoe weet ik of een AI-tool van een externe leverancier AI Act-compliant is?
Vraag je leverancier expliciet om technische documentatie, een conformiteitsverklaring en informatie over hoe menselijk toezicht in het systeem is ingebouwd. Voor hoog-risico systemen zijn aanbieders verplicht deze documentatie te leveren conform Annex IV van de AI Act. Controleer ook of de leverancier het systeem heeft geregistreerd in de Europese AI-databank en of er duidelijke gebruiksinstructies zijn. Staat een leverancier hier vaag over, dan is dat een belangrijk signaal om kritisch te zijn over de samenwerking.
Mijn organisatie gebruikt een chatbot die soms menselijke namen gebruikt. Is dat toegestaan?
Nee, dit is in strijd met de transparantieverplichtingen van de AI Act die al van kracht zijn sinds 2 februari 2025. Een AI-systeem dat communiceert met mensen moet altijd duidelijk kenbaar maken dat het om een AI gaat, ook als het een menselijke naam of persoonlijkheid heeft. Dit geldt voor chatbots, voicebots en geautomatiseerde e-mailsystemen. Pas de instellingen van je chatbot zo aan dat bij het begin van elk gesprek expliciet wordt vermeld dat de klant met een AI-assistent communiceert.
Hoe ga ik om met klanten die vragen om een uitleg over een AI-beslissing?
Op grond van Artikel 86 van de AI Act hebben klanten het recht om een uitleg te vragen over beslissingen die een hoog-risico AI-systeem over hen heeft genomen, bijvoorbeeld een afwijzing op basis van een geautomatiseerde beoordeling. Zorg dat je klantenservicemedewerkers weten welke AI-systemen hoog-risico beslissingen nemen, en dat ze toegang hebben tot de informatie die nodig is om die beslissing toe te lichten. Leg intern vast hoe je dit proces inricht en wie verantwoordelijk is voor het beantwoorden van dergelijke verzoeken.
Geldt de AI-geletterdheidsplicht ook voor medewerkers die AI alleen indirect gebruiken?
De AI-geletterdheidsplicht (Artikel 4) geldt voor alle medewerkers die met AI-systemen werken, ook als dat indirect is. Denk aan een teamleider die rapportages beoordeelt die door AI zijn gegenereerd, of een medewerker die klantdossiers afhandelt die door AI zijn voorgesorteerd. Het niveau van training hoeft niet voor iedereen gelijk te zijn: medewerkers die AI dagelijks actief inzetten, hebben diepgaandere kennis nodig dan collega's die er zijdelings mee te maken hebben. Stem het trainingsprogramma af op de mate van AI-gebruik per rol.
Wat is een AI-register en hoe begin ik met het opstellen ervan?
Een AI-register is een intern document waarin je alle AI-systemen binnen je organisatie vastlegt, inclusief hun doel, leverancier, risiconiveau en de rol die jouw organisatie speelt. Begin simpel: maak een overzicht van alle tools die je gebruikt voor klantcontact, automatisering of besluitvorming, en noteer per tool wie de aanbieder is en wat het systeem concreet doet. Voeg vervolgens per systeem het risiconiveau toe op basis van de AI Act-categorieën. Dit register is niet alleen nuttig voor compliance, maar ook voor interne governance en leveranciersbeheer.
Moet ik als deployer iets regelen als mijn AI-leverancier stopt of het systeem ingrijpend wijzigt?
Ja, als deployer ben je verantwoordelijk voor het bewaken van de continuïteit en correcte werking van het AI-systeem dat je inzet. Als een leverancier het systeem ingrijpend wijzigt, moet je opnieuw beoordelen of het systeem nog steeds voldoet aan de AI Act-vereisten en of de risicoklassificatie nog klopt. Leg in contracten vast dat leveranciers jou tijdig informeren over significante wijzigingen, updates of het stopzetten van het systeem. Zo voorkom je onverwachte compliance-gaten en kun je tijdig alternatieve maatregelen treffen.
