De AI Act heeft directe gevolgen voor geautomatiseerde processen in klantenservice. Organisaties die AI inzetten voor klantcontact, van chatbots tot geautomatiseerde beslissingen over serviceverzoeken, moeten voldoen aan nieuwe Europese regels die gefaseerd van kracht worden tussen 2025 en 2027. Of je nu een contactcenter runt of verantwoordelijk bent voor AI-gedreven intelligentie binnen je organisatie, de wet raakt je direct. In dit artikel beantwoorden we de meest gestelde vragen over de AI Act en wat die betekent voor jouw klantenserviceorganisatie.
Welke geautomatiseerde klantenserviceprocessen vallen onder de AI Act?
De AI Act is van toepassing op elk AI-systeem dat je inzet binnen je klantenserviceproces, zolang dat systeem output produceert zoals voorspellingen, aanbevelingen, beslissingen of gegenereerde tekst die invloed heeft op klanten of medewerkers. Dit geldt voor organisaties die in de EU actief zijn, ongeacht waar de technologie zelf vandaan komt.
Concreet vallen de volgende toepassingen onder de wet:
- Chatbots en virtuele assistenten die klantvragen beantwoorden
- Geautomatiseerde routering van gesprekken via intelligente IVR-systemen
- AI-systemen die klanttevredenheid of klantgedrag voorspellen
- Automatische verwerking van klantverzoeken of klachten
- Systemen die medewerkers in real time adviseren tijdens een gesprek
- Procesautomatisering waarbij AI beslissingen neemt over serviceaanvragen
Niet elk van deze toepassingen valt in dezelfde risicocategorie. De wet maakt een duidelijk onderscheid op basis van het potentiële risico dat een systeem met zich meebrengt. Eenvoudige FAQ-chatbots zonder beslissingsbevoegdheid worden anders behandeld dan systemen die bepalen of een klant toegang krijgt tot een essentiële dienst.
Wat zijn de risicocategorieën van de AI Act voor klantenservice?
De AI Act kent vier risiconiveaus: verboden AI, hoog-risico AI, AI met beperkt risico en AI met minimaal risico. Voor klantenservice zijn met name de middelste twee categorieën relevant. De meeste standaard klantenservicetoepassingen vallen in de categorie beperkt risico of minimaal risico, maar er zijn uitzonderingen die extra aandacht vragen.
Beperkt risico: transparantieplicht
De meeste chatbots, virtuele assistenten en geautomatiseerde antwoordsystemen vallen in de categorie beperkt risico. Hiervoor geldt primair een transparantieverplichting: klanten moeten weten dat ze met een AI-systeem communiceren. Verdere technische eisen zijn beperkt, maar de verplichting om eerlijk te zijn over de aard van het systeem is bindend.
Hoog risico: strenge verplichtingen
Een klantenservicesysteem wordt als hoog-risico geclassificeerd wanneer het beslissingen neemt die de toegang tot essentiële diensten beïnvloeden. Denk aan AI die bepaalt of een klant in aanmerking komt voor een lening, verzekering of nutsvoorziening. Ook systemen die profilering van natuurlijke personen uitvoeren, vallen altijd in de hoog-risico categorie, ongeacht de context. Dit is een punt dat veel klantenserviceorganisaties onderschatten bij het inzetten van geavanceerde procesautomatisering.
Welke verplichtingen gelden er voor hoog-risico AI in het contactcenter?
Als je een hoog-risico AI-systeem inzet in je contactcenter, gelden er aanzienlijk strengere verplichtingen. Het onderscheid is daarbij wie de aanbieder is (de partij die het systeem ontwikkelt en op de markt brengt) en wie de deployer is (de organisatie die het systeem gebruikt). Als klantenserviceorganisatie ben je in de meeste gevallen de deployer.
Als deployer van een hoog-risico systeem ben je verplicht om:
- Het systeem uitsluitend te gebruiken volgens de instructies van de aanbieder
- Menselijk toezicht toe te wijzen aan bekwame en getrainde medewerkers
- Logbestanden minimaal zes maanden te bewaren
- Medewerkers te informeren voordat het systeem in gebruik wordt genomen (Artikel 26(7))
- Waar van toepassing een gegevensbeschermingseffectbeoordeling (DPIA) uit te voeren
Een belangrijk aandachtspunt is het risico op automation bias: medewerkers die te veel vertrouwen op AI-aanbevelingen zonder kritisch na te denken. De wet vereist expliciet dat het ontwerp van hoog-risico systemen effectief menselijk toezicht mogelijk maakt en dat medewerkers getraind zijn om dit toezicht ook daadwerkelijk uit te oefenen. Klanten die onderworpen zijn aan een beslissing van een hoog-risico systeem, kunnen op grond van Artikel 86 bovendien een uitleg opvragen van de bepalende factoren.
Wanneer moet een klant weten dat hij met een AI praat?
Een klant moet altijd weten dat hij met een AI-systeem communiceert, zodra er sprake is van een interactie die bewust als menselijk contact zou kunnen worden ervaren. Dit is een van de transparantieverplichtingen die gelden voor AI-systemen met beperkt risico, en de verplichting is van kracht vanaf 2 augustus 2026 voor de meeste klantenservicetoepassingen.
In de praktijk betekent dit dat je chatbot, voicebot of virtuele assistent zichzelf duidelijk moet identificeren als AI aan het begin van een gesprek. Het mag voor de klant niet onduidelijk zijn of hij met een mens of een machine communiceert. Dit geldt ook wanneer een AI-systeem tekst genereert die vervolgens door een medewerker wordt verstuurd, als die tekst niet herkenbaar als AI-gegenereerd is gemarkeerd.
Er is een uitzondering voor situaties waarbij de context het gebruik van AI voor de gemiddelde persoon al vanzelfsprekend maakt, maar in een klantenserviceomgeving is het verstandig om hier niet op te vertrouwen. Transparantie over het gebruik van AI versterkt bovendien het vertrouwen van klanten, wat op de lange termijn bijdraagt aan een betere klantervaring.
Wat zijn de gevolgen van niet-naleving van de AI Act?
De boetes voor niet-naleving van de AI Act zijn aanzienlijk en vergelijkbaar met de AVG/GDPR in schaal. De hoogte hangt af van de aard van de overtreding en de omvang van de organisatie. De boetebepalingen zijn van kracht vanaf 2 augustus 2025.
De boetestructuur kent drie niveaus:
- Verboden praktijken (Artikel 5): maximaal 35 miljoen euro of 7% van de wereldwijde jaaromzet
- Overige verplichtingen: maximaal 15 miljoen euro of 3% van de wereldwijde jaaromzet
- Onjuiste informatie aan autoriteiten: maximaal 7,5 miljoen euro of 1% van de jaaromzet
Voor kmo’s geldt telkens het laagste van het percentage of het vaste bedrag. Naast financiële sancties brengt niet-naleving ook reputatierisico’s met zich mee. Klanten en partners hechten steeds meer waarde aan verantwoord gebruik van technologie, en een handhavingsactie door een toezichthouder kan het vertrouwen in je organisatie ernstig schaden. Finland was in januari 2026 de eerste lidstaat die handhavingsbevoegdheden toekende aan zijn nationale autoriteit, een signaal dat de wet serieus wordt gehandhaafd.
Hoe bereid je een klantenserviceorganisatie voor op de AI Act?
Voorbereiding op de AI Act begint met een helder overzicht van alle AI-systemen die je momenteel inzet of van plan bent in te zetten binnen je klantenserviceprocessen. Zonder dit overzicht is het onmogelijk om te bepalen welke verplichtingen op jou van toepassing zijn.
Een praktische aanpak bestaat uit de volgende stappen:
- Inventariseer je AI-toepassingen: Breng in kaart welke systemen AI gebruiken, inclusief procesautomatisering, chatbots en beslissingsondersteunende tools.
- Classificeer het risiconiveau: Bepaal per systeem in welke risicocategorie het valt op basis van de criteria uit de AI Act.
- Check de documentatie van aanbieders: Vraag bij leveranciers na of hun systemen voldoen aan de eisen voor jouw gebruiksscenario en of de benodigde documentatie beschikbaar is.
- Wijs menselijk toezicht toe: Zorg dat er voor elk hoog-risico systeem een aangewezen, getrainde medewerker verantwoordelijk is voor toezicht.
- Implementeer transparantie: Pas je communicatie aan zodat klanten altijd weten wanneer ze met AI interacteren.
- Train je medewerkers: AI-geletterdheid is vanaf 2 februari 2025 al verplicht. Medewerkers moeten begrijpen hoe AI-systemen werken en wat de beperkingen zijn.
- Bewaar logs: Zorg voor processen om logbestanden van hoog-risico systemen minimaal zes maanden te bewaren.
Houd ook de implementatietijdlijn in de gaten. De meeste verplichtingen voor hoog-risico Annex III-systemen gelden vanaf 2 augustus 2026, wat voor veel klantenserviceorganisaties de meest relevante deadline is. Begin dus nu met de voorbereiding om tijdig compliant te zijn.
Hoe Pegamento helpt met AI Act-compliance in klantenservice
Wij begrijpen dat de AI Act voor veel klantenserviceorganisaties complex aanvoelt, zeker wanneer je al worstelt met gefragmenteerde systemen en meerdere leveranciers. Vanuit onze "alles onder één dak"-aanpak helpen we je niet alleen met het implementeren van slimme technologie, maar ook met het verantwoord en compliant inzetten ervan.
Wat wij concreet bieden:
- Oplossingen op maat met standaard bouwblokken: Geen kostbaar maatwerk, maar slimme combinaties van bewezen modules die aansluiten op jouw situatie en voldoen aan de eisen van de AI Act.
- Agentic AI voor klantenservice: Onze Agentic AI-assistenten zijn een evolutie van uitvoerende bots naar zelfdenkende assistenten die zelfstandig initiatief nemen. Ze zijn ontworpen met menselijk toezicht als uitgangspunt, wat direct aansluit op de vereisten van de wet.
- Transparante architectuur: Onze systemen zijn gedocumenteerd en traceerbaar, zodat je altijd kunt aantonen hoe beslissingen tot stand komen.
- Één aanspreekpunt: Van implementatie tot beheer en ondersteuning, geen complexe leveranciersstructuren die compliance bemoeilijken.
- ISO 27001-gecertificeerde beveiliging: Onze informatiebeveiliging is gecertificeerd volgens ISO 27001, aangevuld met ISO 9001 en ISO 26000, wat aansluit op de beveiligingseisen van de AI Act.
Wil je weten hoe jouw klantenserviceorganisatie er voor staat op het gebied van AI Act-compliance? Neem contact op en we denken graag met je mee.
Veelgestelde vragen
Geldt de AI Act ook als we een AI-tool van een Amerikaanse of andere niet-Europese leverancier gebruiken?
Ja, de AI Act is van toepassing op alle organisaties die in de EU actief zijn, ongeacht waar de technologie vandaan komt. Als deployer ben jij verantwoordelijk voor naleving van de verplichtingen die gelden voor jouw gebruik van het systeem. Het is dus essentieel om bij je leverancier na te gaan of hun systeem voldoet aan de AI Act-vereisten en of de benodigde technische documentatie beschikbaar is.
Wat als onze leverancier niet de juiste documentatie kan aanleveren voor een hoog-risico systeem?
Als deployer ben je verplicht het systeem uitsluitend te gebruiken conform de instructies van de aanbieder, inclusief de bijbehorende documentatie. Ontbreekt die documentatie, dan loop je als organisatie zelf het risico op non-compliance. In dat geval is het verstandig om je leverancier formeel te verzoeken de documentatie aan te leveren, of te overwegen over te stappen naar een aanbieder die wél aantoonbaar voldoet aan de AI Act-vereisten.
Hoe concreet moet de melding aan klanten zijn dat ze met AI communiceren?
De melding moet duidelijk en begrijpelijk zijn voor de gemiddelde klant, bij voorkeur aan het begin van de interactie. Een korte zin zoals 'U communiceert nu met een virtuele assistent' volstaat in de meeste gevallen. Vage formuleringen of kleine lettertjes in de algemene voorwaarden zijn niet voldoende; de transparantieverplichting vereist dat de klant het actief en tijdig te weten komt, niet achteraf.
Valt een AI-tool die onze medewerkers intern gebruiken, maar niet direct met klanten communiceert, ook onder de AI Act?
Dat hangt af van de functie van het systeem. Een AI-tool die medewerkers in real time adviseert tijdens klantgesprekken, of die beslissingen ondersteunt over serviceaanvragen, valt wél onder de AI Act. Ook voor interne systemen geldt de verplichting om medewerkers te informeren over het gebruik ervan (Artikel 26(7)) en menselijk toezicht te waarborgen. Systemen die puur voor interne productiviteit worden gebruikt zonder invloed op klanten of servicebesluiten, vallen doorgaans buiten de scope.
Onze organisatie is een kmo. Gelden voor ons dezelfde regels als voor grote bedrijven?
De inhoudelijke verplichtingen van de AI Act gelden voor alle organisaties, groot of klein. Het verschil zit in de boetestructuur: voor kmo's geldt altijd het laagste van het vaste bedrag of het percentage van de jaaromzet, wat de financiële impact begrenst. De Europese Commissie heeft ook aangegeven dat er ondersteuningsmaatregelen komen voor kmo's, zoals toegang tot regelgevingssandboxen. Toch is tijdige voorbereiding ook voor kleinere organisaties belangrijk, want de verplichtingen zelf zijn niet lichter.
Wat is het grootste praktische risico als we nu nog niets doen aan AI Act-compliance?
Het grootste directe risico is dat je per 2 augustus 2025 al blootstaat aan boetes voor overtredingen van de boetebepalingen, terwijl de transparantieverplichtingen voor de meeste klantenservicetoepassingen ingaan op 2 augustus 2026. Naast financiële sancties is het reputatierisico minstens zo groot: klanten en zakelijke partners hechten steeds meer waarde aan verantwoord AI-gebruik, en een handhavingsactie door een toezichthouder is moeilijk te herstellen. Vroeg beginnen geeft je ook de ruimte om wijzigingen gefaseerd door te voeren zonder operationele verstoringen.
Hoe houden we bij of onze AI-systemen compliant blijven na de initiële implementatie?
Compliance is geen eenmalig project maar een doorlopend proces. Zorg voor een intern beheerproces waarbij wijzigingen aan AI-systemen, zoals updates van een leverancier of uitbreidingen van functionaliteit, standaard worden getoetst aan de AI Act-vereisten. Bewaar logbestanden structureel, voer periodieke reviews uit van het menselijk toezicht en houd de guidance van de nationale toezichthouder in de gaten, want de praktische invulling van de wet wordt de komende jaren verder verduidelijkt via gedelegeerde handelingen en richtsnoeren.
