Een chatbot valt in de meeste gevallen niet onder de hoog-risico AI-categorie van de AI Act. De wet definieert hoog-risico AI aan de hand van specifieke gebruikssituaties en veiligheidsfuncties, en een standaard klantenservice-chatbot voldoet daar doorgaans niet aan. Toch zijn er uitzonderingen, en die zijn belangrijk genoeg om goed te begrijpen. In dit artikel beantwoorden we de meest gestelde vragen over hoog-risico AI en wat de regels betekenen voor jouw organisatie. Wil je alvast een bredere blik op AI-gedreven intelligentie? Dan vind je daar meer context over de mogelijkheden.
Welke AI-systemen vallen wél en niet onder de hoog-risico categorie?
Een AI-systeem is hoog-risico als het een veiligheidscomponent is van een product dat onder Europese harmonisatiewetgeving valt en een conformiteitsbeoordeling door een derde partij vereist, of als het binnen een van de acht specifieke domeinen van Annex III valt. Systemen buiten die domeinen zijn in principe geen hoog-risico AI.
De acht domeinen van Annex III zijn:
- Biometrie
- Kritieke infrastructuur
- Onderwijs en beroepsopleiding
- Werkgelegenheid en personeelsbeheer
- Toegang tot essentiële diensten, waaronder kredietwaardigheid, verzekeringen en noodoproepen
- Rechtshandhaving
- Migratie en grenscontrole
- Rechtsbedeling en democratische processen
Valt een systeem binnen een van deze domeinen maar vervult het uitsluitend een enge procedurele of voorbereidende taak zonder significant risico voor grondrechten? Dan kan het buiten de hoog-risico-categorie vallen, mits de aanbieder dit onderbouwd documenteert. Er is echter een harde uitzondering: systemen die profilering van natuurlijke personen uitvoeren, zijn altijd hoog-risico, ongeacht het domein.
AI-systemen die expliciet buiten het toepassingsgebied van de wet vallen, zijn onder andere systemen voor militaire of nationale veiligheidsdoeleinden, systemen uitsluitend bedoeld voor wetenschappelijk onderzoek, en persoonlijk, niet-professioneel gebruik.
Valt een chatbot onder de AI Act als hoog-risico AI?
Een standaard klantenservice-chatbot valt in de meeste gevallen niet onder de hoog-risico-categorie. De chatbot beantwoordt vragen, verwijst klanten door of biedt informatie, maar neemt geen beslissingen die grondrechten of veiligheid direct raken. Dat is precies het onderscheid dat de AI Act maakt.
Toch zijn er situaties waarin een chatbot wél als hoog-risico kan worden aangemerkt:
- De chatbot beoordeelt automatisch of iemand in aanmerking komt voor een lening, verzekering of uitkering (toegang tot essentiële diensten).
- De chatbot wordt ingezet in een HR-context om sollicitanten te screenen of medewerkers te beoordelen (werkgelegenheid en personeelsbeheer).
- De chatbot verwerkt biometrische data, zoals stemherkenning voor identiteitsverificatie.
- De chatbot profileert individuele gebruikers op basis van gedrag of kenmerken om beslissingen over hen te nemen.
Het gaat dus niet om de technische vorm van het systeem, maar om het beoogde gebruik en de impact op individuen. Een chatbot die alleen informatie verstrekt of een gesprek doorstuurt naar een medewerker, valt buiten de hoog-risico-definitie. Een chatbot die zelfstandig beslist of iemand een dienst krijgt, kan er juist wél onder vallen.
Wat zijn de verplichtingen als jouw chatbot wél hoog-risico is?
Als jouw AI-systeem als hoog-risico wordt geclassificeerd, gelden er aanzienlijke verplichtingen. Je bent als aanbieder of deployer verantwoordelijk voor een reeks technische en organisatorische maatregelen voordat het systeem in gebruik wordt genomen.
De belangrijkste verplichtingen zijn:
- Risicobeheerssysteem: Een doorlopend proces om risico’s te identificeren, te evalueren en te beheersen gedurende de hele levenscyclus van het systeem.
- Datakwaliteit: Trainings- en testdata moeten relevant, representatief en zo vrij mogelijk van fouten zijn.
- Technische documentatie: Uitgebreide documentatie over het systeem, de werking en de risicobeheersmaatregelen.
- Logging en traceerbaarheid: Het systeem moet automatisch relevante gebeurtenissen registreren zodat toezichthouders kunnen controleren wat er is gebeurd.
- Transparantie naar gebruikers: Gebruikers moeten begrijpen waarmee ze te maken hebben en hoe het systeem werkt.
- Menselijk toezicht: Er moeten mechanismen zijn waarmee mensen het systeem kunnen monitoren, corrigeren of uitschakelen.
- Conformiteitsbeoordeling en registratie: Afhankelijk van het type systeem is een beoordeling door een derde partij vereist, en registratie in de EU-databank.
Registreer je een systeem dat ook een grondrechteneffectbeoordeling vereist, dan moet die beoordeling voorafgaand aan ingebruikname worden afgerond. Aanbieders buiten de EU zijn verplicht een gemachtigde vertegenwoordiger in de EU aan te wijzen.
Hoe beoordeel je zelf of jouw AI-systeem hoog-risico is?
Je beoordeelt zelf of jouw AI-systeem hoog-risico is door twee vragen te beantwoorden: is het systeem een veiligheidscomponent van een gereguleerd product, of valt het beoogde gebruik binnen een van de acht Annex III-domeinen? Als het antwoord op beide vragen nee is, is het systeem in principe geen hoog-risico AI.
Een praktische aanpak in drie stappen:
- Beschrijf het beoogde gebruik: Wat doet het systeem precies? Welke beslissingen neemt het, of welke input levert het aan een beslissingsproces?
- Toets aan de Annex III-lijst: Raakt het gebruik aan biometrie, kritieke infrastructuur, onderwijs, werkgelegenheid, essentiële diensten, rechtshandhaving, migratie of rechtsbedeling?
- Beoordeel de impact: Heeft het systeem een significante invloed op de rechten, kansen of toegang tot diensten van individuen? Voert het profilering uit?
Als je na stap 2 in een Annex III-domein terechtkomt maar denkt dat het systeem alleen een procedurele of voorbereidende taak vervult, moet je dat onderbouwd documenteren. Die documentatie is geen formaliteit, maar een vereiste om aanspraak te maken op de uitzondering. Profilering van individuen is nooit een voorbereidende taak en leidt altijd tot de hoog-risico-classificatie.
Wat zijn de risico’s van verkeerde classificatie onder de AI Act?
Een verkeerde classificatie, waarbij je een hoog-risico systeem ten onrechte als laag-risico aanmerkt, kan leiden tot aanzienlijke boetes en reputatieschade. De AI Act kent een boetestructuur met drie niveaus, en non-conformiteit met verplichtingen voor hoog-risico systemen kan leiden tot boetes van maximaal 15 miljoen euro of 3% van de wereldwijde jaaromzet.
Naast de financiële risico’s zijn er ook operationele en juridische gevolgen:
- Systemen die niet voldoen aan de vereisten voor hoog-risico AI moeten worden aangepast of uit gebruik worden genomen.
- Deployers die een systeem gebruiken dat door de aanbieder verkeerd is geclassificeerd, kunnen zelf aansprakelijk worden als ze het beoogde gebruik wezenlijk hebben gewijzigd.
- Het verstrekken van onjuiste of misleidende informatie aan toezichthouders is een aparte overtreding met een boete van maximaal 7,5 miljoen euro of 1% van de omzet.
Voor kmo’s geldt telkens het laagste van het vaste bedrag of het percentage, maar ook dat kan substantieel zijn. De nationale markttoezichtautoriteiten zijn verantwoordelijk voor handhaving, en Finland was in januari 2026 al de eerste lidstaat die handhavingsbevoegdheden toekende aan zijn autoriteit. De kans op daadwerkelijke handhaving neemt dus toe.
Wanneer treedt de AI Act in werking voor hoog-risico systemen?
Voor de meeste hoog-risico AI-systemen die onder Annex III vallen, gelden de verplichtingen vanaf 2 augustus 2026. Voor hoog-risico AI als veiligheidscomponent van gereguleerde producten (Annex I) geldt een latere datum: 2 augustus 2027.
De gefaseerde tijdlijn ziet er als volgt uit:
- 2 februari 2025: Verboden AI-praktijken (Artikel 5) en AI-geletterdheidsverplichtingen zijn van kracht.
- 2 augustus 2025: Verplichtingen voor GPAI-modellen, governance en boetebepalingen gelden.
- 2 augustus 2026: Verplichtingen voor hoog-risico Annex III-systemen worden actief.
- 2 augustus 2027: Verplichtingen voor hoog-risico Annex I-systemen en conformiteit van bestaande GPAI-modellen is vereist.
De deadline van augustus 2026 is voor de meeste organisaties die AI inzetten in klantenservice, HR of dienstverlening de meest relevante. Dat klinkt als ruim de tijd, maar het opzetten van een risicobeheerssysteem, het opstellen van technische documentatie en het doorlopen van een conformiteitsbeoordeling kost meer tijd dan verwacht. Wie nu nog niet is begonnen met de beoordeling van zijn AI-systemen, loopt het risico te laat klaar te zijn.
Hoe Pegamento helpt bij AI-compliance en verantwoorde inzet van AI
Wij begrijpen dat de AI Act voor veel organisaties complex en overweldigend aanvoelt, zeker als je al worstelt met gefragmenteerde systemen en personeelstekorten. Toch is het geen reden om AI-implementatie uit te stellen. Het is juist een reden om het goed te doen.
Als je bij ons een AI-oplossing voor customer service afneemt, denken we vanaf het begin mee over de classificatie en compliance van het systeem. Wat we daarin concreet bieden:
- Helder inzicht in of jouw specifieke gebruik binnen of buiten de hoog-risico-categorie valt.
- Oplossingen op maat met standaard bouwblokken, zodat je geen kostbaar maatwerk nodig hebt maar toch een systeem krijgt dat precies aansluit op jouw situatie.
- Alles onder één dak: van implementatie en beheer tot documentatie en ondersteuning, met één aanspreekpunt.
- Agentic AI-assistenten die niet alleen instructies opvolgen, maar zelfstandig initiatief nemen en handelen, en daarbij ontworpen zijn om menselijk toezicht te ondersteunen in plaats van te omzeilen.
- Borging van informatiebeveiliging en kwaliteit via onze ISO 27001, ISO 9001 en ISO 26000-certificeringen.
Wil je weten hoe jouw huidige AI-systemen scoren op de AI Act-criteria, of wil je verantwoord starten met AI in je klantcontact? Neem contact op en we denken graag met je mee.
Veelgestelde vragen
Wat moet ik doen als mijn chatbot nu al live is maar mogelijk hoog-risico blijkt te zijn?
Begin zo snel mogelijk met een formele classificatiebeoordeling op basis van de Annex III-criteria. Als het systeem inderdaad hoog-risico is, heb je tot 2 augustus 2026 de tijd om aan alle verplichtingen te voldoen, maar het opzetten van een risicobeheerssysteem, documentatie en eventuele conformiteitsbeoordeling kost al snel zes tot twaalf maanden. Schakel indien nodig een juridisch of technisch adviseur in die ervaring heeft met de AI Act, zodat je niet voor verrassingen komt te staan.
Geldt de AI Act ook als ik een chatbot van een externe leverancier gebruik en die zelf niet ontwikkel?
Ja, ook als deployer — de organisatie die een AI-systeem in gebruik neemt — heb je verplichtingen onder de AI Act. Jij bent verantwoordelijk voor het beoogde gebruik, en als jij het systeem inzet op een manier die het hoog-risico maakt, draag jij ook de bijbehorende verantwoordelijkheid. Controleer altijd de classificatie die de aanbieder heeft toegekend, en zorg dat contractueel is vastgelegd wie welke compliance-verplichtingen draagt. Als jij het gebruik wezenlijk wijzigt ten opzichte van wat de aanbieder heeft gedocumenteerd, word je juridisch gezien zelf als aanbieder beschouwd.
Hoe zit het met een chatbot die vandaag geen hoog-risico functies heeft, maar later wordt uitgebreid met bijvoorbeeld een kredietbeoordeling?
Een functionele uitbreiding die het systeem in een hoog-risico domein brengt, wordt beschouwd als een wezenlijke wijziging en triggert een nieuwe classificatiebeoordeling. Vanaf dat moment gelden alle verplichtingen voor hoog-risico AI, inclusief het opstellen van technische documentatie en het inrichten van een risicobeheerssysteem. Het is verstandig om bij elke significante uitbreiding van een AI-systeem standaard een korte compliance-check in je ontwikkelproces op te nemen, zodat je niet achteraf voor een inhaalslag staat.
Wat is het verschil tussen een aanbieder en een deployer onder de AI Act, en waarom maakt dat verschil voor mij?
Een aanbieder is de partij die een AI-systeem ontwikkelt of laat ontwikkelen en op de markt brengt of in gebruik stelt. Een deployer is de organisatie die een bestaand AI-systeem van een aanbieder gebruikt voor eigen doeleinden. Het onderscheid bepaalt wie welke verplichtingen draagt: aanbieders zijn verantwoordelijk voor technische documentatie, conformiteitsbeoordeling en registratie, terwijl deployers verantwoordelijk zijn voor correct gebruik, menselijk toezicht en het informeren van gebruikers. Als jij een AI-systeem op maat laat bouwen voor jouw organisatie, ben je in de meeste gevallen zelf de aanbieder — ook al bouw je het niet technisch zelf.
Zijn er ook verplichtingen voor AI-systemen die géén hoog-risico zijn, zoals een gewone informatieve chatbot?
Ja, ook voor niet-hoog-risico AI-systemen gelden verplichtingen, zij het minder zwaar. De belangrijkste zijn de transparantieverplichtingen: gebruikers moeten weten dat ze met een AI-systeem communiceren, en systemen die synthetische content genereren of emoties detecteren kennen aanvullende meldingsplichten. Daarnaast gelden voor alle organisaties die AI inzetten de AI-geletterdheidsverplichtingen die al sinds februari 2025 van kracht zijn: medewerkers die met AI werken of AI-systemen beheren, moeten voldoende kennis en begrip hebben van de systemen die ze gebruiken.
Hoe gedetailleerd moet de documentatie zijn als ik aannemelijk wil maken dat mijn systeem binnen een Annex III-domein valt maar géén hoog-risico is?
De documentatie moet concreet en onderbouwd zijn: beschrijf het beoogde gebruik, leg uit waarom de taak uitsluitend procedureel of voorbereidend van aard is, en toon aan dat het systeem geen significante invloed heeft op de rechten of kansen van individuen. Een algemene verklaring dat het systeem 'laag-risico' is, volstaat niet. Denk aan een functionele beschrijving, een toelichting op de beslissingsbevoegdheid van het systeem, en een analyse van de mogelijke impact op eindgebruikers. Deze documentatie moet bewaard worden en op verzoek beschikbaar zijn voor toezichthouders.
Wat is een grondrechteneffectbeoordeling en wanneer is die verplicht?
Een grondrechteneffectbeoordeling (Fundamental Rights Impact Assessment, FRIA) is een analyse van de mogelijke gevolgen van een hoog-risico AI-systeem voor grondrechten zoals privacy, non-discriminatie en toegang tot rechtspraak. De verplichting geldt voor deployers van hoog-risico Annex III-systemen die publieke lichamen zijn, of voor private organisaties die hoog-risico systemen inzetten op terreinen als kredietverlening, verzekeringen of essentiële diensten. De beoordeling moet worden afgerond vóór ingebruikname van het systeem en geregistreerd worden in de EU-databank samen met het systeem zelf.
