Niet alle AI-systemen vallen onder de AI Act. De Europese AI-verordening hanteert een risicogericht model: hoe groter het potentiële risico van een AI-toepassing voor mensen of de samenleving, hoe zwaarder de regels. De meeste AI-toepassingen die bedrijven dagelijks gebruiken, vallen in de laagste risicocategorie en zijn nauwelijks gereguleerd. In dit artikel beantwoorden we de meest gestelde vragen over de reikwijdte van de AI Act.
Welke criteria bepalen of een AI-systeem onder de AI Act valt?
Of een AI-systeem onder de AI Act valt, hangt af van twee factoren: het risiconiveau van het systeem en de rol die jouw organisatie speelt bij de ontwikkeling of het gebruik ervan. De AI Act deelt alle AI-toepassingen in vier risicocategorieën in: verboden, hoog-risico, beperkt risico en minimaal of geen risico.
De verordening geldt voor aanbieders die AI-systemen op de EU-markt brengen, importeurs, distributeurs en deployers die AI-systemen in gebruik nemen. Ook organisaties buiten de EU vallen onder de wet als hun systemen worden ingezet binnen de Europese Unie. De rol die je inneemt in de keten bepaalt welke verplichtingen specifiek op jou van toepassing zijn.
Belangrijk is ook het beoogde gebruik. Een systeem dat je aanpast zodat het hoog-risico wordt, of waarop je je eigen naam zet, maakt jou automatisch tot aanbieder, met alle bijbehorende verplichtingen. Hetzelfde geldt als je het doel van een systeem zodanig wijzigt dat het in een hogere risicocategorie terechtkomt.
Welke AI-toepassingen zijn volledig verboden onder de AI Act?
Een beperkte categorie AI-toepassingen is volledig verboden onder de AI Act. Deze verboden zijn per 2 februari 2025 van kracht en richten zich op toepassingen die fundamentele rechten of de menselijke waardigheid ernstig schenden.
De volgende praktijken zijn verboden:
- Subliminale of manipulatieve technieken die buiten iemands bewustzijn gedrag sturen en aanzienlijke schade veroorzaken
- Het uitbuiten van kwetsbaarheden op grond van leeftijd, handicap of sociaaleconomische situatie
- Social scoring door overheden op basis van persoonlijk gedrag
- Predictive policing uitsluitend op basis van profilering, zonder concrete aanwijzingen
- Het aanleggen van gezichtsherkenningsdatabases via ongerichte scraping van internet of camerabeelden
- Emotieherkenning op de werkplek of in onderwijsinstellingen, met uitzondering van medische of veiligheidsdoeleinden
- Biometrische categorisatie om gevoelige kenmerken zoals ras, politieke opvattingen of seksuele geaardheid af te leiden
- Real-time biometrische identificatie op afstand in openbare ruimten voor rechtshandhaving, behalve in strikt omschreven uitzonderingssituaties
Die laatste uitzondering, voor rechtshandhaving, vereist voorafgaande autorisatie door een gerechtelijke of onafhankelijke administratieve autoriteit, een grondrechteneffectbeoordeling en registratie in de EU-databank. In noodgevallen moet autorisatie binnen 24 uur worden aangevraagd.
Welke AI-systemen gelden als hoog-risico en wat zijn de verplichtingen?
Een AI-systeem is hoog-risico als het een veiligheidscomponent is van een product dat Europese harmonisatiewetgeving vereist, of als het valt onder een van de acht gebruikssituaties in Annex III van de AI Act. Voor hoog-risico AI gelden strenge verplichtingen voor aanbieders en gebruikers.
De acht domeinen van Annex III zijn:
- Biometrie
- Kritieke infrastructuur
- Onderwijs en beroepsopleiding
- Werkgelegenheid en personeelsbeheer
- Toegang tot essentiële diensten, waaronder kredietwaardigheid, verzekeringen en noodoproepen
- Rechtshandhaving
- Migratie en grenscontrole
- Rechtsbedeling en democratische processen
Systemen die uitsluitend een smalle procedurele of voorbereidende taak uitvoeren en geen significant risico voor grondrechten vormen, kunnen buiten de hoog-risico-categorie vallen, mits de aanbieder dit onderbouwd documenteert. Systemen die profilering van natuurlijke personen uitvoeren, zijn echter altijd hoog-risico, zonder uitzondering.
De verplichtingen voor hoog-risico AI zijn omvangrijk: een robuust risicobeheerssysteem, technische documentatie, automatische logging van activiteiten, transparantie naar gebruikers, menselijk toezicht, en registratie in de EU-databank. De meeste verplichtingen voor Annex III-systemen gaan in per 2 augustus 2026.
Welke AI-systemen zijn vrijgesteld van de AI Act?
AI-systemen met minimaal of geen risico zijn vrijgesteld van de meeste verplichtingen van de AI Act. Dit is verreweg de grootste categorie en omvat het overgrote deel van de AI-toepassingen die bedrijven vandaag de dag gebruiken, zoals spamfilters, aanbevelingsalgoritmen en eenvoudige automatiseringstools.
Naast de risicocategorie zijn er specifieke vrijstellingen op basis van gebruik of context:
- Wetenschappelijk onderzoek en ontwikkeling: AI-systemen die uitsluitend voor onderzoek worden ontwikkeld en nog niet op de markt zijn gebracht, vallen buiten de reikwijdte van de verordening.
- Militaire en nationale veiligheidstoepassingen: AI die uitsluitend voor militaire doeleinden of nationale veiligheid wordt ingezet, valt buiten de AI Act.
- Persoonlijk gebruik: AI-systemen die je uitsluitend voor eigen persoonlijk gebruik inzet, zijn vrijgesteld.
- Open-source GPAI-modellen: Aanbieders van General Purpose AI-modellen onder een vrije en open-source licentie zijn vrijgesteld van documentatie- en informatieverplichtingen, tenzij het model een systeemrisico vormt.
Het is wel verstandig om ook bij laag-risico toepassingen te documenteren waarom je tot die conclusie komt. Bij een eventuele controle kun je dan aantonen dat je de beoordeling bewust hebt gemaakt.
Vallen generatieve AI en grote taalmodellen ook onder de AI Act?
Ja, generatieve AI en grote taalmodellen vallen onder de AI Act, maar via een apart regime: de GPAI-regels (General Purpose AI). Dit regime geldt voor modellen met brede inzetbaarheid die een groot scala aan taken kunnen uitvoeren en in uiteenlopende systemen kunnen worden geïntegreerd, zoals grote taalmodellen.
Alle aanbieders van GPAI-modellen moeten aan een aantal basisverplichtingen voldoen:
- Technische documentatie opstellen en actueel houden
- Downstream-aanbieders informeren over capaciteiten en beperkingen
- Een beleid voeren om de Auteursrechtrichtlijn na te leven
- Een samenvatting van de gebruikte trainingsdata publiek beschikbaar stellen
Wanneer de cumulatieve trainingsberekening groter is dan 10 tot de macht 25 floating-point operations (FLOP), wordt een model aangemerkt als een model met systeemrisico. Voor zulke modellen gelden aanvullende verplichtingen: modelevaluaties via geavanceerde testprotocollen, mitigatie van systeemrisico’s, onmiddellijke melding van ernstige incidenten aan het AI Office, en een adequaat niveau van cybersecurity. De aanbieder moet de Europese Commissie binnen twee weken informeren zodra die drempel wordt bereikt.
De GPAI-verplichtingen zijn per 2 augustus 2025 van kracht. GPAI-modellen die voor die datum al op de markt waren, moeten uiterlijk 2 augustus 2027 conform zijn.
Wat zijn de gevolgen als een AI-systeem niet voldoet aan de AI Act?
De gevolgen van non-conformiteit met de AI Act kunnen aanzienlijk zijn. De boetestructuur is gelaagd en afhankelijk van de ernst van de overtreding. Voor kleine en middelgrote ondernemingen geldt telkens het laagste van het vaste bedrag of het percentage van de jaaromzet.
De drie boetecategorieën zijn:
- Overtredingen van de verboden praktijken (Artikel 5): maximaal 35 miljoen euro of 7% van de wereldwijde jaaromzet, naargelang welk bedrag hoger is
- Non-conformiteit met overige verplichtingen: maximaal 15 miljoen euro of 3% van de wereldwijde jaaromzet
- Onjuiste of misleidende informatie aan autoriteiten: maximaal 7,5 miljoen euro of 1% van de wereldwijde jaaromzet
Het toezicht op hoog-risico AI ligt bij nationale markttoezichtautoriteiten. Finland was in januari 2026 de eerste EU-lidstaat die handhavingsbevoegdheden formeel toekende aan zijn nationale autoriteit. Het Europese AI Office houdt toezicht op GPAI-modellen in alle 27 lidstaten. GPAI-aanbieders kunnen door de Europese Commissie worden beboet tot maximaal 15 miljoen euro of 3% van de wereldwijde jaaromzet.
Naast financiële sancties kan non-conformiteit leiden tot marktverboden, reputatieschade en verlies van klantvertrouwen. Tijdig in kaart brengen welke AI-systemen je gebruikt en in welke categorie ze vallen, is dan ook een verstandige eerste stap.
Hoe Pegamento helpt met AI Act-compliance
De AI Act stelt duidelijke eisen aan hoe je AI inzet, documenteert en beheert. Als je AI-toepassingen gebruikt binnen klantcontact, procesautomatisering of beslissingsondersteuning, is het belangrijk dat je weet in welke risicocategorie die vallen en welke verplichtingen daarbij horen. Wij helpen organisaties daarbij concreet verder:
- Inzicht in jouw AI-portfolio: we brengen samen in kaart welke AI-systemen je gebruikt en hoe ze worden geclassificeerd onder de AI Act
- Verantwoorde inzet van Agentic AI: onze Agentic AI voor customer service is ontworpen met transparantie en menselijk toezicht als uitgangspunt, zodat je voldoet aan de eisen voor beperkt- en hoog-risico toepassingen
- Documentatie en governance: we ondersteunen bij het opstellen van de technische documentatie en het inrichten van een intern AI-governanceproces
- Alles onder één dak: van advies en implementatie tot beheer en compliance-ondersteuning, zonder dat je meerdere leveranciers hoeft te managen
Wil je weten hoe jouw organisatie er nu voor staat op het gebied van AI Act-compliance? Neem contact met ons op en we denken graag met je mee.
Veelgestelde vragen
Hoe bepaal ik zelf in welke risicocategorie mijn AI-systeem valt?
Begin met het doorlopen van de verboden praktijken uit Artikel 5 van de AI Act. Valt je systeem daar niet onder, controleer dan of het een veiligheidscomponent is van een gereguleerd product of voorkomt in Annex III. Is dat ook niet het geval, dan is de kans groot dat je systeem in de categorie minimaal of geen risico valt. Leg je redenering altijd schriftelijk vast, zodat je bij een eventuele controle kunt aantonen dat je de beoordeling bewust en onderbouwd hebt gemaakt.
Wij gebruiken een AI-tool van een externe leverancier. Zijn wij dan ook verantwoordelijk voor AI Act-compliance?
Ja, als deployer — de partij die een AI-systeem in gebruik neemt — heb je eigen verplichtingen onder de AI Act, ook al heb je het systeem niet zelf ontwikkeld. Bij hoog-risico AI ben je onder meer verantwoordelijk voor menselijk toezicht, het naleven van de gebruiksinstructies van de aanbieder en het melden van ernstige incidenten. Controleer bij je leverancier welke risicocategorie het systeem heeft en vraag om de bijbehorende technische documentatie.
Wat is het verschil tussen een aanbieder en een deployer, en waarom maakt dat uit?
Een aanbieder ontwikkelt een AI-systeem en brengt het op de markt of in gebruik; een deployer neemt een bestaand systeem af en zet het in voor eigen doeleinden. Het onderscheid is cruciaal omdat aanbieders de zwaarste verplichtingen dragen, zoals technische documentatie, conformiteitsbeoordeling en registratie in de EU-databank. Word je door aanpassingen of naamswijziging feitelijk de aanbieder van een systeem, dan gelden automatisch alle bijbehorende aanbiedersverplichtingen voor jou.
Onze organisatie gebruikt ChatGPT of een vergelijkbaar GPAI-model. Welke verplichtingen gelden dan voor ons?
Als je een GPAI-model zoals ChatGPT afneemt en inzet binnen je organisatie, ben je deployer en niet de aanbieder van het model zelf. De GPAI-verplichtingen, zoals technische documentatie en auteursrechtbeleid, rusten op de aanbieder (OpenAI, Google, etc.). Jouw verantwoordelijkheid als deployer is om te beoordelen voor welk doel je het model inzet: gebruik je het als onderdeel van een hoog-risico toepassing, dan gelden alsnog de hoog-risico verplichtingen voor jou als deployer.
Wat zijn de meest voorkomende fouten die organisaties maken bij het inschatten van hun AI Act-verplichtingen?
Een veelgemaakte fout is aannemen dat een systeem automatisch laag-risico is omdat het intern wordt gebruikt of klein van schaal is — de AI Act kijkt naar het gebruiksdoel en de impact, niet naar de omvang. Een andere veelgemaakte vergissing is het vergeten van de deployer-verplichtingen: ook als je zelf niets ontwikkelt, heb je bij hoog-risico AI concrete taken rond toezicht en incidentmelding. Tot slot onderschatten organisaties regelmatig wanneer een aanpassing van een bestaand systeem hen tot aanbieder maakt.
Wanneer moet mijn organisatie uiterlijk compliant zijn met de AI Act?
De AI Act kent een gefaseerde inwerkingtreding. De verboden praktijken zijn al per 2 februari 2025 van kracht. De GPAI-verplichtingen gelden vanaf 2 augustus 2025, met een overgangsperiode tot 2 augustus 2027 voor modellen die vóór die datum al op de markt waren. De verplichtingen voor hoog-risico AI-systemen uit Annex III gaan in per 2 augustus 2026. Het is verstandig om nu al te beginnen met het inventariseren van je AI-portfolio, zodat je ruim op tijd de juiste maatregelen kunt treffen.
Hoe ziet een praktisch eerste stappenplan voor AI Act-compliance eruit?
Start met een AI-inventarisatie: breng in kaart welke AI-systemen je organisatie gebruikt, van wie je ze afneemt en voor welk doel je ze inzet. Classificeer vervolgens elk systeem op basis van de risicocategorieën en stel vast welke rol je inneemt (aanbieder, deployer, importeur). Leg je beoordelingen schriftelijk vast en prioriteer de systemen die mogelijk hoog-risico zijn, want daar zijn de verplichtingen het zwaarst en de deadlines het meest urgent.
