EU AI Act compliance voor soevereine AI verwijst naar het geheel van verplichtingen dat Verordening (EU) 2024/1689 oplegt aan organisaties die kunstmatige intelligentie inzetten, gecombineerd met de architectuurkeuze om die AI lokaal of in een Europese soevereine omgeving te hosten zodat de naleving aantoonbaar en controleerbaar blijft. Voor compliance-officers en IT-beslissers in de overheid, zorg, financiën en de juridische sector is dit geen abstracte beleidsmaterie: de eerste handhavingsdeadlines zijn concreet.
Wat de EU AI Act concreet vraagt van gereguleerde sectoren
De AI Act ingedeeld AI-systemen op basis van risico, en gereguleerde sectoren bevinden zich grotendeels in de zwaarste categorie. Systemen die vallen onder Annex III van Verordening 2024/1689 worden aangemerkt als hoog-risico en zijn onderworpen aan uitgebreide eisen nog voordat ze in gebruik worden genomen.
Annex III omvat expliciet: AI gebruikt in kritieke infrastructuur, publieke dienstverlening zoals sociale uitkeringen en zorgtoewijzing, rechtshandhaving, migratiebeheer, de rechtsbedeling en de werking van democratische processen. Een gemeentelijke chatbot die burgers doorverwijst naar uitkeringsregelingen, een AI-ondersteund risicobeoordelingssysteem bij een bank of een geautomatiseerde triage-tool in een ziekenhuis: al deze systemen vallen in beginsel onder de hoog-risico classificatie.
De verplichtingen voor deze categorie omvatten: een risicomanagement- en kwaliteitsbeheersysteem, technische documentatie die aantoont dat het systeem doet wat het belooft, logging van alle beslissingen die het systeem beïnvloedt, menselijk toezicht als structureel onderdeel van het proces, en registratie in de door de Europese Commissie beheerde EU-database voor hoog-risico AI-systemen.
Jurisdictionele risico’s van cloud-GPAI van niet-EU-aanbieders
Veel hoog-risico AI-toepassingen worden niet in eigen beheer ontwikkeld, maar gebouwd bovenop zogeheten General Purpose AI-modellen (GPAI), zoals grote taalmodellen die als API-dienst worden aangeboden door Amerikaanse technologiebedrijven. De AI Act maakt hier een scherp onderscheid.
Aanbieders van GPAI-modellen met een groot bereik (gedefinieerd als modellen getraind met meer dan 1025 FLOP) zijn rechtstreeks onderworpen aan verplichtingen onder de AI Act, waaronder transparantie over trainingsdata en naleving van auteursrecht. Het Europees AI-Bureau (AI Office), ingesteld in februari 2024, bewaakt deze verplichtingen op EU-niveau en heeft de GPAI Code of Practice gepubliceerd in juli 2025 als operationele handleiding.
Maar het jurisdictionele risico gaat verder dan de AI Act alleen. Wanneer een Nederlandse overheidsinstantie persoonsgegevens verwerkt via een GPAI-model dat draait op servers van een Amerikaans bedrijf, gelden de CLOUD Act en de Patriot Act als potentiële grondslag voor datavorderingen door Amerikaanse autoriteiten. Dit staat haaks op de GDPR-vereiste dat persoonsgegevens van EU-burgers adequaat worden beschermd. De AI Act maakt dit risico concreter: als de deployende organisatie niet kan aantonen dat zij controle heeft over het model en de verwerking, is het ook niet mogelijk om de transparantie- en documentatieverplichtingen volledig na te komen.
| Kenmerk | Cloud-GPAI (niet-EU aanbieder) | Soevereine lokale AI |
|---|---|---|
| Jurisdictie van data | VS (CLOUD Act, Patriot Act van toepassing) | EU / eigen datacenter |
| Controle over trainingsdata | Beperkt of afwezig | Volledig in eigen beheer |
| AI Act documentatieplicht | Afhankelijk van aanbieder | Volledig controleerbaar |
| GDPR-grondslag dataverdragen | Risicovol zonder aanvullende maatregelen | Geborgd via verwerkersovereenkomst in NL/EU |
| NIS-2 incidentmelding | Afhankelijk van leverancier | Eigen verantwoordelijkheid, direct aantoonbaar |
Transparantie en documentatie: wat overheidsorganisaties moeten kunnen laten zien
Overheidsorganisaties die AI inzetten bij besluitvorming die burgers raakt, staan voor een extra verantwoordingsplicht. De AI Act vereist dat hoog-risico AI-systemen zijn voorzien van begrijpelijke instructies voor de gebruikers, dat logbestanden bewaard worden die achteraf aantonen welke gegevens het systeem heeft verwerkt en welke output het heeft geproduceerd, en dat er een aangewezen persoon of afdeling is die menselijk toezicht uitoefent.
Aleid Wolfsen, voorzitter van de Autoriteit Persoonsgegevens, verwoordde dit als volgt: “De AI Act is geen theoretisch risico meer. Organisaties die nu geen register bijhouden van hun AI-systemen, lopen straks aan tegen handhaving die ze niet hadden zien aankomen.” De AP is in Nederland aangewezen als markttoezichthouder voor de AI Act en treedt daarmee op als de nationale tegenvoet van het Europees AI-Bureau voor binnenlandse deployers.
Concreet betekent dit dat een overheidsorganisatie een AI-register moet bijhouden met daarin: de naam en versie van het gebruikte systeem, de beoogde doelstelling, de risicocategorie, de verwerkingsgrondslag onder de GDPR, en de wijze waarop menselijk toezicht is georganiseerd. Bij een lokaal gehost model zijn al deze gegevens rechtstreeks beschikbaar bij de eigen IT-afdeling. Bij een extern cloudmodel is de organisatie afhankelijk van de bereidheid van de aanbieder om inzage te geven.
Samenspel van AI Act, GDPR en NIS-2 bij lokale AI-inzet
De AI Act werkt niet in een juridisch vacuüm. Voor organisaties in gereguleerde sectoren gelden naast Verordening 2024/1689 ook de Algemene Verordening Gegevensbescherming (GDPR, Verordening 2016/679) en de NIS-2 richtlijn (Richtlijn 2022/2555 betreffende maatregelen voor een hoog gemeenschappelijk niveau van cyberbeveiliging). Deze drie instrumenten overlappen en versterken elkaar op specifieke punten.
De GDPR stelt eisen aan gegevensminimalisatie, doelbinding en de rechten van betrokkenen. Een AI-systeem dat besluiten neemt op basis van persoonsgegevens moet een rechtsgeldige grondslag hebben én moet voldoen aan de AI Act-eis van technische documentatie. Bij een lokaal gehost systeem kan een organisatie een verwerkersovereenkomst met zichzelf opstellen en de DPIA (Data Protection Impact Assessment) uitvoeren met volledige toegang tot het model. Bij een cloudoplossing is de DPIA altijd afhankelijk van wat de externe leverancier bereid is te documenteren.
NIS-2 voegt daar een beveiligingsdimensie aan toe. Organisaties die onder NIS-2 vallen, zijn verplicht risicobeheermaatregelen te nemen voor hun informatiesystemen, inclusief AI-systemen die zijn ingebed in kritieke processen. Een ransomware-aanval op een cloudaanbieder kan een cascade van verplichte incidentmeldingen in gang zetten. Een lokaal gehost model, voorzien van adequate back-uparchitectuur en netwerkisolatie, beperkt het aanvalsoppervlak en vereenvoudigt de incidentrapportage.
Aantoonbare compliance vanaf augustus 2026: praktische stappen
Compliance-officers hebben tot 2 augustus 2026 om hoog-risico AI-systemen te registreren en de vereiste documentatie op orde te hebben. De vraag is niet alleen of een systeem technisch voldoet, maar of de naleving aantoonbaar is bij een audit door de AP of het AI Office.
Voor organisaties die lokale of soevereine AI inzetten, zijn vier elementen centraal: ten eerste een actueel AI-register met risicocategorie en verwerkingsgrondslag per systeem; ten tweede technische documentatie die aantoont hoe het model werkt, op welke data het is getraind en hoe het geüpdatet wordt; ten derde gedocumenteerde procedures voor menselijk toezicht, inclusief escalatiepaden; en ten vierde een getekende verwerkersovereenkomst die voldoet aan de GDPR voor alle partijen die toegang hebben tot de verwerkte data.
Organisaties die gebruikmaken van open-source modellen die lokaal worden gehost, kunnen de technische documentatie grotendeels zelf samenstellen op basis van de publicaties van de modelontwikkelaar. Dit is een structureel voordeel ten opzichte van gesloten cloudmodellen, waarbij de aanbieder bepaalt welke informatie beschikbaar wordt gesteld.
De AI Omnibus: wat verandert voor compliance-officers
De AI Omnibus, onderdeel van het Digital Omnibus VII-pakket dat in mei 2026 werd gepresenteerd door de Europese Commissie, heeft als doel een aantal administratieve lasten uit de AI Act te verlichten. De meest relevante wijziging voor compliance-officers is de verduidelijking van de definitie van “deployer”: organisaties die AI-systemen inzetten zonder deze zelf te ontwikkelen, maar wel aanpassen aan hun eigen use case, worden nauwkeuriger omschreven in hun verantwoordelijkheden.
Voor kleinere organisaties worden bepaalde documentatieverplichtingen vereenvoudigd. Voor organisaties in gereguleerde sectoren, die per definitie onder Annex III vallen, veranderen de kernverplichtingen echter niet. De AI Omnibus reduceert bureaucratische overlap, maar raakt niet aan de materiële eisen rondom technische documentatie, logging en menselijk toezicht voor hoog-risico systemen.
Het Europees AI-Bureau heeft de GPAI Code of Practice in juli 2025 gepubliceerd als richtsnoer voor aanbieders van GPAI-modellen. Het document beschrijft de verwachte minimale transparantie-inspanningen: “Providers of general-purpose AI models must provide technical documentation, comply with copyright law and publish a summary of training data.” Deployers in gereguleerde sectoren doen er goed aan te controleren of hun GPAI-aanbieder aan deze eisen voldoet, omdat zij anders medeverantwoordelijk kunnen worden gehouden voor nalevingstekorten in de keten.
FAQ: EU AI Act compliance en soevereine AI
Wanneer gelden de AI Act-verplichtingen voor hoog-risico AI volledig?
De volledige verplichtingen voor hoog-risico AI-systemen zoals bedoeld in Annex III van Verordening 2024/1689 gelden vanaf 2 augustus 2026. Verboden AI-praktijken waren al van kracht vanaf 2 februari 2025.
Is een lokaal gehoste AI automatisch compliant met de AI Act?
Nee. Lokale hosting elimineert jurisdictionele risico’s en vergroot de controleerbaarheid, maar ontslaat een organisatie niet van de plicht tot risicoclassificatie, technische documentatie, menselijk toezicht en registratie in de EU-database voor hoog-risico systemen.
Wat verandert de AI Omnibus voor compliance-officers in gereguleerde sectoren?
De AI Omnibus (Digital Omnibus VII, mei 2026) verduidelijkt de definitie van “deployer” en verlicht bepaalde administratieve lasten voor kleinere organisaties. Voor compliance-officers in gereguleerde sectoren die onder Annex III vallen, blijven de kernverplichtingen voor hoog-risico AI onveranderd van kracht.
Wat is het verschil tussen de AP en het AI Office als toezichthouder?
Het Europees AI-Bureau (AI Office) houdt op EU-niveau toezicht op aanbieders van GPAI-modellen. De Autoriteit Persoonsgegevens (AP) is in Nederland aangewezen als markttoezichthouder voor de AI Act en handhaaft ook de raakvlakken met de GDPR voor binnenlandse deployers.
Welke sectoren vallen onder Annex III van de AI Act?
Annex III noemt onder meer: kritieke infrastructuur, onderwijs, werkgelegenheid, essentiële private en publieke diensten (waaronder zorg en banken), rechtshandhaving, migratiebeheer, rechtsbedeling en democratische processen. Overheidsorganisaties zijn in meerdere van deze categorieën vertegenwoordigd en zullen in de praktijk met meerdere hoog-risico classificaties tegelijk te maken hebben.
