Het risico van AI modeltraining gegevenslekrisico bedrijfsgeheimen cloudgebaseerde LLM omvat alle situaties waarbij vertrouwelijke informatie, ingevoerd als prompt in een extern gehoste AI-tool, terecht kan komen in de trainingsdata of het modelgeheugen van die dienst, waardoor de organisatie de feitelijke controle over haar bedrijfsgeheimen en persoonsgegevens verliest. Voor compliance officers en IT-beslissers in gereguleerde sectoren is dit geen theoretisch risico: het is een aantoonbaar juridisch en operationeel probleem.
Hoe een cloudgebaseerde LLM vertrouwelijke data absorbeert
Wanneer een medewerker een prompt invoert in een dienst als ChatGPT, Microsoft 365 Copilot of Google Gemini, verlaat die tekst de organisatie en wordt verwerkt op de servers van de aanbieder. De vraag is wat daarna met die data gebeurt.
Er zijn drie mechanismen waardoor vertrouwelijke informatie permanent in een extern model kan belanden. Ten eerste directe trainingsopname: aanbieders die geen strikte scheiding hanteren tussen productieverkeer en trainingsdata kunnen prompts gebruiken om hun modellen te verfijnen. Ten tweede contextopslag: sommige diensten bewaren conversatiegeschiedenissen in cloudomgevingen om de gebruikerservaring te personaliseren, waardoor de data toegankelijk blijft voor de aanbieder. Ten derde, en het minst zichtbaar: fine-tuning op organisatieniveau, waarbij zakelijke versies van een tool organisatiespecifieke data verwerken om de output te verbeteren, maar waarbij de datastromen niet altijd transparant zijn gedocumenteerd.
Een concreet precedent: Samsung-medewerkers lieten in april 2023 binnen twintig dagen bij drie afzonderlijke incidenten vertrouwelijke broncode en interne vergadernotulen lekken via ChatGPT-prompts. Samsung reageerde met een intern verbod op het gebruik van externe AI-tools op bedrijfsapparaten.
AVG-verplichtingen en aansprakelijkheid bij gebruik van generatieve AI
Het invoeren van persoonsgegevens in een cloudgebaseerde AI-tool is een gegevensverwerking in de zin van de Algemene Verordening Gegevensbescherming, en vereist een rechtmatige grondslag plus een geldige verwerkersovereenkomst.
AVG artikel 28 bepaalt dat een verwerkingsverantwoordelijke uitsluitend gebruik mag maken van verwerkers die voldoende garanties bieden. Dit betekent dat er een schriftelijke verwerkersovereenkomst moet bestaan voordat een medewerker ook maar één prompt met persoonsgegevens instuurt. In de praktijk ontbreekt deze overeenkomst vaak wanneer medewerkers op eigen initiatief gratis versies van tools gebruiken, of wanneer een organisatie de zakelijke versie heeft afgenomen maar de DPA-documentatie niet heeft gecontroleerd.
Andrea Jelinek, voormalig voorzitter van het European Data Protection Board, stelde hierover: “Wanneer persoonsgegevens worden ingevoerd in een generatieve AI-tool waarvan de aanbieder buiten de EU is gevestigd, moet de verwerkingsgrondslag en de doorgifte naar derde landen expliciet zijn geregeld. Bij gebreke daarvan is er sprake van een onrechtmatige verwerking.”
Het EDPB publiceerde in april 2025 zijn richtsnoeren over LLM-privacyrisico’s (Opinion 28/2025). Daarin stelde het board vast dat LLM-aanbieders vaak onvoldoende transparantie bieden over of en hoe prompts worden gebruikt voor modelverbetering, en dat het recht op wissing van persoonsgegevens in de praktijk moeilijk afdwingbaar is zodra data in een model is geïntegreerd. Dit is bijzonder problematisch omdat het recht op vergetelheid (AVG artikel 17) technisch niet uitvoerbaar is als een model eenmaal is getraind op bepaalde data.
Bescherming van bedrijfsgeheimen onder EU-richtlijn 2016/943
EU-richtlijn 2016/943, in Nederland geïmplementeerd via de Wet bescherming bedrijfsgeheimen, biedt organisaties rechtsmiddelen wanneer vertrouwelijke knowhow of bedrijfsinformatie onrechtmatig wordt verkregen, gebruikt of openbaar gemaakt.
De richtlijn vereist echter dat de houder van het bedrijfsgeheim redelijke maatregelen heeft getroffen om de vertrouwelijkheid te waarborgen. Dit is een cruciale drempel. Wanneer een organisatie haar medewerkers onbeperkt generatieve AI-tools laat gebruiken zonder beleid, technische beperkingen of bewustzijnstraining, loopt zij het risico dat een rechter oordeelt dat zij geen redelijke maatregelen heeft genomen. In dat geval vervalt de bescherming van de richtlijn.
Concurrenten of kwaadwillende derden die via een AI-platform indirect toegang zouden krijgen tot vertrouwelijke productieprocessen, klantenlijsten of onderhandelingsstrategieën, kunnen dit argument gebruiken om aansprakelijkheid van de lekorganisatie af te wenden. De combinatie van EU-richtlijn 2016/943 en het ontbreken van intern AI-beleid vormt daarmee een dubbel juridisch risico.
Het CLOUD Act-risico voor Microsoft 365 Copilot
Microsoft 365 Copilot verwerkt data in de Microsoft-cloud en valt daarmee onder de jurisdictie van de Amerikaanse CLOUD Act (18 U.S.C. § 2713). Deze wet verplicht Amerikaanse cloudaanbieders om op bevel van een Amerikaanse rechtbank gegevens te verstrekken aan Amerikaanse autoriteiten, ongeacht waar die gegevens fysiek zijn opgeslagen.
Max Schrems, oprichter van NOYB, formuleert het scherp: “De CLOUD Act verplicht Amerikaanse aanbieders op bevel van een Amerikaanse rechter data te verstrekken, ongeacht waar die data fysiek is opgeslagen. Europese contractuele garanties bieden hiertegen geen waterdichte bescherming.”
Voor organisaties in de advocatuur, gezondheidszorg of overheid is dit bijzonder relevant. Een advocatenkantoor dat vertrouwelijke processtukken verwerkt via Microsoft 365 Copilot, een ziekenhuis dat patiëntendossiers koppelt aan AI-functies, of een overheidsorgaan dat geclassificeerde beleidsdocumenten in Copilot verwerkt: alle drie zijn potentieel blootgesteld aan vorderingen waarover zij geen controle hebben en waarvan zij mogelijk niet eens op de hoogte worden gesteld.
| Scenario | Cloudgebaseerde LLM (bijv. Copilot) | Lokaal gehoste LLM |
|---|---|---|
| Trainingsrisico prompts | Aanwezig, afhankelijk van servicevoorwaarden | Afwezig, data verlaat de organisatie niet |
| CLOUD Act-blootstelling | Aanwezig bij Amerikaanse aanbieders | Afwezig bij on-premise of Zwitserse hosting |
| AVG verwerkersovereenkomst vereist | Ja, verplicht onder AVG artikel 28 | Intern beheer, geen externe verwerker |
| Recht op wissing uitvoerbaar | Technisch moeilijk na modeltraining | Volledig controleerbaar door organisatie |
| Bescherming bedrijfsgeheimen (richtlijn 2016/943) | Vereist aantoonbaar intern beleid en maatregelen | Sterker, data blijft binnen organisatiecontrole |
Technische mitigaties: van promptsanitisatie tot lokale inferentie
Organisaties die cloudgebaseerde AI-tools niet volledig kunnen vermijden, hebben een aantal technische maatregelen tot hun beschikking die het risico significant verkleinen, hoewel geen ervan een afdoende juridische oplossing biedt als vervanging voor een correcte verwerkersovereenkomst.
Automated PII-masking
Automated PII-masking is een technische maatregel waarbij namen, burgerservicenummers, e-mailadressen, IBAN-nummers en andere persoonsgebonden identifiers automatisch worden gedetecteerd en vervangen door neutrale tokens voordat de prompt de interne netwerkgrens verlaat. Tools als Microsoft Presidio (open source) of commerciële DLP-oplossingen kunnen dit geautomatiseerd uitvoeren. De beperking is dat PII-masking niet beschermt tegen het lekken van niet-persoonsgebonden bedrijfsgeheimen, zoals unieke bedrijfsprocessen, strategische plannen of technische specificaties.
Promptsanitisatie en outputfiltering
Promptsanitisatie omvat het systematisch verwijderen of herformuleren van vertrouwelijke termen, projectnamen en interne classificaties voordat een prompt wordt verstuurd. Dit vereist een combinatie van technische tooling en medewerkerstraining. Outputfiltering voegt daar een tweede laag aan toe: de respons van de AI wordt gescand op mogelijke doorlekking van gevoelige intern bekende informatie voordat deze de eindgebruiker bereikt.
Lokale inferentie als structurele oplossing
De meest afdoende technische maatregel is lokale inferentie: het draaien van een LLM op interne infrastructuur of in een private cloud die onder de exclusieve jurisdictie van de organisatie valt. Open-source modellen als Llama (Meta) of Mistral kunnen on-premise worden ingezet. Data verlaat de organisatie in dit model nooit, er is geen externe verwerker in de zin van AVG artikel 28, en er is geen CLOUD Act-blootstelling. De trade-off is hogere initiële investeringskosten en de noodzaak van interne GPU-capaciteit of een private cloudinfrastructuur.
Voor organisaties die overwegen te migreren van Microsoft 365 naar een soevereine werkplek, bieden platformen als Nextcloud gecombineerd met een lokaal gehoste LLM een architectuur waarbij zowel de samenwerkingstools als de AI-functies volledig onder eigen beheer blijven, zonder trainingsrisico’s en zonder extraterritoriale juridische blootstelling.
Aanbevelingen voor compliance officers en IT-beslissers
De combinatie van AVG artikel 28, EU-richtlijn 2016/943 en de CLOUD Act creëert voor organisaties in gereguleerde sectoren een juridisch landschap waarbij het gebruik van cloudgebaseerde LLMs zonder expliciete risicoanalyse en mitigaties onverantwoord is. De volgende stappen zijn noodzakelijk, niet optioneel.
Voer eerst een inventarisatie uit van alle AI-tools die medewerkers gebruiken, zowel bedrijfsgekocht als shadow-IT. Bepaal per tool welke categorieën data worden ingevoerd en of er een geldige verwerkersovereenkomst (AVG artikel 28) bestaat. Controleer daarna de servicevoorwaarden op bepalingen over trainingsgebruik van prompts en de mogelijkheid tot opt-out. Implementeer technische controls, minimaal automated PII-masking en DLP-beleid dat het kopiëren van geclassificeerde documenten naar externe AI-tools blokkeert. Stel vervolgens een intern AI-gebruiksbeleid op dat voldoet aan de redelijke-maatregelentoets van EU-richtlijn 2016/943. Voor de structurele oplossing op middellange termijn: evalueer lokale inferentieopties als alternatief voor cloudgebaseerde generatieve AI, zeker voor de meest gevoelige werkprocessen.
FAQ
Worden mijn prompts altijd gebruikt om een cloudgebaseerde LLM te trainen?
Dat hangt af van de servicevoorwaarden van de aanbieder. OpenAI gebruikt prompts van gratis gebruikers standaard voor modelverbetering tenzij dit expliciet wordt uitgeschakeld. Betaalde zakelijke versies bieden doorgaans een opt-out, maar de feitelijke verwerking blijft plaatsvinden op servers van de aanbieder, wat doorgifte naar derde landen kan inhouden.
Wie is verantwoordelijk bij een datalek via een AI-tool: de organisatie of de AI-aanbieder?
Onder de AVG blijft de organisatie die haar medewerkers de tool laat gebruiken de verwerkingsverantwoordelijke. De AI-aanbieder is verwerker in de zin van AVG artikel 28 en moet een verwerkersovereenkomst zijn aangegaan. Ontbreekt die, dan draagt de organisatie de volledige verantwoordelijkheid en meldplicht bij een datalek.
Biedt een Microsoft 365 Copilot-licentie met EU Data Boundary voldoende bescherming tegen de CLOUD Act?
Nee. Microsoft’s EU Data Boundary belooft dat data binnen de EU wordt opgeslagen, maar de CLOUD Act (18 U.S.C. § 2713) verplicht Amerikaanse bedrijven data te verstrekken aan Amerikaanse autoriteiten ongeacht de fysieke opslaglocatie. Zolang Microsoft een Amerikaans bedrijf blijft, biedt opslag in Europese datacenters geen juridische immuniteit voor deze wet.
Wat is automated PII-masking en hoe helpt het bij het gebruik van externe AI-tools?
Automated PII-masking is een technische maatregel waarbij namen, BSN-nummers, e-mailadressen en andere persoonsgegevens automatisch worden vervangen door tokens of pseudoniemen voordat een prompt de organisatiegrens verlaat. Dit verkleint het risico op onrechtmatige verwerking van persoonsgegevens, maar beschermt niet automatisch tegen het lekken van niet-persoonsgebonden bedrijfsgeheimen.
Mogen advocaten of artsen gebruik maken van cloudgebaseerde AI-tools voor hun werk?
In principe alleen als aan alle AVG-vereisten is voldaan, inclusief een geldige verwerkersovereenkomst, een rechtmatige grondslag voor eventuele doorgifte naar derde landen, en naleving van beroepsspecifieke geheimhoudingsplichten. Voor advocaten gelden de regels van de Nederlandse Orde van Advocaten; voor artsen gelden de NEN 7510-norm en de WGBO. In de praktijk raden toezichthouders cloudgebaseerde tools voor dit type gevoelige data sterk af.
