Soevereine AI in de zorg verwijst naar het inzetten van kunstmatige intelligentie op patiëntdata waarbij de volledige verwerkingsketen, van model tot infrastructuur, onder de directe controle van de zorginstelling valt en de data de organisatie nooit verlaat. Voor ziekenhuizen, GGZ-instellingen en andere zorgorganisaties is dit geen technische voorkeur, maar een juridische noodzaak die voortvloeit uit de AVG, NEN 7510 en de NIS-2-richtlijn.
Waarom patiëntdata en cloudgebaseerde AI fundamenteel botsen
Zodra patiëntdata een cloudomgeving van een Amerikaanse aanbieder bereikt, verliest een zorginstelling feitelijk de juridische controle over die data. De CLOUD Act (Clarifying Lawful Overseas Use of Data Act, 2018) verplicht Amerikaanse technologiebedrijven om op last van Amerikaanse autoriteiten toegang te verlenen tot gegevens die zij bewaren, ongeacht de fysieke serverlocatie. Dit geldt ook voor servers die in Amsterdam of Frankfurt staan, zolang het beherende bedrijf Amerikaans is.
Voor bijzondere persoonsgegevens zoals gezondheidsgegevens is de rechtsgrond voor verwerking onder AVG Artikel 9 al smal: uitdrukkelijke toestemming, medische noodzaak of zwaarwegend algemeen belang. Een doorgifte naar een Amerikaanse entiteit op grond van een overheidsbevel valt buiten elke van deze grondslagen en levert daarmee een directe AVG-schending op.
AVG en NEN 7510: de dubbele normstelling voor AI op patiëntdata
Zorginstellingen opereren onder twee complementaire normenkaders die samen de minimumvereisten bepalen voor elke AI-toepassing op patiëntdata.
AVG-vereisten voor bijzondere persoonsgegevens
Gezondheidsgegevens zijn onder AVG Artikel 9 bijzondere persoonsgegevens met een versterkt beschermingsregime. Voor AI-toepassingen gelden aanvullend Artikel 22 (geautomatiseerde besluitvorming), Artikel 25 (privacy by design en by default) en Artikel 35 (verplichte DPIA). De verwerkingsgrondslag moet expliciet zijn vastgelegd, en betrokkenen hebben recht op uitleg over geautomatiseerde besluiten die hen significant raken.
NEN 7510 als technisch-organisatorisch kader
NEN 7510 is de Nederlandse norm voor informatiebeveiliging in de zorg, gebaseerd op ISO/IEC 27001 maar met zorgspecifieke aanscherpingen. De norm vereist onder meer: aantoonbaar toegangsbeheer op systemen die patiëntdata verwerken, logische scheiding van systemen, encryptie in transit en at rest, en een aantoonbaar incidentbeheerproces. Voor AI-systemen betekent dit concreet dat het model zelf, de runtime en de dataopslag allemaal binnen het beheerde beveiligingsdomein van de instelling moeten vallen.
| Vereiste | AVG | NEN 7510 |
|---|---|---|
| Rechtsgrond verwerking | Artikel 9 (expliciete grondslag) | Niet van toepassing |
| DPIA | Artikel 35 (verplicht bij hoog risico) | Aanbevolen als risicomaatregel |
| Toegangsbeheer | Artikel 32 (passende beveiliging) | Beheersmaatregel A.9 (identiteits- en toegangsbeheer) |
| Encryptie | Artikel 32 (overweging 83) | Beheersmaatregel A.10 (cryptografie) |
| Incidentmelding | Artikel 33 (72 uur aan AP) | Beheersmaatregel A.16 (incidentbeheer) |
NIS-2 en zorginstellingen als essentiële entiteiten
De NIS-2-richtlijn (Richtlijn EU 2022/2555) plaatst zorginstellingen expliciet onder Bijlage I als essentiële entiteiten in de sector gezondheidszorg. Dit heeft directe consequenties voor de keuze van AI-infrastructuur.
NIS-2 vereist van essentiële entiteiten: risicobeheer voor informatiesystemen, beveiliging van de toeleveringsketen (inclusief AI-modelleveranciers), incidentresponscapaciteit en meldingsplicht bij significante incidenten. De richtlijn is in Nederland geïmplementeerd via de Cyberbeveiligingswet. Voor AI-systemen die patiëntdata verwerken betekent dit dat de toeleveringsketen van het model, inclusief de trainingsdata en de hostinginfrastructuur, onderdeel uitmaakt van het verplichte risicobeheer.
Wanneer een zorginstelling een cloudgebaseerde AI-assistent gebruikt, is de modelleverancier de facto een kritieke toeleverancier waarop NIS-2-supply chain security van toepassing is. Bij on-premise inzet met open-source modellen vervalt dit externe afhankelijkheidsrisico grotendeels, mits de instelling zelf de beveiligingsupdates en patchcycli beheert.
“Healthcare entities must implement security measures proportionate to the risk, including supply chain security and access controls for AI tools that process patient data.”
ENISA, Good Practice Guide Health Cybersecurity 2025
Lokaal gehoste LLM’s: architectuur zonder dataverlies
Een on-premise LLM-implementatie in een ziekenhuisomgeving bestaat uit drie lagen: de modelruntime, de integratielaag met zorgsystemen, en de gebruikersinterface. Geen van deze lagen mag data buiten de organisatie sturen.
Runtimes: Ollama en LM Studio
Ollama is een open-source runtime die grote taalmodellen lokaal uitvoert via een REST API, zonder externe verbindingen voor inferentie. LM Studio biedt een vergelijkbare functionaliteit met een grafische interface, geschikt voor pilotomgevingen. Beide tools sturen tijdens het gebruik geen data naar externe servers. De instelling bepaalt welk model wordt geladen en behoudt volledige controle over de modelversie en de inferentie-infrastructuur.
Open-source medische modellen
Verschillende open-source modellen zijn beschikbaar voor klinische toepassingen. BioMistral is gebaseerd op Mistral en finegetuned op PubMed-literatuur, geschikt voor klinische documentatieondersteuning. ClinicalBERT is geoptimaliseerd voor het verwerken van klinische notities. Llama-gebaseerde modellen met medische finetuning (zoals MedAlpaca) zijn eveneens beschikbaar voor on-premise inzet. Geen van deze modellen stuurt inferentiedata naar externe partijen. Validatie voor klinisch gebruik vereist interne toetsing door medisch specialisten en is onderdeel van de DPIA-documentatie.
De EU AI Act en hoogrisico-classificatie in de zorg
De EU AI Act (Verordening (EU) 2024/1689) classificeert AI-systemen die worden ingezet voor medische diagnose, klinische beslissingsondersteuning of behandeladvies als hoogrisico-systemen onder Artikel 6, in combinatie met Bijlage III. Dit geldt ongeacht of het model lokaal of in de cloud draait.
Voor hoogrisico-AI-systemen gelden verplichtingen op het gebied van: een robuust kwaliteitsmanagementsysteem, technische documentatie van het model en de trainingsdata, logging van besluiten voor achteraf toezicht, transparantie naar gebruikers en patiënten, en verplicht menselijk toezicht bij besluiten met significante gevolgen. Zorginstellingen die nu starten met de implementatie van LLM’s doen er verstandig aan de AI Act-vereisten direct in de architectuur en DPIA-documentatie te verwerken, ook als de toepasselijke overgangsperiodes nog lopen.
DPIA-vereisten voor AI op patiëntdata: aantoonbare compliance voor de IGJ
Een Data Protection Impact Assessment (DPIA) is onder AVG Artikel 35 verplicht wanneer de verwerking waarschijnlijk een hoog risico oplevert voor de rechten en vrijheden van betrokkenen. Voor AI-systemen op patiëntdata is dit vrijwel altijd het geval, omdat tegelijk sprake is van bijzondere persoonsgegevens, geautomatiseerde verwerking en mogelijke besluiten met significante gevolgen.
De Inspectie Gezondheidszorg en Jeugd (IGJ) houdt toezicht op de kwaliteit en veiligheid van zorg, en kan in het kader van digitale veiligheid de DPIA en de onderliggende risicoanalyse opvragen. Een toereikende DPIA voor een AI-systeem op patiëntdata bevat minimaal: een beschrijving van het systeem en de verwerkingen, een noodzakelijkheids- en proportionaliteitstoets, een beschrijving van de genomen technische en organisatorische maatregelen, een residurisico-beoordeling, en de raadpleging van de Functionaris voor Gegevensbescherming (FG).
“Gezondheidsgegevens behoren tot de meest gevoelige persoonsgegevens. Organisaties die AI inzetten op klinische data moeten kunnen aantonen dat zij volledige controle hebben over de verwerkingsketen, inclusief de infrastructuur waarop het model draait.”
Autoriteit Persoonsgegevens, Richtsnoeren AI en gegevensbescherming
Voor de IGJ is aantoonbaarheid het sleutelwoord. Logbestanden van modelgebruik, toegangsregistraties, de verwerkersovereenkomst (of het ontbreken daarvan bij volledig intern beheer), en de versiehistorie van de DPIA vormen samen het auditdossier dat toezichthouders verwachten.
Kernstatistieken over cybersecurity en datalekken in de zorg
- Meer dan 40% van de bij ENISA geregistreerde datalekken in Europese zorginstellingen in 2023 was gerelateerd aan derde partijen of externe verwerkers (ENISA Threat Landscape 2023).
- De Autoriteit Persoonsgegevens ontving in 2023 meer dan 25.000 datalekkmeldingen; de zorgsector scoort daarin structureel hoog (AP Jaarverslag 2023).
- Ransomware-aanvallen op de Europese gezondheidszorg stegen tussen 2021 en 2023 met meer dan 50%, met ziekenhuizen als meest getroffen subsector (ENISA Health Threat Landscape Report 2023).
Praktische implementatieroute voor zorginstellingen
Een verantwoorde implementatie van soevereine AI in een ziekenhuisomgeving begint niet met de technologie maar met de risicoanalyse. Stel eerst vast voor welke use case het LLM wordt ingezet (documentatieondersteuning, klinische beslissingsondersteuning, patiëntcommunicatie) en welke classificatie dat oplevert onder de EU AI Act. Start daarna de DPIA parallel aan de technische architectuurbeslissingen, zodat beveiligingsvereisten uit de DPIA direct invloed hebben op de inrichtingskeuzes.
Kies vervolgens een runtime (Ollama of LM Studio voor pilot, een productiewaardige Kubernetes-gebaseerde deployment voor schaalbare uitrol) op hardware die uitsluitend onder beheer van de instelling valt. Documenteer de modelversie, de herkomst van de trainingsdata en de afwezigheid van externe telemetrie. Stel toegangscontroles in conform NEN 7510 beheersmaatregel A.9, activeer auditlogging en definieer een patchbeleid voor modelupdates. Leg ten slotte vast hoe menselijk toezicht op AI-gegenereerde uitkomsten is geborgd, als vereist door zowel de EU AI Act als goed klinisch bestuur.
FAQ: soevereine AI in de zorg
Mag een ziekenhuis patiëntdata invoeren in ChatGPT of Microsoft Copilot for Healthcare?
Nee, niet zonder expliciete verwerkersovereenkomst, een geldige rechtsgrond onder AVG Artikel 9 voor bijzondere persoonsgegevens, en zekerheid dat de data niet buiten de EER terechtkomt. Bij cloudgebaseerde diensten van Amerikaanse aanbieders speelt bovendien de CLOUD Act, die Amerikaanse autoriteiten toegang kan geven tot de data ongeacht de serverlocatie.
Wat is het verschil tussen NEN 7510 en de AVG voor AI-systemen in de zorg?
De AVG regelt de rechtmatigheid van gegevensverwerking en de rechten van patiënten. NEN 7510 is een technische en organisatorische norm die concrete beveiligingsmaatregelen voorschrijft voor informatiesystemen in de zorg, waaronder toegangsbeheer, encryptie en incidentbeheer. Een AI-systeem dat patiëntdata verwerkt moet aan beide voldoen.
Welke open-source LLM’s zijn geschikt voor on-premise inzet in een ziekenhuis?
Modellen zoals BioMistral, ClinicalBERT en Llama-afgeleiden met medische finetuning zijn beschikbaar voor on-premise inzet via runtimes als Ollama of LM Studio. Deze modellen sturen geen data naar externe servers en trainen niet op uw patiëntdata. Een grondige validatie en DPIA blijven vereist vóór klinisch gebruik.
Wanneer is een DPIA verplicht voor een AI-toepassing in de zorg?
Een DPIA is verplicht onder AVG Artikel 35 als de verwerking waarschijnlijk een hoog risico oplevert. Voor AI-systemen die patiëntdata verwerken is dit vrijwel altijd het geval, zeker als het gaat om geautomatiseerde besluitvorming of grootschalige verwerking van gezondheidsgegevens. De IGJ kan de DPIA opvragen als onderdeel van haar toezicht.
Valt een intern gehoste LLM ook onder de EU AI Act?
Ja. Als het systeem wordt ingezet voor klinische beslissingsondersteuning, diagnose of behandeladvies, valt het onder Artikel 6 van de EU AI Act als hoogrisico-AI-systeem. Dit brengt verplichtingen met zich mee op het gebied van transparantie, technische documentatie, conformiteitsbeoordeling en menselijk toezicht.
