AVG en AI

AVG en AI: data flow, DPIA-triggers en Artikel 22 in de praktijk

Bij AI met persoonsgegevens is een DPIA vrijwel altijd verplicht zodra twee of meer van de negen EDPB-criteria van toepassing zijn; de wettelijke grondslag blijft Artikel 35 AVG. Waar die gegevens landen verschilt per architectuur: bij generatieve AI in de prompts naar de LLM-aanbieder, bij RAG in de vector-database, bij ML in de modelgewichten. Deze gids volgt die data flow per architectuur, werkt Artikel 22 uit na de SCHUFA-uitspraak van december 2023 en geeft een keuzeheuristiek voor internationale transfers.

Door Prometheus21 AI-team
12 min leestijd
4 AI-architecturen, 4 AVG-profielen
Artikel 22 uitgebreid na SCHUFA 2023
DPIA-trigger-matrix 9 criteria
Schrems II blijft leidend voor VS
Persoonsgegevens ai

Volg de data: dat is de AVG-analyse voor AI

Standaard AVG-uitleg bij AI blijft vaak abstract. Rechtsgrond, doelbinding, minimalisatie: belangrijke begrippen, maar ze worden pas concreet als je de data flow per AI-systeem traceert. Per architectuur landen persoonsgegevens op andere plekken en ontstaan andere risico's. Deze gids volgt die flow in vier verschillende AI-architecturen en laat per architectuur zien welke AVG-artikelen scherpe aandacht vragen.

De vier architecturen die we uitwerken: generatieve AI (ChatGPT en varianten via API of consumer-interface), RAG-systemen (retrieval op eigen kennisbank), klassieke ML-modellen (supervised training op eigen data) en predictieve AI die tot besluiten leidt (leadscoring, kredietwaardigheid). Elke variant kent specifieke AVG-paden. Generatieve AI: prompt-leakage, model-memorization, output-hallucinatie. RAG: persoonsgegevens in chunks, rechten-implementatie op vector-databases. ML: training-data-herkomst, model-recht-op-vergeten. Predictief: Artikel 22 AVG, profilering. Zie ook onze AI Act-uitleg voor de parallelle regulering.

Een belangrijke uitspraak sinds 2023: het Europees Hof van Justitie heeft in C-634/21 (SCHUFA) bepaald dat algoritmische kredietwaardigheids-scores onder Artikel 22 AVG kunnen vallen, ook als een mens de uiteindelijke beslissing formeel neemt. De reikwijdte van Artikel 22 is daarmee verbreed. Voor MKB met predictive AI in klantbeslissingen is dit materieel. Onze gids werkt de implicaties per use case uit. Voor bredere compliance-aanpak zie onze 10-stappen-gids.

Belangrijk: Deze gids is geen juridisch advies maar een compliance-werkdocument. Voor concrete AVG-beslissingen bij gevoelige persoonsgegevens of grensgevallen raden we DPO-consultatie of juridische second opinion aan.

Avg generatieve ai

Vier AI-architecturen, vier AVG-profielen

Per architectuur de data flow, specifieke AVG-risico's en kernmitigaties.

01
Generatieve AI
ChatGPT, Claude, Copilot via API of interface
Data flow: prompt (met eventueel persoonsgegevens) naar LLM-aanbieder, verwerking in model, output terug, eventueel logging bij aanbieder. AVG-risico's: prompt-leakage bij consumer-versies, model-memorization bij uitgebreide training op klant-prompts, output-hallucinatie over echte personen, internationale transfers (meeste aanbieders in VS). Kernmitigaties: Enterprise-plan met zero-retention, DPA met SCCs, EU-data-residency via Azure OpenAI waar mogelijk, intern prompt-beleid dat PII beperkt, data-loss-prevention op prompts. Voor MKB is dit de meest voorkomende AI-architectuur en tegelijk waar meeste AVG-incidenten ontstaan door onbeheerst gebruik.
Enterprise-plan
DPA + SCCs
Prompt-beleid
4architecturen
Vier verschillende AVG-profielen
Elke vraagt andere mitigaties.
02
RAG-systeem
AI op eigen kennisbank
Persoonsgegevens in documentchunks en vector-database. Rechten-implementatie: inzage en verwijdering mogelijk (vector-DB is doorzoekbaar). Risico: PII per ongeluk in index. Mitigatie: anonimiseren bronnen, toegangscontrole, DPA met vector-DB.
Toegangscontrole
Bron-anonimisering
03
ML / Predictief
Eigen trainingsdata en modellen
Training-data-herkomst (Artikel 6 rechtsgrond voor secundair gebruik), model-recht-op-vergeten (modelgewichten zijn niet makkelijk te verwijderen), Artikel 22 bij besluiten. Mitigatie: rechtsgrond documenteren, synthetic data overwegen, human-in-the-loop.
Rechtsgrond training
Artikel 22

De werkelijke risico's

Prompt-leakage: bij gratis en Plus-versies van ChatGPT worden prompts standaard gebruikt voor modelverbetering tenzij actief opt-out. Bij Team/Enterprise/API ligt dit anders; daar zijn zero-retention-afspraken mogelijk. Check bij elke AI-tool expliciet.

Model-memorization: onderzoek (bijv. Carlini et al.) heeft aangetoond dat grote taalmodellen persoonsgegevens uit trainingsdata letterlijk kunnen reproduceren bij specifieke prompts. Dit geldt zowel voor pre-training-data als voor RLHF-fijnafstemmingsdata.

Output-hallucinatie over personen: modellen genereren biografische claims die onjuist zijn; dit is AVG-rechtsschending (onjuiste persoonsgegevens, Artikel 5 lid 1 sub d).

Mitigatie-stack

  • Enterprise-plan of API met contractuele zero-retention en no-training-on-input
  • DPA getekend met AI-aanbieder inclusief SCCs bij transfer naar derde land
  • EU-data-residency waar mogelijk (Azure OpenAI, Anthropic EU-hosting)
  • Intern prompt-beleid: welke data mag wel en niet in prompts
  • Technische DLP op prompts waar mogelijk (Cato, Lakera, eigen filters)
  • AI-geletterdheidstraining (Artikel 4 AI Act dubbelt hier met AVG-bewustzijn)
  • Monitoring van output voor claims over echte personen
  • Rechten-proces: hoe handelt AI-leverancier op een inzage- of verwijderingsverzoek

De SCHUFA-uitspraak

In C-634/21 (7 december 2023) heeft het Europese Hof van Justitie bepaald dat het genereren van een algoritmische score, die vervolgens door derden als bepalende factor wordt gebruikt bij kredietverlening, zelf een Artikel 22-besluit vormt. Zelfs als de formele beslissing door een menselijke kredietverstrekker wordt genomen. De interpretatie verbreedt de reikwijdte aanzienlijk.

Implicaties voor MKB: leadscoring-AI met grote invloed op sales-beslissingen, recruitment-AI waar score bepaald wie uitgenodigd wordt, insurance underwriting-AI, zelfs sommige dynamic pricing-implementaties kunnen onder Artikel 22 vallen. Check per AI-besluit: wat is de rol van het AI-resultaat in de feitelijke beslissing.

Verplichtingen onder Artikel 22

  • Verbod op uitsluitend geautomatiseerde besluiten met rechtsgevolgen, tenzij uitzondering (contract, toestemming, EU/nationaal recht)
  • Bij uitzondering: geschikte maatregelen om rechten te beschermen
  • Minimum: recht op menselijke tussenkomst, op uitleg, op bezwaar maken
  • Betrokkene moet weten dat AI wordt ingezet (Artikel 13/14 AVG)
  • Logica van het algoritme moet uitgelegd worden in begrijpelijke taal
  • Verwachte gevolgen moeten gecommuniceerd worden
  • Voor profilering op bijzondere persoonsgegevens: nog strenger regime

De stand 2026

VS-transfers: EU-US Data Privacy Framework sinds juli 2023 operationeel. Transfers naar DPF-gecertificeerde organisaties vallen onder adequaatheidsbesluit. Niet-DPF-gecertificeerde aanbieders: SCCs plus Transfer Impact Assessment nodig. Stabiliteit DPF is ter discussie; Schrems III wordt verwacht.

Andere derde landen: voor AI-leveranciers buiten EU/DPF-gecertificeerd-VS standaard SCCs plus TIA. Voor UK, Zwitserland, Israel, Japan, Canada (commerciele sector): adequaatheidsbesluiten bestaan. Voor India, China, Turkije, meeste overige landen: SCCs plus TIA verplicht, met soms aanvullende maatregelen zoals encryptie in rust en transport.

Praktische keuzeheuristiek

  • Gevoelige PII (Artikel 9 bijzondere persoonsgegevens): kies EU-gehoste AI of zelf-gehoste open-source
  • Gewone PII, kleine volumes: DPF-gecertificeerde VS-aanbieder met DPA is werkbaar
  • Gewone PII, grote volumes: overweeg EU-data-residency (Azure OpenAI eu-west, Anthropic EU)
  • Check altijd aanbieder DPF-status (actief beheerd via dataprivacyframework.gov)
  • Transfer Impact Assessment bij niet-DPF of hoog-risico-data
  • Documenteer keuzes; AP verwacht onderbouwing bij verzoek
Dpia AI systeem

DPIA-trigger-matrix voor AI

EDPB-richtsnoeren WP248 kennen negen criteria. Als twee of meer van toepassing zijn, is DPIA vrijwel altijd verplicht.

EDPB-criterium Typisch bij AI? Voorbeeld
Evaluatie of scoringJaLeadscoring, kredietscoring, CV-scoring
Geautomatiseerd besluit met rechtsgevolgenJaAutomatische onderschrijving verzekering
Systematische monitoringVaakWorkplace monitoring-AI, klantsentiment-AI
Gevoelige data of hoogst persoonlijke aardMogelijkZorg-AI, biometrische AI
Grote schaalJaKlantbestand 10.000+, werknemers 500+
Matching of combineren datasetsVaakCustomer 360-AI, data-warehouse-AI
Kwetsbare betrokkenenMogelijkAI voor minderjarigen, patienten
Innovative use of technologyJa (AI is vaak innovatief)Generatieve AI, computer vision
Belemmert rechten of contractuitvoeringMogelijkAnti-fraude-AI die transacties blokkeert
Aan de slag

Proces per AI-systeem

Standaard bij invoering van elke nieuwe AI met persoonsgegevens.

Data flow
In kaart: welke PII, waar, hoe lang, naar wie.
DPIA-check
EDPB-criteria tellen; twee of meer = DPIA.
Rechtsgrond + contract
Artikel 6 AVG, DPA, SCCs, TIA indien transfer.
Transparantie + rechten
Privacyverklaring, rechten-proces, Artikel 22-waarborgen.

Veelgestelde vragen over AVG en AI

Tien vragen met directe, praktische antwoorden voor MKB-directies, DPO's en compliance-officers.

Het hangt af van vier factoren. Eerste: welke versie van ChatGPT (gratis, Plus, Team, Enterprise, API). Consumer-versies (gratis, Plus) gebruiken input standaard voor modeltraining tenzij opt-out; Enterprise en API doen dit niet standaard. Tweede: welke rechtsgrond (Artikel 6 AVG). Voor klantdata is vaak uitvoering overeenkomst of gerechtvaardigd belang mogelijk, maar niet automatisch. Derde: welke data. Gewone contactgegevens is beheersbaar; bijzondere persoonsgegevens (Artikel 9 AVG zoals gezondheid, etniciteit) mag vrijwel nooit in publieke AI. Vierde: internationale transfers. OpenAI als VS-bedrijf valt onder Schrems II-problematiek; DPA met Standard Contractual Clauses en Transfer Impact Assessment is nodig. Praktisch: voor gevoelige klantdata is een Enterprise-plan met zero-retention en EU-hosting de veiligste route. Voor gewone teksten is opt-out van training bij Plus-accounts minimaal vereist.
Vijf pijlers. Rechtsgrond: per AI-toepassing bepaald onder Artikel 6 AVG. Doelbinding: wat mag AI met de data doen, niet meer dan overeengekomen doel. Dataminimalisatie: alleen PII die noodzakelijk is voor het AI-doel, niet het volledige klantrecord. Transparantie: betrokkenen informeren via privacyverklaring dat AI wordt ingezet, hoe, met welke rechtsgrond. Rechten operationaliseren: Artikel 15 inzage, 16 rectificatie, 17 verwijdering, 22 uitleg bij geautomatiseerde besluitvorming moeten praktisch uitvoerbaar zijn, ook als AI betrokken is. Daarnaast: DPIA waar nodig (Artikel 35), DPA met alle AI-leveranciers (Artikel 28), technische beveiliging (Artikel 32). De Autoriteit Persoonsgegevens heeft sinds 2023 meerdere AI-gerichte richtsnoeren gepubliceerd die kaderstellend zijn.
Artikel 35 AVG verplicht een DPIA bij verwerkingen met waarschijnlijk hoog risico voor betrokkenen. De Autoriteit Persoonsgegevens heeft een lijst gepubliceerd waar DPIA verplicht is. AI-toepassingen waarbij DPIA vaak verplicht is: profilering op grote schaal, geautomatiseerde besluitvorming met rechtsgevolgen (Artikel 22 AVG), verwerking van bijzondere persoonsgegevens via AI, grootschalige monitoring, biometrische identificatie, innovative technologies (AI kwalificeert vaak). De EDPB-richtsnoeren over DPIA bevatten negen criteria; als twee of meer van toepassing zijn, is DPIA vrijwel altijd aangewezen. Voor high-risk AI onder AI Act is DPIA feitelijk altijd verplicht vanwege de aard van impact. Uit onze praktijk: plan een DPIA standaard bij invoering van elke nieuwe AI met persoonsgegevens; kost een tot drie dagen werk, voorkomt juridisch risico.
Artikel 22 AVG beschermt betrokkenen tegen uitsluitend geautomatiseerde besluitvorming, inclusief profilering, die rechtsgevolgen voor hen hebben of hen in significante mate beinvloeden. De hoofdregel is dat dergelijke besluiten niet uitsluitend door een algoritme mogen worden genomen. Uitzonderingen: noodzakelijk voor overeenkomst, toegestaan door Unierecht of lidstaatrecht, of expliciete toestemming. Relevant voor AI bij: krediet-besluiten, verzekerings-onderschrijving, automatische sollicitatie-afwijzing, frauderisico-scoring met gevolgen, dynamic pricing dat personen significant raakt. Het Hof van Justitie (C-634/21, SCHUFA 2023) heeft ruim geinterpreteerd: ook algoritmische kredietwaardigheidsscores die door mensen worden gebruikt kunnen onder Artikel 22 vallen. Praktisch: bij AI-besluiten met rechtsgevolgen human-in-the-loop met echte beslisbevoegdheid implementeren, betrokkene recht op uitleg en bezwaar geven.
Beide regimes gelden naast elkaar waar AI persoonsgegevens verwerkt. AVG beschermt betrokkenen bij verwerking van hun persoonsgegevens ongeacht techniek (dus ook bij AI). AI Act reguleert AI-systemen ongeacht of er persoonsgegevens bij betrokken zijn. Overlap: de meeste AI-systemen verwerken persoonsgegevens, en beide regimes werken dan samen. Artikel 26 lid 9 AI Act koppelt ze expliciet voor high-risk AI: documentatie uit AI Act-compliance mag input zijn voor DPIA onder AVG. Praktische implicatie: plan compliance gebundeld. AVG-kant: rechtsgrond, minimalisatie, rechten, DPIA. AI Act-kant: risicoclassificatie, human oversight, transparantie, logs. Beide samen: risico-inventaris die beide regimes bedient.
Drie grote risico-categorieen. Prompt-leakage: persoonsgegevens in prompts belanden bij de LLM-aanbieder, worden soms gebruikt voor training of blijven in logs. Model memorization: persoonsgegevens uit trainingsdata kunnen door specifieke prompts uit het model worden getrokken (onderzocht bij GPT-3 en opvolgers). Output-hallucinatie: model genereert onjuiste persoonsgegevens over echte personen (feiten die niet kloppen maar als feit worden gepresenteerd). Mitigatie: Enterprise/API-versies met zero-retention-afspraken, prompt-beleid dat PII-invoer beperkt, data-loss-prevention-tools die PII in prompts detecteren, output-controle voor PII over echte personen. Voor EU-organisaties is een EU-gehoste LLM-service of Enterprise-plan met EU-data-residency de veiligste route. Belangrijk: de AVG-laag speelt bij zowel aanbieder-aansprakelijkheid als deployer-verantwoordelijkheid.
AVG-rechten (Artikel 15-22) blijven onverkort gelden als AI wordt ingezet. Inzage (Art. 15): betrokkene moet weten welke persoonsgegevens zijn verwerkt door AI en welke logica en gevolgen. Voor ML-modellen kan dit praktisch ingewikkeld zijn maar is wettelijk verplicht. Rectificatie (Art. 16): onjuiste persoonsgegevens aanpassen. Verwijdering (Art. 17): recht op vergeten, inclusief uit trainingsdata waar mogelijk (Hiroshima-kwestie speelt hier). Bezwaar (Art. 21): tegen verwerking op basis van gerechtvaardigd belang of algemeen belang. Uitleg bij geautomatiseerde besluit (Art. 22): waar AI rechtsgevolgen heeft. Opgeslagen informatie in vector-databases bij RAG-systemen is gewoon doorzoekbaar en verwijderbaar; getrainde modelgewichten zijn dat meestal niet en vragen creatieve oplossingen (unlearning-technieken, model-retraining, isolatie). Bouw processen proactief in, niet reactief bij eerste verzoek.
Veel AI-leveranciers zijn in de VS (OpenAI, Anthropic, Google, Microsoft) of elders buiten EU. Schrems II (2020) heeft Privacy Shield ongeldig verklaard; sinds 2023 is het EU-US Data Privacy Framework vervanger voor VS-transfers naar gecertificeerde organisaties. Voor transfers buiten deze regeling: Standard Contractual Clauses (SCCs) plus Transfer Impact Assessment (TIA) vereist. Praktisch voor MKB: check per AI-leverancier: is er een DPA, welke transfer-mechanismen gelden, is er EU-data-residency-optie. Microsoft Azure OpenAI, Anthropic en Google offerde EU-data-boundary-opties; deze verminderen transfer-risico. Voor gevoelige data: kies bewust voor EU-gebaseerde AI-services of zelf-gehoste open-source-modellen. De AP verwacht dat je deze afwegingen documenteert voor elke AI-dienst met persoonsgegevens.
Artikel 5 lid 1(c) AVG: persoonsgegevens moeten toereikend, ter zake dienend en beperkt tot wat noodzakelijk is voor het doel. Voor AI specifiek betekent dit: niet het volledige klantrecord naar AI sturen als een beperkt deel volstaat. Concrete praktijk: in prompts alleen de velden meegeven die voor de AI-taak relevant zijn; bij RAG-bronnen persoonsgegevens anonimiseren of pseudonimiseren waar mogelijk; bij ML-training: overweeg synthetic data of differential privacy-technieken; bij logs: persoonsgegevens ofwel niet loggen ofwel met korte retentie. Data minimalisatie is niet een wens maar principe; bij DPIA moet je kunnen uitleggen waarom de specifieke data nodig is. Over-dimensioneren geldt als risico; bij incident wordt dit meestal verzwarend meegewogen.
Bij gratis of Plus-versies: prompts kunnen voor training worden gebruikt, dataretentie is minder controleerbaar, EU-data-residency niet gegarandeerd, DPA met OpenAI beperkt. Bij Enterprise of Team: zero-retention op prompts, geen training op input, DPA met OpenAI inclusief SCCs, optie voor EU-data-residency via Azure OpenAI. Voor MKB-gebruik is ChatGPT Enterprise of Microsoft Copilot voor Microsoft 365 (gebouwd op Azure OpenAI) doorgaans passender dan individuele Plus-accounts. Specifieke MKB-valkuilen: medewerkers gebruiken gratis account met bedrijfsdata, team-account zonder centrale governance, geen DPA getekend, geen interne richtlijnen voor prompt-hygiene. Oplossing: centraal afgesloten Enterprise-contract, heldere richtlijnen, technische data-loss-prevention waar mogelijk, AI-geletterdheidstraining. Koppeling aan onze AI Act 10-stappen-gids.

Opgesteld met AI-ondersteuning door de redactie van Prometheus21, laatst bijgewerkt op 7 september 2026. Hoe wij content maken

DPIA voor AI-systeem laten opstellen

Plan een kennismaking voor AVG-quickscan of DPIA-traject per AI-systeem. Inclusief data flow-analyse, rechten-check en transfer-assessment.