Artikel 10 AI Act: data governance voor training en validatie.

Artikel 10 AI Act stelt zes kwaliteitseisen aan de training-, validatie- en testdata van high-risk AI-systemen: relevantie, representativiteit, foutvrijheid, compleetheid, statistische eigenschappen en groeps-representativiteit. Het artikel geldt voor aanbieders van high-risk AI uit Annex I of Annex III en schrijft daarnaast zes data-preparation-operaties met documentatieplicht voor: annotatie, labelen, cleaning, update, verrijking en aggregatie. De AI Act staat bias-testing met bijzondere persoonsgegevens toe onder zes cumulatieve voorwaarden; deze gids geeft daarvoor een beslisboom en een data-governance-framework voor het MKB.

Prometheus21 helpt MKB en mid-market een Artikel 10-conforme data-governance op te bouwen, inclusief bias-testing-programma onder lid 5. Onderdeel van onze AI compliance-aanpak.

Plan een data-governance-sessie Doe de gratis AI-check (5 min)
Geschreven door Prometheus21, AI-strategiepartner voor het MKB ·
6
Data-kwaliteits-criteria uit Artikel 10 lid 3 (relevantie, representativiteit, foutvrijheid, compleetheid, statistische eigenschappen, groeps-representativiteit)
3x
Dataset-types: training, validatie en test (lid 1), elk met eigen kwaliteits- en governance-eisen
1
Speciale AVG-provisie (lid 5) voor bias-testing met artikel-9-bijzondere-categorieen, onder zes cumulatieve voorwaarden
Artikel 10 AI Act

Wat Artikel 10 regelt. En waarom bias-testing eindelijk legaal kan.

Artikel 10 AI Act regelt de data en data governance voor high-risk AI-systemen die getraind worden met model-training-technieken. De verplichtingen raken elk dataset-type: training, validatie en test. De strekking: zonder kwaliteit en discipline in data is een AI-systeem niet betrouwbaar, en zonder controle op bias raken grondrechten geschonden.

De zes leden van Artikel 10 bouwen op elkaar. Lid 1 legt de scope: kwaliteits-criteria per dataset-type. Lid 2 definieert governance- en management-praktijken: design choices, data-herkomst, zes preparation-operaties (annotatie, labelen, cleaning, update, verrijking, aggregatie), aannames, bias-onderzoek, data-gaps. Lid 3 specificeert wat kwaliteit betekent: relevantie, representativiteit, foutvrijheid, compleetheid, statistische eigenschappen. Lid 4 eist contextuele fit: geografisch, gedrags-, functioneel. Lid 5 opent een smalle legale ingang voor bias-testing met AVG-bijzondere categorieen, onder zes strikte voorwaarden. Lid 6 maakt duidelijk dat voor systemen zonder training alleen test-data-eisen gelden.

Waarom Artikel 10(5) bijzonder is. Klassieke bias-testing op etniciteit, geslacht, geloof, geaardheid of gezondheid loopt stuk op AVG-artikel 9: die data mag in beginsel niet worden verwerkt. Resultaat in de praktijk was dat AI-systemen werden gebouwd en getraind zonder adequate fairness-evaluatie, met name over beschermde kenmerken. Lid 5 doorbreekt deze patstelling. Aanbieders mogen bij hoge uitzondering bijzondere categorieen verwerken voor bias-detectie en -correctie, mits zes cumulatieve voorwaarden zijn voldaan. Dit is juridisch novum en geeft verantwoorde bias-testing eindelijk een legaal kader.

Voor wie geldt Artikel 10. Alleen voor aanbieders van high-risk AI-systemen onder Artikel 6, dus AI uit Annex I (product-veiligheidsregelgeving) of Annex III (acht categorieen zoals werving, onderwijs, kritieke infrastructuur, rechtshandhaving). Voor niet-high-risk AI geldt Artikel 10 niet, al is data-discipline altijd zinvol. Voor General Purpose AI-modellen gelden aparte regels onder Artikelen 53 en 55. Voor Nederlandse MKB: de meeste directe impact is bij HR-AI, finance-AI (credit-scoring), zorg-AI (diagnostische hulpmiddelen) en onderwijs-AI (beoordelings-systemen).

Praktijk. Implementatie raakt meerdere disciplines: data engineering (preparation, kwaliteit), data science (bias-testing, fairness-metrieken), legal en privacy (AVG-grondslag, FG-betrokkenheid), compliance (documentatie, audit). Voor een MKB is rolverdeling doorgaans een data-lead plus een privacy-officer of FG plus een project-owner. Tooling kan open source: data-catalog met OpenMetadata, bias-testing met Fairlearn of AIF360, documentatie in een gestructureerd git-repository of GRC-platform. Integratie met onze compliance-roadmap voor volledige AI Act-aanpak.

Bijzondere categorieen AVG: artikel 9 lid 1 AVG noemt: ras of etnische afkomst, politieke opvattingen, religieuze of levensbeschouwelijke overtuigingen, vakbondslidmaatschap, genetische data, biometrische data voor unieke identificatie, gezondheidsdata, seksleven of seksuele geaardheid. Verwerking is in principe verboden, tenzij een grondslag uit artikel 9 lid 2 van toepassing is.

Model-training-technieken: supervised learning, unsupervised learning, reinforcement learning, deep learning, transfer learning en fine-tuning. Rule-based of expert-systemen gebruiken geen model-training in deze zin en vallen onder lid 6.

Zes kwaliteits-criteria
Relevantie, representativiteit, foutvrijheid, compleetheid, statistische eigenschappen en groeps-representativiteit uit lid 3.
Zes data-operaties
Annotatie, labelen, cleaning, update, verrijking en aggregatie. Elk met documentatie-eis uit lid 2.
Artikel 10(5) bias-uitzondering
Bias-testing met AVG-bijzondere categorieen mag, onder zes cumulatieve voorwaarden. Juridisch novum.
Lid 3: kwaliteits-criteria

Wat data-kwaliteit betekent onder Artikel 10

Lid 3 noemt zes eigenschappen waaraan training-, validatie- en test-datasets moeten voldoen. Voor elk een concrete invulling voor de MKB-praktijk.

Eigenschap 1
Relevantie
De data past bij het beoogd doel van het AI-systeem. Variabelen meten wat ze moeten meten. Concreet: mapping tussen probleem-domein en dataset-features, onderbouwing per variabele waarom die is opgenomen, periodieke review bij scope-wijziging.
Eigenschap 2
Representativiteit
De data weerspiegelt de populatie waar het systeem op wordt toegepast. Sub-groepen zijn voldoende vertegenwoordigd. Concreet: demografische analyse, steekproef-onderbouwing, identificatie van ondervertegenwoordigde groepen plus mitigatie via sampling of weighting.
Eigenschap 3
Zoveel mogelijk foutvrijheid
Labels kloppen, metingen zijn correct, duplicaten zijn verwijderd. Concreet: double-blind labeling op steekproef, outlier-detectie, deduplicatie, foutmeting-rapportage per dataset. Geen dataset is perfect; documenteer de foutmarge.
Eigenschap 4
Zoveel mogelijk compleetheid
Belangrijke variabelen ontbreken niet. Missing values zijn behandeld. Concreet: missing-value-analyse per variabele, imputatie-methodologie, gap-analyse voor ontbrekende features, documentatie van keuzes.
Eigenschap 5
Statistische eigenschappen
Distributies passen bij populatie. Sample-grootte is adequaat. Concreet: verdelings-tests, statistische power-analyse, check op covariance-structuren, drift-monitoring. Bij afwijking: hertraining of data-aanvulling.
Eigenschap 6
Groeps-representativiteit
Relevante personen-groepen waar het systeem op wordt toegepast zijn adequaat vertegenwoordigd. Concreet: identificatie van beschermde en kwetsbare groepen, per-groep performance-analyse, corrigerende maatregelen bij onder-performance.
Lid 2: data-preparation

Zes operaties met documentatie-plicht

Artikel 10 lid 2 noemt zes data-preparation-operaties expliciet. Elke operatie krijgt protocol, uitvoerder, tools en kwaliteitscontrole.

Operatie 1
Annotatie
Toevoegen van meta-informatie aan data-items. Bijvoorbeeld: spreker-ID bij audio, bounding boxes bij afbeeldingen, tags bij teksten. Documentatie-eis: annotatie-guideline, inter-annotator agreement, sample-review door expert.
Operatie 2
Labelen
Toekennen van doel-labels aan training-voorbeelden. Bijvoorbeeld: sentiment positief/negatief, ziekte aanwezig/afwezig, fraude/geen fraude. Documentatie-eis: label-taxonomie, labeling-protocol, quality-audit op minstens 5 procent steekproef.
Operatie 3
Cleaning
Verwijderen van fouten, duplicaten en ongeldige records. Harmoniseren van formaten. Documentatie-eis: cleaning-rules, aantal verwijderde records per type, voor-na-statistieken.
Operatie 4
Update
Vernieuwen van data zodat het actueel blijft. Voor systemen in productie kritisch om data drift te vermijden. Documentatie-eis: update-frequentie, bron-monitoring, impact-analyse op model-prestaties.
Operatie 5
Verrijking
Toevoegen van features of context uit andere bronnen. Bijvoorbeeld: postcode-gebaseerde demografische data, weer-data bij retail. Documentatie-eis: bron-verificatie, toestemming-check (AVG), kwaliteits-impact per toegevoegde feature.
Operatie 6
Aggregatie
Samenvatten van individuele records tot geaggregeerde statistieken. Bijvoorbeeld: klant-niveau features uit transactie-historie. Documentatie-eis: aggregatie-methode, privacy-impact (anonimisering), verliezen van informatie.
Artikel 10(5) beslisboom

Mag je AVG-bijzondere categorieen voor bias-testing?

Artikel 10(5) geeft een smalle uitzondering, zes cumulatieve voorwaarden. Deze beslisboom loopt ze door voor je concrete casus.

Beslisboom Artikel 10(5)

Alle zes stappen moeten JA opleveren voor een geldige basis. Bij NEE op een stap: zoek alternatief.

1
Is het high-risk AI onder Artikel 6?
Artikel 10(5) geldt alleen bij high-risk AI. Check Annex I en Annex III. Voor limited risk of GPAI geldt lid 5 niet.
JA: door naar stap 2. NEE: Artikel 10(5) is geen basis. Voor bias-testing zoek alternatieve AVG-grondslag of gebruik synthetische data.
2
Zijn alternatieve aanpakken onvoldoende? (Sub a)
Synthetische data, geanonimiseerde data of geaggregeerde data kan bias-detectie niet effectief uitvoeren. Onderbouw schriftelijk waarom.
JA: door naar stap 3. NEE: gebruik het alternatief. Lid 5 is niet beschikbaar.
3
Heb je technische hergebruik-beperkingen plus geavanceerde beveiliging? (Sub b)
Beperking op hergebruik (niet voor training, niet voor andere doelen). Geavanceerde security- en privacy-preserving measures (encryption, pseudonimisering, access logging, differential privacy waar passend).
JA: door naar stap 4. NEE: implementeer eerst, dan heroverwegen.
4
Zijn toegang en documentatie strikt gecontroleerd? (Sub c)
Toegangscontrole: wie, wanneer, waarom. Volledige audit-log. Need-to-know basis. Documentatie van elke toegangsactie.
JA: door naar stap 5. NEE: richt access management in.
5
Wordt data niet doorgegeven en wel tijdig verwijderd? (Sub d en e)
Data wordt niet gedeeld met andere partijen (ook niet binnen eigen groep zonder grondslag). Data wordt verwijderd zodra bias is gecorrigeerd of bewaartermijn afloopt.
JA: door naar stap 6. NEE: pas proces aan.
6
Heb je processing-record met onderbouwing? (Sub f)
Processing-records documenteren noodzaak en waarom alternatieven ongeschikt waren. Ondertekening door DPO of FG. Beschikbaar voor toezichthouder op verzoek.
JA: Artikel 10(5) is toepasbaar. Start bias-testing onder gedocumenteerd regime. NEE: maak processing-record af voor start.
a
Alternatieven uitgeput
Synthetische of geanonimiseerde data kan bias-detectie niet effectief uitvoeren. Schriftelijk onderbouwd.
b
Technische beperkingen + security
Beperkingen op hergebruik plus geavanceerde security- en privacy-maatregelen.
c
Strikte toegangscontrole
Documentatie en controle van toegang. Wie, wanneer, waarom. Audit-trail.
d
Geen doorgifte
Data wordt niet overgedragen aan andere partijen. Ook niet binnen groep zonder grondslag.
e
Tijdig verwijderen
Verwijdering zodra bias-correctie is bereikt of bewaartermijn afloopt. Gedocumenteerd.
f
Processing-records
Records documenteren noodzaak en onderbouwing waarom alternatieven ongeschikt waren.
Governance-framework

Data governance-framework voor MKB

Hoe zet je Artikel 10 concreet neer in een MKB-organisatie. Vijf lagen, elk met rollen, artefacten en tooling-aanbevelingen.

Laag 1: beleid en rollen
Data-governance-beleid vastgesteld met scope voor high-risk AI datasets.
Rollen aangewezen: data-owner (business-eigenaar), data-steward (operationeel), data-lead (technisch), privacy officer of FG, compliance-verantwoordelijke.
RACI-matrix per dataset: wie doet wat bij verzameling, preparation, kwaliteit, bias, documentatie.
Review-cadans afgesproken (minimaal kwartaal, plus bij elke dataset-update).
Laag 2: data lifecycle
Data-verzameling: bron, moment, toestemming, doel gedocumenteerd per dataset.
Data-preparation-protocollen voor annotatie, labelen, cleaning, update, verrijking, aggregatie.
Bewaar-termijnen gedefinieerd, inclusief voor Artikel 10(5)-data met verwijderings-triggers.
Dataset-versiebeheer operationeel (bijvoorbeeld DVC, Git-LFS, MLflow).
Laag 3: kwaliteit en monitoring
Kwaliteits-tests geautomatiseerd: relevantie, representativiteit, foutmarge, compleetheid, distributies.
Drift-detectie in productie: data drift, concept drift, prediction drift.
Kwaliteits-dashboard zichtbaar voor data-stewards en compliance.
Trigger-procedures bij kwaliteits-afwijking (model pauzeren, review, hertraining).
Laag 4: bias en fairness
Bias-assessment per dataset met expliciete lijst van beschermde en kwetsbare groepen.
Fairness-metrieken gekozen en gedocumenteerd (demografische pariteit, equal opportunity, equalized odds, calibration).
Artikel 10(5)-beslisboom doorlopen voor elke bias-test die bijzondere categorieen gebruikt.
Bias-mitigatie geimplementeerd: pre-processing (re-balancing), in-processing (fairness-constraints), of post-processing (threshold-adjustment).
Laag 5: documentatie en audit
Dataset-datasheet per dataset (bron, populatie, grootte, preparation, kwaliteit, bias, beperkingen).
Integratie in technische documentatie Artikel 11 (Annex IV onderdeel 2d).
Processing-records voor Artikel 10(5)-verwerkingen met sub a tot f-onderbouwing.
AVG-register bijgewerkt en afgestemd met FG.
Audit-dossier klaar voor toezichthouder (AP) of notified body.
Sector-voorbeelden

Artikel 10 in vier MKB-contexten

Hoe vertaalt Artikel 10 zich in concrete praktijk. Voor elk voorbeeld: datasets, preparation, kwaliteit, bias-testing onder lid 5 en documentatie.

HR
CV-screening-AI met gender-bias-testing
Datasets
Training: historische CV's met hire/no-hire. Validatie: hold-out van historie. Test: recente cohort.
Preparation
Annotatie: functie-relevantie. Labelen: hire-decisie. Cleaning: duplicaten en invalid records weg. Verrijking: opleidingsniveau uit registers.
Kwaliteit
Representativiteit: cross-check demografie vs. doelpopulatie. Compleetheid: missing-value analyse op key-features. Statistische balans tussen functiegroepen.
Bias Art 10(5)
Gender-label gebruikt voor demografische pariteit en equalized odds. Sub a-f cumulatief nageleefd. Verwijderd na correctie.
Documentatie
Dataset-datasheet, bias-rapport, processing-record lid 5, integratie in technische documentatie Artikel 11.
Finance
Credit-scoring met fairness-testing
Datasets
Training: historische leningsaanvragen met default-label. Validatie: tijdelijk hold-out. Test: recente populatie.
Preparation
Annotatie: risk-tiers. Labelen: default ja/nee op 12 maanden horizon. Cleaning: outliers en onvolledige aanvragen weg. Verrijking: externe credit-bureau-data.
Kwaliteit
Relevantie: features conform BKR en AFM-richtsnoeren. Representativiteit: check over inkomensklassen en regio's. Foutmarge op labels via audit.
Bias Art 10(5)
Etniciteit via beperkte survey-data voor proxy-discriminatie-analyse. Alle zes voorwaarden gedocumenteerd. FG betrokken.
Documentatie
Model-risk-documentatie plus Artikel 10-datasheet. Afstemming DNB. Processing-record in AVG-register.
Zorg
Diagnostisch AI met populatie-check
Datasets
Training: geannoteerde medische beelden. Validatie: expert-reviewed hold-out. Test: multi-center prospectieve cohort.
Preparation
Annotatie: door gecertificeerde radiologen, inter-rater agreement gemeten. Cleaning: kwaliteits-drempel op beelden. Aggregatie: patient-level features.
Kwaliteit
Representativiteit: demografie, leeftijd, etniciteit, geslacht. Statistische power per subgroep. Gap-analyse op zeldzame pathologie.
Bias Art 10(5)
Etniciteit en leeftijd gebruikt voor equal-performance-testing. Sub a-f. Strikte IRB- en ziekenhuis-toestemming.
Documentatie
MDR-Annex II plus Artikel 10-datasheet. Notified Body-audit-ready. Linked naar Artikel 9 risicomanagement.
Onderwijs
Beoordelings-AI voor studenten
Datasets
Training: historische opdrachten met docent-beoordeling. Validatie: hold-out per cohort. Test: nieuwe opdrachten.
Preparation
Annotatie: rubric-scores per dimensie. Labelen: final grade. Cleaning: incomplete submissions weg. Verrijking: opdracht-type metadata.
Kwaliteit
Representativiteit: leer-stijlen, taalachtergronden. Compleetheid op assessment-dimensies. Inter-rater agreement tussen docenten.
Bias Art 10(5)
Taalachtergrond (in sommige lezingen bijzondere categorie) voor equal-performance-tests over subgroepen. Sub a-f doorlopen.
Documentatie
Dataset-datasheet, fairness-rapport, Lid 9-assessment (personen onder 18). Integratie met Artikel 9 risicomanagement.
AVG-raakvlak

Artikel 10 naast AVG: dubbel regime

Bij persoonsgegevens in AI datasets zijn AVG en Artikel 10 AI Act parallel van toepassing. Voor een MKB telt: coordineer documentatie, betrek FG, stem AVG-DPIA en Artikel 10-assessment op elkaar af.

Hoe AVG en Artikel 10 op elkaar aansluiten

Bij elke verwerking van persoonsgegevens in een AI-dataset moet een AVG-grondslag zijn (artikel 6 AVG: toestemming, overeenkomst, wettelijke verplichting, vitaal belang, publiek belang, gerechtvaardigd belang). Voor bijzondere categorieen geldt een aanvullende grondslag uit artikel 9 lid 2 AVG. Voor zorg-data: artikel 9 lid 2 sub h. Voor onderzoek: artikel 9 lid 2 sub j.

Artikel 10 AI Act voegt toe: data-kwaliteit, governance-praktijken, bias-onderzoek. Bij bijzondere categorieen voor bias-detectie komt Artikel 10(5) naast de AVG-grondslag. Dit is geen vervanging van AVG; het is een AI Act-specifieke legitimering binnen de AVG-kaders.

Praktisch: AVG-DPIA (artikel 35 AVG) en Artikel 10-assessment samen uitvoeren. FG vroeg betrekken. Documentatie-modellen combineren. Zie onze AVG-AI-gids voor koppeling.

Spanning en oplossing bij bias-testing

Klassieke situatie: een MKB wil een HR-AI op gender-bias testen. AVG-artikel 9 staat verwerking van geslachtsdata voor deze context niet zomaar toe. Resultaat was vaak: bias-testing werd niet gedaan, met kwaliteits- en grondrechten-risico's als gevolg.

Artikel 10(5) lost deze impasse op. Aanbieders van high-risk AI mogen bijzondere categorieen verwerken voor bias-detectie en -correctie, onder zes cumulatieve voorwaarden. Dit fungeert als aansluitende basis via artikel 9 lid 2 sub g AVG (substantieel publiek belang op basis van wettelijke grondslag) of als verwerking noodzakelijk voor uitvoering van een wettelijke verplichting onder artikel 6 lid 1 sub c AVG.

Bij twijfel over exacte grondslag-combinatie: advies van FG of externe privacy-jurist. In de Nederlandse context is coordinatie met de Autoriteit Persoonsgegevens aan te raden voor grootschalige of gevoelige bias-testing-programma's.

Veelgestelde vragen

Veelgestelde vragen over Artikel 10

Tien vragen over scope, data-kwaliteit, data-preparation, Artikel 10(5) en documentatie. Met expliciete verwijzing naar leden en verwante artikelen.

Stel je vraag
Artikel 10 AI Act (Verordening 2024/1689) regelt data en data governance voor high-risk AI-systemen die gebruikmaken van model-training-technieken. Lid 1 bepaalt dat training-, validatie- en test-datasets aan specifieke kwaliteitscriteria moeten voldoen. Lid 2 beschrijft de governance- en management-praktijken inclusief design choices, data-herkomst, data-preparation-operaties (annotatie, labelen, cleaning, update, verrijking, aggregatie), aannames, beschikbaarheids- en geschiktheidsanalyse, bias-onderzoek, bias-mitigaties en identificatie van data-gaps. Lid 3 eist relevantie, representativiteit, zoveel mogelijk foutvrijheid en compleetheid plus passende statistische eigenschappen. Lid 4 vereist aansluiting bij geografische, contextuele, gedrags- en functionele setting. Lid 5 regelt een bijzondere uitzondering voor verwerking van AVG-bijzondere categorieen voor bias-detectie. Lid 6 maakt duidelijk dat voor systemen zonder model-training alleen test-data-eisen gelden.
Artikel 10 lid 3 noemt zes kwaliteits-eigenschappen. Een: relevantie. De data moet passen bij het beoogde doel van het AI-systeem. Twee: representativiteit. De data weerspiegelt de populatie en sub-groepen waar het systeem op wordt toegepast. Drie: zoveel mogelijk foutvrijheid. Labels kloppen, metingen zijn correct, duplicaten zijn verwijderd. Vier: zoveel mogelijk compleetheid. Belangrijke variabelen ontbreken niet, missing values zijn behandeld. Vijf: passende statistische eigenschappen. Distributies passen bij populatie, sample-grootte is adequaat. Zes: representativiteit voor relevante personen of groepen waar het systeem op wordt toegepast.
Artikel 10 lid 2 noemt zes operaties expliciet: annotatie, labelen, cleaning, update, verrijking en aggregatie. Annotatie is het toevoegen van meta-informatie aan data-items. Labelen is het toekennen van doellabels aan training-voorbeelden. Cleaning is het verwijderen van fouten, duplicaten en ongeldige records. Update is het vernieuwen van data zodat het actueel blijft. Verrijking is het toevoegen van features of context uit andere bronnen. Aggregatie is het samenvatten van individuele records tot geaggregeerde statistieken. Voor elke operatie moet gedocumenteerd zijn: wie heeft de operatie uitgevoerd, met welke methode of tool, volgens welke protocollen, met welke kwaliteitscontroles, en hoe de resultaten zijn geverifieerd.
Artikel 10 lid 5 bepaalt dat aanbieders bij uitzondering bijzondere categorieen persoonsgegevens (als bedoeld in AVG artikel 9) mogen verwerken wanneer strikt noodzakelijk voor bias-detectie en -correctie in een high-risk AI-systeem. Hieraan zijn zes cumulatieve voorwaarden verbonden. Sub a: bias-detectie kan niet effectief worden uitgevoerd met alternatieve data zoals synthetische of geanonimiseerde data. Sub b: bijzondere categorieen zijn onderworpen aan technische beperkingen op hergebruik plus geavanceerde security- en privacy-maatregelen. Sub c: toegang is onder strikte controles en documentatie. Sub d: data wordt niet doorgegeven aan andere partijen. Sub e: data wordt verwijderd zodra de bias is gecorrigeerd of de bewaartermijn afloopt. Sub f: processing-records documenteren de noodzaak en waarom alternatieven ongeschikt waren.
Artikel 10 AI Act en AVG zijn twee regimes die parallel van toepassing zijn op persoonsgegevens in high-risk AI. AVG reguleert grondslagen, rechten van betrokkenen, DPIA, doel-binding en minimalisatie. AI Act Artikel 10 reguleert data-kwaliteit, governance-praktijken en bias. Waar AVG bijzondere categorieen (artikel 9 AVG) in principe verbiedt, geeft AI Act Artikel 10(5) een smalle uitzondering voor bias-detectie met strikte voorwaarden. AVG eist bij bijzondere categorieen een aanvullende rechtvaardigingsgrond uit artikel 9 lid 2 AVG; AI Act Artikel 10(5) fungeert in de Nederlandse praktijk als aansluitende basis via artikel 9 lid 2 sub g substantieel publiek belang met een voldoende wettelijke grondslag.
Artikel 10 lid 1 geldt voor high-risk AI-systemen onder Artikel 6 die gebruikmaken van model-training-technieken (machine learning, deep learning, transfer learning, fine-tuning). Voor high-risk systemen die geen model-training gebruiken (bijvoorbeeld rule-based systemen of expert-systemen) geldt volgens lid 6 alleen dat test-datasets aan de kwaliteits-criteria moeten voldoen. Voor limited-risk of minimal-risk AI geldt Artikel 10 niet, al is data-governance als goede praktijk altijd zinvol. Voor General Purpose AI-modellen gelden aparte regels onder Artikelen 53 en 55.
Artikel 10 lid 4 vereist dat data rekening houdt met karakteristieken en elementen die specifiek zijn voor de geografische, contextuele, gedragsmatige of functionele setting waarin het AI-systeem wordt ingezet. Concreet: trainen van een HR-AI op Amerikaanse CV's voor inzet in Nederland is geen contextuele fit. Training op gedrag in 2019 voor inzet in 2026 kan gedrags-drift missen. Voor een MKB betekent dit: mapping tussen trainings-populatie en doel-populatie, gap-analyse, en bijschaving via data-verrijking of transfer-learning waar nodig.
Documentatie onder Artikel 10 is uitgebreid en wordt onderdeel van de technische documentatie Artikel 11 (Annex IV onderdeel 2d). Minimum-artefacten: dataset-beschrijving met bron, herkomst, verzamel-moment, doel; design-choices-document; data-preparation-protocol; kwaliteits-rapport met tests op relevantie, representativiteit, foutmarge, compleetheid, statistische eigenschappen; bias-assessment met methode, resultaten, mitigaties; data-gap-analyse; context-fit-beoordeling; Artikel 10(5)-registratie bij verwerking van bijzondere categorieen met sub a tot f-onderbouwing; data lifecycle-plan met bewaar- en verwijder-termijnen.
Casus 1 HR-AI met gender-bias. Een MKB dat een CV-screening-model traint wil testen of het model vrouwen en mannen gelijk behandelt. Synthetische test-data werkt beperkt omdat taalgebruik en referenties in CV's complex zijn. Onder Artikel 10(5) kan de aanbieder een testset van echte CV's gebruiken met gender-label voor statistische bias-tests, mits sub a-f wordt nageleefd. Casus 2 credit-scoring met etnische bias. Via Artikel 10(5) kan een beperkte, goed beveiligde dataset worden samengesteld voor fairness-tests. Na correcties wordt de data verwijderd. Casus 3 zorg-AI met diagnose-bias. Testen of een diagnose-model vergelijkbaar presteert over leeftijdsgroepen, geslachten en etniciteiten.
Afhankelijk van aantal datasets, volwassenheid van huidige data-governance en complexiteit van de AI-systemen. Voor een MKB met een enkel high-risk AI-systeem en bestaande ML-praktijken: typisch 80 tot 150 uur initieel voor dataset-audit, governance-inrichting, kwaliteits-testen en documentatie-opbouw. Doorlopende inspanning: 0,1 tot 0,2 FTE voor dataset-updates en periodieke review. Voor organisaties zonder bestaande data-discipline ligt de initiele investering hoger (200 plus uur). De boete-alternatief onder Artikel 99 lid 4 is tot 15 miljoen euro of 3 procent wereldwijde jaaromzet; voor MKB geldt laagste van twee.
Gerelateerde onderwerpen

Artikel 10 staat niet op zichzelf. Data-governance sluit aan op risicomanagement, deployer-verplichtingen, risicoclassificatie en AVG. Deze vijf pagina's geven context.

→
AI Act compliance-roadmap voor het MKB
→
Risicoclassificatie AI Act: high-risk of limited risk?
→
AI Act voor deployers: jouw verplichtingen als gebruiker
→
High-risk AI-systemen: wat valt onder de AI Act?
→
AVG en AI: dit moet je weten over persoonsgegevens
Officiele wettekst: Verordening 2024/1689 op EUR-Lex.

Artikel 10 data-governance voor jouw high-risk AI

Plan een data-governance-sessie om je datasets Artikel 10-compliant te maken, inclusief bias-testing-programma onder lid 5. We leveren dataset-datasheets, processing-records en integratie met de technische documentatie.

Plan een gratis kennismaking Doe de gratis AI-check (5 min)