Human oversight in je AI-flows: een mens beslist waar het telt.
Artikel 14 van de AI Act vraagt dat mensen toezicht kunnen houden op hun AI. Wij ontwerpen dat toezicht in je agents en workflows: een goedkeuringsstap, drempels, logging en een knop om te stoppen.
Onderdeel van AI-compliance voor het MKB.
Human oversight betekent dat een mens je AI kan bijsturen en stoppen.
- Ontwerp en praktijk. De aanbieder bouwt het toezicht in. De gebruiker regelt wie toezicht houdt en hoe.
- Goedkeuren waar het telt. Een concept wacht op akkoord als een fout geld kost of een klant raakt.
- Alles terug te vinden. Elke stap laat een logregel achter, met wie besliste en waarom.
Het concept van de agent wacht op je akkoord.
De agent doet het voorwerk en zegt waarom hij iets veranderde. Een collega klikt op akkoord of wijst af met een reden. Van die reden leert de agent.
Wij betreuren de vertraging.Sorry dat je pakket drie dagen later kwam dan beloofd.Toon aangepast: de klant noemde de datum zelf.U ontvangt een vergoeding van 10%.Je krijgt de verzendkosten terug.Volgens de regel bij een vertraging tot vijf dagen. Een korting geeft alleen een collega.Geen vervolgactie.Taak voor Sanne: bel de vervoerder over deze route.Derde vertraging op deze route deze maand.
Zet de schakelaar om en zie welke stap bij je team blijft.
De vergoeding en het versturen blijven altijd bij een mens.
- Mail lezenEen collega opent elke klachtmail en zoekt de order op.De agent leest de mail en koppelt hem aan de order.
- Antwoord schrijvenEen collega schrijft het antwoord zelf.De agent zet een concept klaar en legt zijn keuzes uit.
- Vergoeding bepalenEen collega kiest een vergoeding.De agent stelt de vaste regel voor. Een korting blijft bij een collega.
- VersturenEen collega verstuurt het antwoord.Een collega keurt goed en verstuurt. Zonder akkoord gaat er niets weg.
- VastleggenEen collega noteert het in het CRM, als er tijd is.Het systeem legt de stap vast met wie besliste en waarom.
Zo bouwen we toezicht in je bestaande of nieuwe flows.
Je houdt zelf de regie over waar de mens beslist. Wij bouwen het zo dat het ook werkt op een drukke dag.
Wat wij doen
- We lopen je agents en workflows door en bepalen per stap wat de AI zelf mag.
- We bouwen goedkeuringsstappen, drempels, uitleg bij elke uitkomst en een stopknop.
- We richten logging in, met een bewaartermijn die past bij je rol en de risicogroep.
- We leggen vast wie toezicht houdt en wat die persoon moet weten.
Wat jij doet
- Je kiest de mensen die goedkeuren en geeft ze de tijd ervoor.
- Je bepaalt de drempels: welk bedrag, welke klant, welke twijfel.
- Je team volgt een korte training, zodat het de uitkomsten goed leest.
Je kiest een review van flows die er al zijn, of je neemt het mee in een bouwproject. Zo bouwen we zelf ook: een agent is bij ons een workflow met een goedkeuringsbak in het Command Center.
Wij beoordelen niet of je systeem aan de AI Act voldoet en geven daar geen verklaring over. Een grensgeval, zoals de vraag of je zelf aanbieder wordt, leggen we voor aan onze juridische partner.
De eisen van artikel 14 aan je systeem en je team.
Hieronder de leden van artikel 14 die het vaakst terugkomen in onze projecten: de vijf eisen aan toezicht, de patronen in het scherm en een checklist.
Wat Artikel 14 lid 4 vereist.
Elke capability is een verplichting die het systeem moet faciliteren door ontwerp, en die de deployer moet waarmaken door procedure en competentie.
a
Artikel 14 lid 4 sub a
Capaciteiten en beperkingen begrijpen
De oversight-persoon moet doorgronden wat het systeem goed doet, waar het faalt, welke input-condities er buiten vallen en hoe de werking gemonitord wordt. Zonder dit fundament is toezicht oppervlakkig.
Ontwerp-invulling
Documenteer known limitations in IFU, toon gebruiksdomein in UI, log out-of-distribution-signalen, geef performance-dashboards per segment.
b
Artikel 14 lid 4 sub b
Automation bias bewustzijn
De neiging om automatisch te vertrouwen op AI-output is menselijk. Artikel 14 verplicht actieve tegenwerking in ontwerp en training. Oversight zonder bias-bewustzijn is schijn-toezicht.
Ontwerp-invulling
Confidence-scores expliciet, varieer UI-patronen zodat reflex-klikken moeilijker wordt, log override-ratios, periodieke bias-training voor oversight-personeel.
c
Artikel 14 lid 4 sub c
Output correct interpreteren
Interpretatie-tools moeten beschikbaar zijn. Dat varieert per systeem: feature-importance voor classifiers, attention-visualisaties voor NLP, confidence-intervallen voor regressie, counterfactuals voor beslis-support.
Ontwerp-invulling
Eenvoudige uitleg-knop per output, toegang tot input-data, vergelijkingsfunctie met recente cases, handleiding met interpretatie-voorbeelden.
d
Artikel 14 lid 4 sub d
Niet gebruiken, negeren, overschrijven, terugdraaien
Vier escalatie-niveaus: geheel niet-gebruiken van AI in deze case, output negeren, output overschrijven met eigen beslissing, eerder genomen beslissing terugdraaien. Alle vier moeten technisch en procedureel mogelijk zijn.
Ontwerp-invulling
Opt-out-knop per transactie, override-workflow met audit-trail, reversal-procedure binnen bewaartermijn, escalatie-pad bij complexe cases.
e
Artikel 14 lid 4 sub e
Interventie en stop-button
Stop-button of vergelijkbare procedure die het systeem in een veilige staat brengt. Veilige staat is context-afhankelijk: lopende sessies correct afronden, data-integriteit bewaken, escalatie triggeren, failover-modus activeren.
Ontwerp-invulling
Snelle toegang in UI (niet verstopt), graceful shutdown-procedure, kill-switch-API voor ops-team, nood-protocol met wie belt wie.
Artikel 14 lid 5 aanvullend
Biometrische 2-persoons-regel
Voor remote biometric identification (Annex III 1(a)) aanvullend op bovenstaande: geen actie of beslissing zonder separate verificatie door twee natuurlijke personen met competentie, training en autoriteit.
Ontwerp-invulling
Dual-sign-off workflow, separate user-accounts voor verificateurs, logging van beide verificaties met tijdstempel, uitzonderings-regime bij wetshandhaving/migratie alleen bij wettelijke grond.
Design-patronen die je moet bouwen.
Warning, stop en confirmation. Elk dekt een deel van Artikel 14 lid 4. Zonder deze patronen in de UI is compliance niet aantoonbaar.
Lage betrouwbaarheid
Output-confidence 42 procent. Onderliggende data valt buiten trainings-domein. Aanbeveling: handmatige review.
Bekijk details
Warning-signaal
Koppelt aan lid 4 sub (a) en (c): begrip van beperkingen en interpretatie. Toon expliciet wanneer output onbetrouwbaar is. Geef context en aanbeveling.
Systeem stoppen
Huidige sessie wordt gecontroleerd afgerond. Active decisions gaan naar manuele review. Operations-team wordt ingelicht.
Bevestig stop
Stop-button (lid 4 sub e)
Eerste-klas UI-element. Niet verstopt. Bevestigings-dialoog voorkomt accident; graceful shutdown voorkomt data-corruptie. Koppeling met incident-respons.
Besluit bevestigen
AI-aanbeveling: afwijzen. Impact: sollicitant uit selectie. Bevestig je de beslissing of wijzig je hem?
Bevestig / wijzig
Confirmation-step
Koppelt aan lid 4 sub (b) en (d): automation-bias tegengaan en override faciliteren. Dwingt een bewuste, actieve beslissing af. Log beide paden.
Artikel 14 per branche.
Dezelfde regels, drie implementatie-contexten. Elke case vertaalt lid 4-capabilities naar concrete design-keuzes.
HR / werving
AI-werving (Annex III punt 4)
CV-screening met ranking-model. Sollicitanten sluiten door algoritme kan fundamentele rechten raken. Recruiter is oversight-persoon.
Oversight-invulling
Confidence-score per ranking, uitleg top-3 features, confirmation-step voor elke afwijzing, kwartaal-review op bias, training recruiter op automation bias, opt-out optie sollicitant.
Zorg
Diagnose-ondersteuning (Annex III + MDR)
Radiologie-AI voor tumor-detectie in beelden. Radioloog als oversight-persoon; beslissing blijft bij mens.
Oversight-invulling
Heat-map van model-attention, confidence per label, vergelijking met vergelijkbare cases, tweede-lezing-workflow, stop-button bij model-drift, incident-melding bij gemiste diagnose.
Credit-scoring
Kredietbeoordeling consument (Annex III punt 5 b)
AI-scoring voor kleine kredieten. Kredietacceptant is oversight. AFM-regels naast AI Act. Override moet mogelijk.
Oversight-invulling
Adverse-action-uitleg per afwijzing, feature-importance top-5, override-procedure met onderbouwing, escalatie bij afwijking-van-norm, audit-trail voor AFM-toezicht, klant-recht op uitleg (AVG-artikel 22).
Checklist voor Artikel 14-implementatie.
Gebruik deze checklist bij ontwerp of inkoop van high-risk AI. Voor elke vraag moet je "ja" kunnen antwoorden met bewijs in documentatie of systeem.
Artikel 14 design-implementatie-checklist
- Is het systeem geclassificeerd als high-risk (Annex III of Annex I)?
- Zijn oversight-maatregelen opgenomen in technische documentatie (Annex IV)?
- Worden capaciteiten en beperkingen expliciet in UI getoond?
- Is er confidence-score of betrouwbaarheidsindicator per output?
- Zijn interpretatie-tools (feature-importance, uitleg) beschikbaar?
- Is er een warning-signaal bij out-of-distribution-input?
- Wordt automation bias actief tegengewerkt in UI-patronen?
- Is er logging van override-ratios en disregard-frequenties?
- Heeft de oversight-persoon een optie niet-gebruiken?
- Heeft de oversight-persoon een optie negeren/disregard?
- Heeft de oversight-persoon een optie overschrijven/override?
- Heeft de oversight-persoon een optie terugdraaien/reverse?
- Is er een stop-button, snelkoppeling of kill-switch?
- Brengt de stop-procedure het systeem naar veilige staat?
- Is de stop-button eerste-klas UI-element (niet verstopt)?
- Wordt graceful shutdown afgedwongen (geen data-corruptie)?
- Voor Annex III 1(a): is dual-sign-off workflow ingericht?
- Voor Annex III 1(a): zijn separate user-accounts per verificateur?
- Voor Annex III 1(a): worden beide verificaties gelogd?
- Is er een audit-trail van alle oversight-beslissingen?
- Zijn oversight-procedures in QMS vastgelegd (Artikel 17)?
- Is IFU duidelijk over deployer-operationele measures (Artikel 13)?
- Zijn competentie-vereisten per oversight-rol gedocumenteerd?
- Is training-registratie per oversight-persoon opgebouwd?
- Is er periodieke herhaaltraining bij systeem-update?
- Bestaat escalatie-pad voor urgente interventie?
- Koppelt oversight aan post-market monitoring (Artikel 72)?
- Koppelt oversight aan serious-incident-reporting (Artikel 73)?
- Is er reserve-capaciteit bij uitval oversight-persoon?
- Heeft de oversight-persoon mandaat onafhankelijk van AI-builder?
Voor MKB-providers die een high-risk AI-systeem bouwen: deze checklist is een redelijk minimum bij marktintroductie. Bij externe audit zal een notified body (voor Annex I-systemen) of een markt-toezichthouder (voor Annex III-systemen) deze of vergelijkbare vragen stellen. Documenteer per punt het bewijs: screenshot, code-referentie, proces-beschrijving, training-registratie. Zonder bewijs geldt het punt als niet-voldaan.
Over Artikel 14 en human oversight.
Wat regelt Artikel 14 precies?
Human oversight bij high-risk AI: ontwerp-eis (lid 1), doel (lid 2), splitsing provider-design versus deployer-operationeel (lid 3), vijf capabilities voor oversight-persoon (lid 4), en een aanvullende 2-persoons-regel voor remote biometric identification (lid 5).
Welke capabilities vereist lid 4?
Vijf sub-eisen: (a) capaciteiten en beperkingen begrijpen, (b) automation bias bewustzijn, (c) output correct interpreteren, (d) niet-gebruiken/negeren/overschrijven/terugdraaien, (e) interventie met stop-button in safe state.
Wat is het verschil tussen provider-design en deployer-operationeel?
Provider bouwt measures in (lid 3 sub a): UI, stop-button, confidence-scores, interpretatie-tools. Deployer implementeert operationele measures (lid 3 sub b): personeel, training, procedures, escalatie. Provider identificeert deze in IFU.
Geldt de 2-persoons-regel voor alle biometrie?
Nee, alleen voor remote biometric identification (Annex III punt 1 sub a). Biometrische verificatie (1-op-1) en categorisering vallen buiten lid 5. Uitzondering binnen lid 5: wetshandhaving, migratie, grenscontrole, asiel bij wettelijke disproportionaliteit.
Wie is verantwoordelijk, provider of deployer?
Beide, volgens lid 3. Provider voor design-built-in (sub a) en identificatie van deployer-measures. Deployer voor operationele implementatie (sub b). Provider valt onder Artikel 16, deployer onder Artikel 26.
Moet ik een stop-button bouwen?
Ja. Lid 4 sub (e) vereist interventie-mogelijkheid via stop-button of vergelijkbare procedure, met safe state als gevolg. Exacte vorm vrij (UI-knop, command, API-call) mits snel toegankelijk en betrouwbaar.
Wat is automation bias?
De neiging van mensen om automatisch te vertrouwen op AI-output. Lid 4 sub (b) vereist bewustzijn hiervan. Ontwerp-patronen: confidence-scores expliciet, confirmation-steps, override-monitoring, periodieke training.
Hoe integreer ik Artikel 14 met het QMS?
Koppel oversight-procedures aan Artikel 17 QMS-vereisten, documenteer procedure, training, audit-trail, review-cyclus. Integreer met post-market monitoring (Artikel 72) en serious-incident-reporting (Artikel 73).
Welke competentie heeft een oversight-persoon nodig?
Noodzakelijke competentie, training en autoriteit conform Artikelen 14 en 26. Concreet: domein-kennis, AI-geletterdheid (Artikel 4), systeem-specifieke kennis, interpretatie-vaardigheden, beslissingsautoriteit, mandaat voor interventie.
Wat gebeurt bij schending van Artikel 14?
Valt onder middelbandbreedte Artikel 99 lid 4: tot 15 miljoen euro of 3 procent wereldomzet, voor MKB laagste. Plus correctieve maatregelen door toezichthouder, zie onze boetes-pagina.
Onze eigen agents wachten ook op een akkoord.

Babeth Vriend, CISO van Prometheus21
Bij ons keurt een collega goed wat geld of klanten raakt, zoals inkoopfacturen en offertes. Babeth Vriend, CISO van Prometheus21, kijkt mee bij elk ontwerp van toezicht en logging.
Plan een kennismakingVragen die we horen over human oversight.
Is human oversight alleen nodig bij hoog risico?
Artikel 14 eist het alleen bij hoog-risicosystemen. Toch bouwen we bij elke agent of workflow een stap in waar een mens beslist, zodra een fout geld kost of een klant raakt. Zo ontwerp je goed, en je bent voorbereid als een systeem later in een zwaardere groep valt.
Het hoge risico is uitgesteld. Moeten we nu al iets doen?
Wie een hoog-risicosysteem gebruikt, heeft nog tijd tot 2 december 2027 (bijlage III) of 2 augustus 2028 (bijlage I). Een goedkeuringsstap achteraf toevoegen kost meer dan hem meteen inbouwen. Bouw je nu een agent, neem hem dan meteen mee.
Hoe lang moeten we de logs bewaren?
Je rol en de risicogroep bepalen de termijn. Bij een hoog-risicosysteem bewaar je als gebruiker de logs minstens zes maanden (artikel 26). Voor andere systemen spreken we een termijn af die past bij het doel en bij de AVG.
Moet er dan bij elke stap iemand meekijken?
Nee, alleen waar het telt. We leggen per stap vast wat de AI zelf mag en waar hij stopt. Gewone gevallen lopen door. Twijfel of een groot bedrag gaat naar een collega, met de reden erbij.
Wat kost een review van onze flows?
Dat hangt af van het aantal flows en agents. Na de kennismaking krijg je een vaste prijs vooraf. Bouwen we de flow zelf, dan zit de goedkeuringsstap gewoon in het ontwerp.
Opgesteld met AI-ondersteuning door de redactie van Prometheus21. Juridische zinnen zijn gecontroleerd door Babeth Vriend, CISO.
Wil je weten waar in jouw flows een mens moet beslissen?
In een kennismaking lopen we een agent of workflow samen door. Wil je alles in één keer boven tafel, kies dan de Compliance Discovery Workshop.
Kennismaking
Je vertelt wat je wilt. Daarna krijg je direct een offerte.
Plan een kennismakingCompliance Discovery Workshop
Een dagdeel bij jou op locatie. € 950, verrekend met de opdracht.
Plan je Discovery WorkshopAI-compliance-check
15 vragen, ongeveer 3 minuten. Na je naam en e-mail zie je waar je staat.
Doe de AI-compliance-check