High-risk AI systemen: wat valt onder de AI Act?

High-risk AI is een AI-systeem dat significant risico kan vormen voor de gezondheid, veiligheid of fundamentele rechten van natuurlijke personen, volgens de criteria van de AI Act. De kwalificatie is niet subjectief; de Act hanteert twee objectieve routes. Route een: Annex I, voor AI die een veiligheidscomponent is in een product dat al onder EU-productwetgeving valt (medische apparatuur, speelgoed, machines, liften, radioapparatuur, voertuigen, enzovoort). Route twee: Annex III, voor AI-systemen in acht specifieke gebieden (biometrie, kritieke infrastructuur, onderwijs, werkgelegenheid, essentiele diensten, rechtshandhaving, migratie, rechtspraak). Vallen onder een van beide routes levert in principe high-risk-status op, tenzij Artikel 6(3)-uitzondering van toepassing is.

Dat bepaal je via een systematische check. Vraag een: is het een veiligheidscomponent in een Annex I-product? Vraag twee: valt het binnen een van de acht Annex III-gebieden? Vraag drie: zelfs als antwoord op twee ja is, geldt een van de vier Artikel 6(3)-uitzonderingen (procedurele taak, verbeteringsfunctie, patroon-detectie zonder vervanging, voorbereidende taak)? Alleen als je een van de eerste twee met ja beantwoordt en geen uitzondering toepasbaar is, is het systeem high-risk. De beoordeling gebeurt per use case. Dezelfde AI-technologie kan in de ene toepassing high-risk zijn en in de andere niet. Documenteer de vaststelling: de AI Office kan vragen naar onderbouwing. De AI-aanbieder moet trouwens een verklaring hebben of hun systeem als Annex III high-risk wordt aangemerkt; vraag hen hiernaar bij aanschaf.

Annex III somt limitatief acht high-risk gebieden op. Een: biometrie, met name remote biometrische identificatie, biometrische categorisering op gevoelige kenmerken en emotie-herkenning (waar niet verboden onder Artikel 5). Twee: kritieke infrastructuur, voor AI als veiligheidscomponent in beheer van digitale infrastructuur, verkeer, watervoorziening, gas, verwarming en elektriciteit. Drie: onderwijs en beroepsopleiding, voor toegangsbepaling, beoordeling en detectie van verboden gedrag bij examens. Vier: werkgelegenheid, werknemersmanagement en toegang tot zelfstandige arbeid, inclusief werving, selectie, promotie, taakverdeling, monitoring van prestatie. Vijf: toegang tot en genot van essentiele private en publieke diensten, inclusief overheidsvoorzieningen, kredietwaardigheid, levens- en ziektekostenverzekering, noodhulpdispatching. Zes: rechtshandhaving, voor risicobeoordeling, polygraaftesten, evidentie-beoordeling, deepfake-detectie in rechtshandhavingscontext. Zeven: migratie, asiel en grenscontrole. Acht: rechtsbedeling en democratische processen, voor bijstand aan rechters of invloed op verkiezingsuitslagen. Elk gebied heeft sub-definities in Annex III die de reikwijdte preciseren.

Artikel 6, lid 3 stelt dat een AI-systeem dat onder Annex III valt niet als high-risk wordt beschouwd als het geen significant risico voor gezondheid, veiligheid of fundamentele rechten vormt. Daarnaast moet het voldoen aan een of meer van vier specifieke voorwaarden. Een: het is bedoeld om een beperkte procedurele taak uit te voeren. Twee: het is bedoeld om het resultaat van een eerder voltooide menselijke activiteit te verbeteren. Drie: het is bedoeld om besluitvormingspatronen of afwijkingen daarvan te detecteren en niet om de eerdere menselijke beoordeling te vervangen of beinvloeden zonder passende menselijke toetsing. Vier: het is bedoeld om een voorbereidende taak uit te voeren voor een beoordeling die relevant is voor de Annex III-gebieden. Belangrijk: uitzondering geldt niet als het systeem profilering van natuurlijke personen uitvoert; dan is het altijd high-risk. De aanbieder moet de vaststelling documenteren en beschikbaar maken voor toezichthouders. Ga niet lichtvaardig om met de uitzondering; bij twijfel standaard classificeren als high-risk.

Aanbieders dragen de zwaarste verplichtingen. Risk management system (Artikel 9) met continue identificatie van risico's. Data governance (Artikel 10) met eisen aan trainings-, validatie- en testdata op relevantie, representativiteit, juistheid, volledigheid. Technische documentatie (Artikel 11) volgens Annex IV; uitgebreid document over systeem, ontwikkeling, risicobeheersing. Record keeping (Artikel 12) met automatisch gegenereerde logs. Transparantie en instructies voor gebruik (Artikel 13) voor deployers. Human oversight (Artikel 14) die effectief is voor beoogde gebruikers. Accuraatheid, robuustheid en cybersecurity (Artikel 15). Quality Management System (Artikel 17) dat compliance zeker stelt. Conformity assessment (Artikel 43), intern of door notified body afhankelijk van type. CE-markering (Artikel 48). Registratie in EU-database (Artikel 49). Post-market monitoring (Artikel 72) met voortdurende evaluatie. Serieuze-incident-melding (Artikel 73) binnen 15 dagen. Samen vormt dit een volwaardig productregulerings-regime, vergelijkbaar met medische apparatuur-regelgeving in complexiteit.

Deployers (gebruikers) hebben een compactere set verplichtingen, vooral in Artikel 26. Gebruik volgens de instructions for use van de aanbieder (lid 1). Menselijke controle toewijzen aan natuurlijke personen met vereiste bekwaamheid, opleiding en bevoegdheid (lid 2). Waar de deployer controle heeft over input-data: ervoor zorgen dat die relevant en voldoende representatief is (lid 4). Werking monitoren en bij waarschijnlijk risico op schending van Unierecht de aanbieder, importeur of distributeur en de markttoezichtautoriteit informeren (lid 5). Automatisch gegenereerde logs bewaren voor zolang nodig, minimaal zes maanden tenzij anders voorgeschreven (lid 6). Voor werkgever-deployers: werknemersvertegenwoordigers en betroffen werknemers informeren dat zij worden onderworpen aan high-risk AI (lid 7). AVG-verplichtingen blijven gelden; waar DPIA nodig is, kan informatie uit AI-documentatie gebruikt worden (lid 9). Voor bepaalde deployers (publieke autoriteiten, private partijen met publieke dienst) komt Artikel 27 Fundamental Rights Impact Assessment erbovenop. Voor bepaalde besluit-impact: natuurlijke personen informeren dat zij onderwerp zijn van AI-besluit (lid 11).

Annex I lijst EU-productreguleringen waar AI als veiligheidscomponent onder valt. Het gaat ten minste om machines-richtlijn (2006/42/EC, opgevolgd door Machinery Regulation), speelgoed-richtlijn (2009/48/EC), recreational craft (2013/53/EU) en liften (2014/33/EU). Ook gaat het om ATEX (2014/34/EU), radioapparatuur (2014/53/EU), pressure equipment, cableway installations, persoonlijke beschermingsmiddelen en gastoestellen. Verder gaat het om medical devices (MDR), in-vitro diagnostics (IVDR), civil aviation security, motor vehicles, agricultural vehicles, marine equipment en interoperabiliteit van spoorwegsystemen. Kort: als AI is ingebouwd in een product onder een van deze regulatorische regimes, valt het AI-systeem onder AI Act high-risk. Denk aan: AI in medische diagnostiek-apparaten, AI in autonoom rijdende voertuigen, AI in liften voor predictive maintenance, AI in gas- en elektriciteits-meetinstallaties. De twee regulerings-regimes lopen parallel; AI Act vult aan, vervangt niet. Voor MKB-aanbieders in deze sectoren is dit een dubbele compliance-opgave.

Volgens Artikel 113 van de AI Act zijn de meeste high-risk bepalingen van toepassing vanaf 2 augustus 2026. Dat is 24 maanden na inwerkingtreding. Voor high-risk AI onder Annex I (dus AI als veiligheidscomponent in gereguleerde producten): 2 augustus 2027, dus 36 maanden. Reden: de overgang naar nieuwe conformity-assessments in deze bestaande product-regimes vraagt langer. Aanbieders van high-risk AI-systemen die al op de markt zijn of in gebruik zijn genomen voor 2 augustus 2026 hebben onder Artikel 111 specifieke overgangsregels. Alleen systemen die na die datum significant worden aangepast of voor publieke autoriteiten in gebruik komen vallen direct onder het volledige regime. Controleer altijd welke regels specifiek voor jouw systeem-type gelden; de overgangsregelingen zijn gedetailleerd en per Annex III-gebied soms verschillend.

Conformity assessment (Artikel 43) toont aan dat het AI-systeem voldoet aan de eisen van Chapter III, Section 2 van de Act (Artikelen 8-15). Twee routes. Intern (Module A): voor de meeste Annex III-systemen, de aanbieder toetst zelf op basis van de technische documentatie en het Quality Management System. Via notified body (Modules B/C+ of G): verplicht voor Annex I-producten die al via notified body verlopen, en voor bepaalde biometrische systemen. Bij succesvolle assessment: EU-verklaring van overeenstemming (Artikel 47), CE-markering op het product, registratie in de EU-database (Artikel 49). Voor MKB-aanbieders: dit is een stevig project met typisch 4-9 maanden doorlooptijd. Overweeg vroeg in ontwikkeling om compliance by design toe te passen; achteraf is het zwaarder. Bij significant-substantial modificatie opnieuw conformity assessment.

Voor deployer-MKB met high-risk AI: een project van drie tot zes maanden. Omvat Artikel 26-werkprocessen, documentatie-setup, training, eventueel FRIA. Voor aanbieder-MKB met high-risk AI: zwaardere opgave. De prijs verschilt per scope en wordt altijd vooraf besproken. Voor SME-aanbieders kent de AI Act specifieke steun: regulatory sandboxes met prioritised access (Artikel 62, 71), en gereduceerde conformity-assessment-fees voor notified body. Koppeling met onze AI Act 10-stappen-gids voor deployer-scenario's en aanbieder-roadmaps.