Wanneer een AI-systeem hoog risico heeft
De AI Act deelt AI-systemen in naar risico. Artikel 6 noemt twee routes naar hoog risico. De eerste: het AI-systeem is een veiligheidsonderdeel van een product onder Europese productregels, of is zelf zo'n product, en moet daarvoor door een derde partij worden beoordeeld. Denk aan machines of medische hulpmiddelen.
De tweede: het systeem wordt gebruikt op een gebied uit bijlage III. Daar staan onder meer biometrie, kritieke infrastructuur, onderwijs, werving en personeelsbeleid, toegang tot diensten zoals krediet, rechtshandhaving en migratie (bron: Verordening (EU) 2024/1689).
Een systeem uit bijlage III valt er buiten als het geen aanzienlijk risico geeft voor gezondheid, veiligheid of grondrechten, bijvoorbeeld omdat het alleen een kleine voorbereidende taak doet. Maakt het systeem profielen van mensen, dan is het altijd hoog risico.
Welke eisen gelden voor een hoog-risico-AI-systeem
Voor de aanbieder gelden de zwaarste eisen. Hij richt risicobeheer in, zorgt voor goede trainingsdata, technische documentatie en logging, en ontwerpt het systeem zo dat mensen er toezicht op kunnen houden. Voordat het systeem op de markt komt, volgen een conformiteitsbeoordeling en een CE-markering.
Gebruikt je bedrijf zo'n systeem, dan ben je gebruiksverantwoordelijke. Je gebruikt het volgens de gebruiksaanwijzing, wijst mensen aan die toezicht houden, bewaart de logs die je zelf beheert en meldt ernstige incidenten. Zet je je eigen naam op het systeem of pas je het ingrijpend aan, dan kun je zelf aanbieder worden.
Toets daarom per toepassing in welke risicoklasse hij valt, en leg vast waarom.
BegripDe AI Act is de Europese wet die regels stelt aan AI-systemen, ingedeeld naar risico.BegripEen conformiteitsbeoordeling is volgens de AI Act de toets of een hoog-risico-AI-systeem aan de eisen van de wet voldoet.BegripEen gebruiksverantwoordelijke is volgens de AI Act de partij die een AI-systeem onder eigen verantwoordelijkheid gebruikt, behalve bij persoonlijk gebruik buiten een beroep.