Waar de mens in het proces zit
Human in the loop betekent dat een mens actief meedoet in een systeem dat verder automatisch werkt: bij de bediening, het toezicht of de beslissing. Bij AI gaat het erom dat iemand op een vast moment meekijkt, zodat de uitkomst klopt, veilig is en iemand er verantwoordelijk voor is (bron: IBM over human in the loop).
Waar je die momenten legt, hangt af van het risico. Een samenvatting voor intern gebruik kan zonder goedkeuring. Een mail aan een klant, een betaling of een besluit over een sollicitant gaat altijd langs een mens. Leg per proces vast welke stappen langs een mens gaan.
Human in the loop en de AI Act
De AI Act vraagt bij hoog-risico-AI-systemen om menselijk toezicht (artikel 14). Het systeem moet zo gemaakt zijn dat mensen het goed kunnen volgen, de uitkomst kunnen negeren of terugdraaien en het kunnen stoppen. De gebruiksverantwoordelijke wijst daarvoor mensen aan met de kennis en de bevoegdheid die nodig zijn (artikel 26).
Ook zonder hoog risico is het een goede gewoonte. Een mens die goedkeurt, ziet fouten van de AI op tijd. Pas op dat goedkeuren stempelwerk wordt. De wet noemt dat risico zelf: dat mensen te veel vertrouwen op wat de AI voorstelt (artikel 14, lid 4). Geef de beoordelaar daarom de bron en de reden bij elk voorstel.
BegripDe AI Act is de Europese wet die regels stelt aan AI-systemen, ingedeeld naar risico.