Dit neem je mee uit deze blog
- Een mens beslist waar geld of klanten op het spel staan. De rest mag het systeem zelf afhandelen.
- Fouten die niemand ziet, worden duur. Een verkeerde boeking valt soms pas bij de jaarafsluiting op.
- Correcties maken het systeem beter. Elke aanpassing van jouw team scherpt de regels aan.
- Menselijk toezicht staat in de AI Act. Bouw je het nu in, dan hoef je later niets te verbouwen.
Elke automatisering die we bouwen, heeft vier schakels. Er komt iets binnen van een klant of leverancier. AI leest het en zet een voorstel klaar. Iemand van jouw team beslist. Daarna verwerkt het systeem de rest. Die derde schakel zou je kunnen weglaten. We laten hem bewust staan.
De Keten: klant, AI, mens, systeem
Intern noemen we dit De Keten. Hieronder zie je hoe dat eruitziet bij het automatisch verwerken van inkoopfacturen. Bovenop ligt het scherm waar je collega mee werkt. Schuif naar links voor het schema eronder.
- Klant of leverancierFactuur komt binnen per mail
- AILeest en zet een boeking klaar
- MensBeslist als er een vraag is
- SysteemBoekt, met een regel in het logboek
Dat scherm is het Command Center, jouw eigen AI-cockpit. Elke vraag van het systeem komt daar in het bakje van één persoon, met een datum erbij. Zo blijft er niets liggen zonder dat iemand het weet.
Fouten die je niet ziet, kosten meer dan een klik
Staat een factuur op de verkeerde grootboekrekening, dan ziet je accountant dat misschien pas bij de jaarafsluiting. Een verkeerde prijs in een offerte komt boven water als de klant al heeft getekend. Het uitzoekwerk kost dan uren.
Tien seconden meekijken op het juiste moment vangt zo'n fout meteen. Het systeem stopt daarom zodra het twijfelt. Het legt de vraag bij een collega en vertelt erbij waarom.
Goede automatisering haalt het typwerk weg. De beslissing blijft bij jouw team.
Het systeem leert van elke correctie
Past iemand een voorstel aan, dan leren wij daarvan. Soms is het een andere grootboekrekening, soms een ander artikelnummer of een zin die anders moet. Met die correcties scherpen we de instructies en regels aan.
Hoe langer een automatisering draait, hoe minder vragen er binnenkomen. Wat overblijft zijn de lastige gevallen. Jouw team weet bij elke vraag waarom het systeem hem stelt.
Menselijk toezicht in de AI Act
De BegripAI ActDe Europese wet die regels stelt aan AI-systemen, ingedeeld naar risico.Bekijk AI Act in de begrippenlijst eist menselijk toezicht bij AI-systemen met een hoog risico.1 In vakjargon heet dat BegripHuman in the loopEen werkwijze waarin een mens op vaste momenten in het proces goedkeurt of bijstuurt.Bekijk human in the loop in de begrippenlijst . De wet geldt sinds 1 augustus 2024. De plichten gaan stap voor stap in.
Voor hoog-risicosystemen is afgesproken dat die plichten later ingaan, naar verwachting in december 2027.2 De meeste automatiseringen in het MKB vallen buiten die groep. We bouwen het toezicht toch vanaf de eerste versie in. Dan hoeft er later niets verbouwd te worden, en is nu al duidelijk wie wat beslist. Meer over de regels staat in onze artikelen over de AI Act.
Wanneer de mens er wel uit mag
Sommige stappen hebben geen klik nodig. Denk aan gecontroleerde gegevens doorzetten naar een ander systeem, of een ontvangstbevestiging sturen naar een leverancier. Per stap spreken we met je af waar de grens ligt, en dat leggen we vast. Wat het systeem zelf doet, komt in een logboek dat jouw team kan inzien.
Veelgestelde vragen over de mens in AI-automatisering
Waarom eindigt elke automatisering bij een mens?
Wat is De Keten?
Waarom stopt het systeem als het twijfelt?
Leert het systeem van correcties?
Wanneer mag de mens eruit?
Bronnen
- Europese Unie, Verordening (EU) 2024/1689 (AI Act), artikel 14 over menselijk toezicht. eur-lex.europa.eu Terug
- Europese Commissie, overzicht van de AI Act en de planning, inclusief de Digital Omnibus. digital-strategy.ec.europa.eu Terug
Geschreven met hulp van AI. Zo maken wij content.
BegripEen bakje is de werklijst van één persoon in het Command Center.