Waarom een taalmodel hallucineert
Een taalmodel voorspelt steeds welk stukje tekst het best past. Het kiest wat waarschijnlijk klinkt. Of iets waar is, controleert het model zelf niet. Daardoor kan het een bron, een cijfer of een regel uit een wet verzinnen die er heel echt uitziet.
Onderzoekers noemen dit hallucinatie. Een overzicht van het onderzoek ernaar staat in Survey of Hallucination in Natural Language Generation. De kans is groter bij vragen over iets wat het model weinig of nooit heeft gezien, zoals een nieuw product of een regel van je eigen bedrijf.
Je herkent een hallucinatie aan details die je nergens terugvindt: een artikelnummer, een citaat of een link die niet bestaat. Een stellige toon zegt dus niets over de juistheid.
Zo maak je de kans op een hallucinatie kleiner
Geef het model de tekst waar het antwoord in moet staan. Dat kan in de prompt, of met RAG: dan zoekt de toepassing eerst in je eigen documenten. Vraag om de bron bij elk antwoord, zodat je het kunt nalezen.
Laat rekenwerk over aan gewone software. Een taalmodel leest en schrijft, en een workflow rekent. Laat een mens beslissen waar het om geld, klanten of regels gaat. In het Command Center komt zo'n beslissing in het bakje van een collega.
Helemaal voorkomen kan niet. Daarom hoort bij elke toepassing een controle die past bij het risico.
BegripEen taalmodel is een AI-model dat tekst leest en schrijft.BegripEen prompt is de instructie die je aan een taalmodel geeft.BegripEen workflow is een vaste reeks stappen die automatisch loopt, met AI op de plek waar gelezen of geschreven moet worden.BegripEen bakje is de werklijst van één persoon in het Command Center.