Zo werkt een LLM
LLM staat voor large language model, in het Nederlands een groot taalmodel. Een taalmodel schat in welk stukje tekst waarschijnlijk volgt op de tekst die er al staat. Die stukjes heten tokens. Google legt dit stap voor stap uit in zijn cursus over grote taalmodellen.
Groot slaat op de omvang. Het model is getraind op zeer grote hoeveelheden tekst en heeft heel veel parameters: de instellingen die tijdens de training worden bijgesteld. Daardoor kan één model veel verschillende taken aan, zoals samenvatten, vertalen, vragen beantwoorden en teksten schrijven. Na de basistraining leren de makers het model ook instructies volgen, zodat het als assistent werkt.
Wat een LLM goed en minder goed kan
Een LLM is sterk in taal. Het leest een rommelige mail en haalt er de bestelling uit, het vat een rapport samen of schrijft een eerste versie van een antwoord. Het herkent wat er staat, ook als de opmaak steeds anders is.
Rekenen en feiten zijn zwakker. Het model kiest wat waarschijnlijk klinkt en kan zo een cijfer of bron verzinnen. Het kent ook alleen wat in de training zat of wat je het meegeeft. Laat rekenwerk daarom over aan gewone software en geef het model de bronnen waarop het moet antwoorden.
Op deze site gebruiken we meestal het woord taalmodel.
BegripEen taalmodel is een AI-model dat tekst leest en schrijft.