Zo werkt een vectordatabase
Een embedding is een lange reeks getallen die de betekenis van een stuk tekst vastlegt. Teksten met een vergelijkbare betekenis krijgen getallen die dicht bij elkaar liggen. Een vectordatabase slaat die reeksen op en is gebouwd om snel de reeksen te vinden die het meest op een vraag lijken (bron: uitleg van Pinecone over vectordatabases).
Een gewone database zoekt op exacte waarden: dit klantnummer, deze datum. Een vectordatabase zoekt op betekenis. Een vraag over een kapotte levering vindt zo ook een document over transportschade.
Waar je op let bij een vectordatabase
Bij RAG knip je je documenten in kleine stukken, maak je van elk stuk een embedding en zet je die in de vectordatabase. Komt er een vraag, dan zoekt de database de stukken die erop lijken. Die gaan met de vraag naar het taalmodel.
Bewaar bij elk stuk ook gegevens als de bron, de datum en wie het mag zien. Dan kun je filteren, bijvoorbeeld alleen op de nieuwste versie of alleen op documenten van één afdeling. Houd de database bij: haal oude versies weg en zet nieuwe erin.
Er zijn losse vectordatabases, en ook gewone databases met een uitbreiding voor vectoren, zoals pgvector voor PostgreSQL.
BegripEen embedding is een reeks getallen die de betekenis van een stuk tekst vastlegt.BegripEen taalmodel is een AI-model dat tekst leest en schrijft.