Rag

RAG-arkitekturer har gjort vektordatabaser till standardkomponenter, men produktionserfarenheterna ger viktiga lärdomar. Indexval, chunkstorlek och metadatafiltrering påverkar kvaliteten mer än valet av databas.

Hybrid search – att kombinera semantisk sökning med klassisk nyckelordssökning – ger nästan alltid bättre resultat än endera metoden ensam.

Underskatta inte heller driftsfrågorna: omindexering vid modellbyte kan ta dagar för stora korpusar. Planera för det från början.

Chunkningen visar sig gång på gång vara den enskilt viktigaste ratten. För små bitar tappar sammanhanget, för stora dränker den relevanta meningen i brus. Semantisk chunkning – att dela vid rubriker, stycken och logiska gränser i stället för fasta teckenantal – ger nästan alltid bättre resultat, liksom att ta med omgivande kontext som dokumenttitel och avsnittsrubrik i varje chunk.