KI, søk, kunnskapsbase

Hva er RAG, og trenger en liten bedrift det?

RAG, eller retrieval-augmented generation, betyr at modellen slår opp de relevante delene av deres egne dokumenter før den svarer, og svarer ut fra dem. Dere trenger det når svarene må komme fra innhold som er for stort til å gi modellen hver gang, eller som endres ofte: manualer, kontrakter, produktark, år med e-post. Dere trenger det ikke for en FAQ på én side, som får plass i instruksjonene som den er. Det vanskelige er å holde dokumentene oppdatert, og å sørge for at ingen finner det de ikke har lov til å se.

Publisert: 27. september 2026

Hva som skjer når noen spør

Spørsmålet søkes mot dokumentene deres. Dokumentene er delt opp i avsnitt på forhånd, og hvert avsnitt er lagret med en representasjon av hva det betyr.
De beste avsnittene hentes. Som regel en håndfull, valgt etter mening, ofte blandet med vanlig nøkkelordsøk.
Modellen svarer ut fra dem. Instruksjonene sier at den bare skal bruke det den fikk, vise til avsnittene, og si fra når de ikke svarer på spørsmålet.

Ingen av de tre stegene er modellens egen kunnskap. Det er hele poenget: svaret kommer fra innholdet deres, slik det er i dag.

Når dere trenger det, og når dere ikke gjør det

Dere trenger det ikke når alt assistenten skal vite får plass på noen få sider. Åpningstider, priser og regler går rett inn i instruksjonene, og svaret blir like godt uten et søk foran.

Dere trenger det når innholdet er stort, spredt eller i endring: hundrevis av produktark, manualene for hver maskin dere har service på, kontrakter, supporthistorikken. Da kan ingen instruksjoner romme det, og søket avgjør hvilken del modellen får se.

Hvor det går galt

Gamle dokumenter. Indeksen er en kopi. Oppdaterer ingen den når et dokument endres, siterer assistenten fjorårets vilkår med full overbevisning.
Dårlig oppdeling. En tabell delt i to, eller et avsnitt uten overskriften som forklarer det, gir modellen et halvt svar å jobbe med.
Søk som bommer. Navn, koder og forkortelser er der søk etter mening er svakest. Derfor blir nøkkelordsøket med.
Tilganger i etterkant. Å skjule et avsnitt i svaret er for sent. Det må filtreres bort i søket.
Ingen testsett. Uten ekte spørsmål å kjøre er hver endring en gjetning om det ble bedre eller verre.

Slik finner du det ut på en time

Om en kunnskapsbase trenger RAG, avhenger av hvor mye det er og hvor ofte det endres, og det er raskere å se i deres tilfelle enn å forklare generelt.

Beskriv den i Living Brief, så får du en arkitekturskisse, faser og et tidsrom i uker tilbake med én gang, uten at noen ringer deg. Er du usikker på hvor KI i det hele tatt ville hjulpet, begynner den frie KI-gjennomgangen med virksomheten i stedet.

Fagnotater

Spørsmål vi får

De samme spørsmålene, hver gang. Her er svarene vi gir over bordet.

Hindrer RAG modellen i å finne på ting?

Det gjør det mye mindre sannsynlig, og det gjør det mulig å sjekke, men det gjør det ikke umulig. En modell som svarer ut fra hentet tekst kan fortsatt lese den feil, eller svare likevel når søket ikke fant noe relevant. Løsningen er å la den vise hvilke avsnitt den brukte, si rett ut når den ikke fant noe, og teste den på ekte spørsmål før kundene gjør det.

Er RAG det samme som å trene en modell på dataene våre?

Nei, og for en bedrift er det som regel det bedre valget. Trening baker kunnskapen inn i modellen, der den er vanskelig å oppdatere og vanskelig å spore. RAG lar dokumentene ligge der de er og henter fra dem i øyeblikket spørsmålet stilles, så en endring i et dokument er en endring i svaret samme dag, og hvert svar kan vise til kilden.

Trenger vi en vektordatabase?

Dere trenger en måte å søke etter mening på, og en vektorindeks er den vanlige. Det trenger ikke være et eget produkt: Postgres med pgvector gjør jobben for de fleste små bedrifter, ved siden av dataene de allerede har. Vanlig nøkkelordsøk ved siden av hjelper fortsatt, fordi produktkoder og navn er akkurat det søk etter mening bommer på.

Hvordan vet vi at den svarer godt?

Samle femti ekte spørsmål med svarene dere ville godtatt, og kjør dem hver gang noe endres: et dokument, instruksjonene, modellen. Det er den billigste forsikringen som finnes, og den gjør «det virker greit» om til et tall dere kan følge med på.

Kan den ta hensyn til hvem som får se hva?

Den må, og det må skje i søket, ikke i svaret. Blir et dokument funnet, bruker modellen det, så en lønnsoversikt i indeksen er en lønnsoversikt i noens svar. Filtrer søket etter tilgangene til den som spør, før noe når modellen.

Fagnotater