RAG uitgelegd: een assistent die je documenten kent

Stel een algemeen AI-model een vraag over je bedrijf en er gebeurt iets vreemds. Het antwoordt vloeiend, met volle overtuiging, en het zit er vaak naast. Zo’n model is getraind op een breed stuk van het publieke internet. Het heeft je prijslijst, je servicehandleiding, je HR-beleid of de directienotities van vorig kwartaal nooit gezien. Als het iets niet weet, stopt het niet, het improviseert. De industrie noemt dit hallucineren, en voor een bedrijf is het het verschil tussen een handig hulpmiddel en een risico.

Retrieval-Augmented Generation, vrijwel altijd afgekort tot RAG, is de meest praktische manier om dat gat te dichten. In plaats van te hopen dat het model jouw wereld al kent, geef je het de relevante feiten op het moment dat je de vraag stelt. Het resultaat is een assistent die antwoordt vanuit je documenten, in jouw context, en precies kan aanwijzen waar elk antwoord vandaan komt. Dit artikel legt uit hoe dat werkt en wat een systeem dat mensen vertrouwen onderscheidt van een systeem dat ze stilletjes links laten liggen.

Het probleem: een vlot model dat je bedrijf niet kent

Een groot taalmodel is in de kern een heel geavanceerde patroonvoorspeller. Het is briljant in taal en algemeen redeneren, maar zijn kennis is bevroren op het moment van trainen en beperkt tot wat publiek was. Jouw interne kennis is geen van beide. Die zit in PDF’s, wiki’s, gedeelde schijven en ticketsystemen, en verandert elke week.

Je kunt dat ook niet simpelweg allemaal in elke vraag plakken. Modellen hebben een beperkt werkgeheugen, en duizend pagina’s in een prompt dumpen is traag en werkt averechts. De truc is niet om het model alles te geven, maar de juiste paar alinea’s op het juiste moment. Dat is precies het probleem dat RAG oplost.

Wat RAG eigenlijk is

RAG zet een ophaalstap vóór het model. Als er een vraag binnenkomt, doorzoekt het systeem eerst je kennisbank op de passages die het meest relevant zijn voor die vraag. Die passages zet het vervolgens in de prompt, met het verzoek aan het model om ze te gebruiken bij het antwoorden. Het model werkt niet langer uit het hoofd, het werkt met bewijs dat jij hebt aangeleverd.

Daardoor veranderen twee dingen. Antwoorden zijn verankerd in je echte content in plaats van in de algemene indruk die het model van de wereld heeft, en dus een stuk accurater. En omdat je weet welke passages zijn gebruikt, kan de assistent zijn bronnen vermelden, zodat een lezer het kan nakijken. Dat ene kenmerk, een zichtbare bronvermelding, maakt van een slimme demo iets waar een professional op durft te bouwen.

RAG maakt het model niet slimmer. Het maakt het model geïnformeerd, en wel met jouw informatie in plaats van die van het internet.

Hoe de pipeline werkt, stap voor stap

Onder de motorkap is een RAG-systeem een korte keten van stappen. Het meeste draait op de achtergrond om je kennis voor te bereiden. Alleen de laatste twee stappen draaien elke keer dat iemand een vraag stelt.

1. 1Laad je documenten in. Haal het materiaal binnen dat ertoe doet, van PDF’s en Word-bestanden tot intranetpagina’s en supporttickets, en breng het terug tot schone, leesbare tekst.
2. 2Knip de tekst op in chunks. Verdeel elk document in stukken ter grootte van een passage, ruwweg een paar alinea’s per stuk, zodat het systeem een precies fragment kan ophalen in plaats van een heel bestand.
3. 3Zet elke chunk om in een embedding. Een embedding is een reeks getallen die de betekenis van de tekst vangt, zodat passages over hetzelfde onderwerp wiskundig dicht bij elkaar liggen, ook als ze andere woorden gebruiken.
4. 4Sla de embeddings op in een vectordatabase, een zoekindex gebouwd op betekenis in plaats van exacte trefwoorden, die miljoenen passages in een fractie van een seconde kan doorzoeken.
5. 5Haal de meest relevante chunks op voor een vraag. De vraag wordt op dezelfde manier omgezet in een embedding, en de database geeft het handjevol passages terug dat er qua betekenis het dichtst bij ligt.
6. 6Genereer het antwoord met die bronnen. De opgehaalde passages gaan samen met de vraag naar het model, dat een verankerd antwoord schrijft met bronvermeldingen terug naar de originelen.

Waar RAG zichzelf terugverdient

RAG is op zijn best overal waar het juiste antwoord al ergens op schrift staat maar lastig te vinden is. Een paar patronen komen steeds terug:

• Klantenservice, waar een assistent onderbouwde antwoorden opstelt op basis van je productdocumentatie en eerdere oplossingen, met een mens die goedkeurt voordat er iets wordt verstuurd.
• Interne kennis en onboarding, zodat een nieuwe collega gewoon een vraag kan stellen in plaats van door mappen te spitten of een drukke collega te storen.
• Beleid en compliance, waar medewerkers de actuele regel nodig hebben plus de clausule waar die uit komt, geen parafrase uit het hoofd.
• Handleidingen, contracten en technische documentatie, waar het detail nauw luistert en de bronvermelding juist de kern is.

Wat een goed RAG-systeem onderscheidt van een frustrerend systeem

Het concept is simpel, maar het kwaliteitsverschil tussen systemen is groot. Een frustrerende assistent haalt de verkeerde passage op, antwoordt vaag of kan niet laten zien waar iets vandaan komt. Een goede voelt als een deskundige collega. Het verschil zit zelden in het model zelf, het zit in de engineering eromheen:

• Datakwaliteit. Als je documenten verouderd, dubbel of tegenstrijdig zijn, herhaalt de assistent die rommel getrouw. Het opschonen van het bronmateriaal is het werk met de grootste hefboom.
• Slim opknippen. Te grote chunks begraven het antwoord in ruis, te kleine chunks verliezen de rode draad. Dit goed krijgen is een van de grootste knoppen voor kwaliteit.
• Kwaliteit van het ophalen. Het systeem moet de echt relevante passages naar boven halen, niet alleen passages die er toevallig op lijken. Hier betalen zorgvuldig afstellen en testen zich uit.
• Zichtbare bronvermeldingen. Elk antwoord hoort terug te linken naar zijn bronnen, zodat mensen kunnen nakijken in plaats van het op gezag aan te nemen.
• Doorlopende evaluatie. Je hebt een set echte vragen met bekende goede antwoorden nodig, die je regelmatig draait, zodat je achteruitgang opmerkt terwijl je documenten en behoeften veranderen.

Het is geen magie, en het is geen fine-tuning

RAG vermindert hallucinaties drastisch, maar elimineert ze niet. Als de opgehaalde passages mager zijn of de vraag dubbelzinnig is, kan een model nog steeds te ver gaan. Voor antwoorden met grote gevolgen, in juridische of financiële context of rond veiligheid, kiest een verstandig ontwerp voor human-in-the-loop: de assistent stelt op en zoekt uit, een mens hakt de knoop door. Dat is een feature, geen beperking.

Het helpt ook om te weten wat RAG niet is. Mensen verwarren het vaak met fine-tuning, maar die twee lossen verschillende problemen op. RAG geeft een model kennis, de specifieke feiten waaruit het moet antwoorden, en die kennis werk je bij door simpelweg je documenten bij te werken. Fine-tuning verandert het gedrag of de stijl van een model, en leert het bijvoorbeeld in een bepaalde toon of vorm te reageren. Om een assistent actueel te houden met documenten die steeds veranderen is RAG vrijwel altijd het juiste gereedschap, en veel goedkoper in onderhoud. In de praktijk vullen de twee elkaar aan in plaats van te concurreren: veel teams gebruiken retrieval voor de feiten en lichte fine-tuning voor toon of vorm, en zien de keuze als waar je kennis stopt versus waar je gedrag vormt.

Waar de RAG-praktijk naartoe beweegt

Het kernidee is niet veranderd, maar in 2026 is de aandacht duidelijk verschoven naar de ophaalstap, want daar wordt de meeste kwaliteit gewonnen of verloren. Twee verfijningen zijn inmiddels gangbaar in serieuze systemen. De eerste is hybride zoeken, dat betekenisgericht zoeken met embeddings combineert met gewoon zoeken op trefwoorden, zodat de assistent zowel het algemene concept als de exacte term vangt, een productcode of een clausulenummer dat puur semantisch zoeken kan missen. De tweede is reranking: haal een langere voorselectie op en laat een tweede model die opnieuw scoren, zodat de echt relevante passages bovenaan staan voordat het antwoord wordt geschreven.

Twee grotere verschuivingen zijn het weten waard. De ene is agentic retrieval, waarbij het model over een vraag mag nadenken, mag beslissen wat het opzoekt, meer dan één keer mag zoeken en mag controleren of het genoeg heeft voordat het antwoordt, in plaats van één vaste zoekactie te draaien. De andere is de komst van veel grotere contextvensters, waardoor een model veel meer in één keer kan lezen en teams in de verleiding komen om retrieval over te slaan en gewoon alles erin te plakken. Voor een kleine, stabiele hoeveelheid kennis kan dat werken; voor alles wat groot is of vaak verandert, is retrieval nog steeds wat antwoorden gericht, actueel en betaalbaar houdt. De pragmatische standaard is nu om ze te combineren: retrieval bepaalt welk bewijs het model voor zich krijgt, en een groot contextvenster laat het daarover redeneren.

Zo begin je

Je hoeft niet meteen alles tegelijk aan te pakken. Kies één goed afgebakend stuk kennis waar mensen constant naar vragen, een supportkennisbank, een HR-handboek, een producthandleiding, en bouw daar een gerichte assistent bovenop. Laat een mens de antwoorden blijven beoordelen, meet tegen een kleine set echte vragen en breid pas uit als het vertrouwen er echt is. Zo aangepakt wordt een RAG-assistent iets waar je team zonder nadenken naar grijpt: intelligentie die aansluit op je eigen kennis en de mensen die ermee werken versterkt.