RAG stack die jullie LLM verbindt met jullie eigen data

Wanneer past een RAG stack

Een RAG stack is de juiste keuze zodra een LLM toepassing antwoorden moet geven onderbouwd met jullie eigen bronnen. Patronen waar wij hem in productie zien werken: kennisontsluiting op alle interne documentatie via één assistent. Klantenservice waar de agent in real time klantcontracten en correspondentie ophaalt. Document zoeken en samenvatting in offerte, contract of compliance werk. Eerste lijn analyse op aanvragen.

MIT Sloan en het NANDA project rapporteren in hun State of AI in Business onderzoek van 2025 dat 95% van generatieve AI pilots geen meetbaar rendement opleveren. De oorzaak zit zelden in het model, vrijwel altijd in de laag eromheen. Daar zit ons werk: chunking, retrieval en evaluatie die kloppen.

Wanneer niet: voor een goed gestructureerde FAQ of een vraag die met een zoekfunctie sneller wordt beantwoord, is een RAG stack overkill.

‍

Wat bouwen wij ermee

Onze RAG stack bestaat uit vijf samenhangende componenten. Vendor keuzes maken we op basis van jullie context.

Vector database en index strategie

Pinecone, Weaviate, Qdrant en pgvector op Postgres zijn allemaal volwassen keuzes, met andere afwegingen op schaal, latentie, kosten en operationele complexiteit. Pgvector is vaak de juiste eerste stap bij een bestaande Postgres omgeving. Een specifieke vector database loont zodra volume en query last dat vragen.

Embedding pipeline en chunking strategie

Documenten worden niet als geheel doorzoekbaar gemaakt, maar in stukken. Hoe je knipt, embed en metadata meegeeft bepaalt grotendeels de antwoordkwaliteit. Wij bouwen een pipeline die documenten consistent verwerkt en omgaat met wijzigingen in de bron.

Retrieval, re ranking en hybride zoek

Pure vector zoek is zelden genoeg. Wij combineren semantische zoek met keyword zoek voor termen die letterlijk moeten matchen, voegen re ranking toe en bouwen filters op metadata.

Orkestratie en agent logica

Frameworks als LangChain of LlamaIndex regelen de samenwerking tussen retrieval, LLM call, validatie en vervolgstappen. Wij bouwen die laag dun en testbaar, zodat je later componenten kunt vervangen.

Evaluatie en monitoring vanaf dag één

Een RAG stack zonder evaluatie laag is een black box. Wij meten per vraag of de juiste documenten zijn opgehaald, of het antwoord daarbij past en of er gehallucineerd is. LLM as a judge voor schaal, steekproef reviews op spannende gevallen. In productie monitoren we kwaliteit, kosten en latentie.

Hoe we werken op RAG stacks

We beginnen bij jullie bron data, niet bij de tool. Hoe ziet de documentvoorraad eruit, hoe vaak verandert hij, wie is eigenaar, welke toegangsrechten gelden. Pas dan kiezen we vector database, embedding model en retrieval patroon. Governance bouwen we ingebakken: bronnen alleen voor wie er rechten op heeft, AI Act eisen rond uitlegbaarheid en logging vanaf het ontwerp. Evaluatie vanaf dag één, kennisoverdracht in elk werkblok.

‍

Wat onderscheidt ons

Business, organisatie en techniek samen op nr. 1

Een RAG stack die technisch klopt maar geen business taak raakt, levert niets op. Wij beleggen elke stack bij een eigenaar in de business en koppelen elke component aan een KPI. Onze mensen schakelen tussen MT kamer en vector index zonder vertaler.

RAG engineers met een data hart

Een RAG stack is zo goed als de bronnen die hem voeden. Versnipperde metadata en slecht onderhouden documenten leveren overtuigend klinkende fouten. Daarom investeren wij eerst in de data eronder, dan in de stack erbovenop. Klopt je data, dan klopt je AI.

Vendor neutraal, eigen onderhoud

Wij bouwen op de stack die bij jullie past, niet op één favoriete leverancier. Open formaten waar het kan, heldere interfaces zodat een vendor wissel een verhuizing wordt en geen verbouwing. Documentatie en kennisoverdracht horen erbij.

‍

Plan een Data Impact Sessie

Een Data Impact Sessie duurt 90 minuten. Geen verkooppraatje, wel een gesprek waarin we kijken waar een RAG stack bij jullie het meeste verschil maakt. Je gaat met drie aanknopingspunten naar huis: welke use cases het meeste opleveren, of jullie bronnen klaar zijn en wat een realistische volgorde is voor productie.

Plan een: Data Impact Sessie