Waarom AI pilots stranden tussen demo en productie

In de Hype Cycle for Artificial Intelligence van juli 2025 zet Gartner een opvallend signaal neer. Te midden van alle aandacht voor generatieve AI en agents stelt Gartner dat AI engineering en ModelOps de "foundational disciplines" zijn voor enterprise levering van AI op schaal. Met andere woorden, het tekort zit niet in de spectaculaire toepassingen, maar in de operationele kern eronder.

Dat sluit aan op wat wij in de praktijk zien. Een klassiek ML model dat in productie misclassificaties begint te maken zonder dat iemand het merkt, omdat de input data is gaan schuiven. Een LLM toepassing die anders gaat antwoorden na een leverancier model update, zonder dat er een evaluatie pipeline draaide om het te signaleren. Een AI workflow waarin de kosten per maand verdubbelen omdat de volumes zijn gegroeid en niemand een budget alarm had ingericht.

Het verschil tussen een AI toepassing die het haalt en eentje die over een jaar stilletjes wordt uitgezet, zit niet in het model. Het zit in de engineering laag eromheen, die het model bouwt, uitrolt, monitort en bijstuurt.

‍

Wat AI engineering is

In de markt lopen termen door elkaar. AI engineering, ML ops, LLM ops, AI infrastructuur. Het maakt uit voor wat je inkoopt en bij wie je het belegt, dus kort de afbakening.

AI engineering is de discipline die AI modellen van prototype naar productie brengt en daar houdt. Het omvat de hele levenscyclus: data pipelines voor training en inferentie, deployment en model serving, monitoring en evaluatie, retraining en governance. Het geldt voor klassieke ML modellen en voor generatieve AI toepassingen.

ML ops is de operationele kern van AI engineering voor klassieke machine learning. Versiebeheer van modellen en data, feature stores, geautomatiseerde training pipelines, drift detectie en retraining. LLM ops is de variant voor LLM toepassingen. Prompt versiebeheer, evaluatie van gegenereerde output, monitoring op regressies bij externe model updates, kosten observability op tokens en calls.

AI engineering is iets anders dan modelontwerp. Wij modelleren waar dat zinvol is, maar AI engineering is de discipline eromheen die het model in productie laat werken. En het is iets anders dan data engineering, die de bredere data pipelines en het platform onder de organisatie bouwt. Hoe wij dat fundament leggen lees je op onze pagina data engineering.

Wat we bouwen

Onze aanpak voor AI engineering bestaat uit vier samenhangende onderdelen. Soms bouwen we ze allemaal, soms één. We werken vanaf dag één met jouw mensen mee, en dragen kennis over zodat jouw team het straks zelf kan onderhouden.

Pipelines, feature stores en reproduceerbare training

Een model dat niemand kan reproduceren is een risico. Daarom bouwen we training pipelines met versiebeheer op data, code en hyperparameters, en een feature store waar features eenmaal worden gedefinieerd en hergebruikt over modellen heen. Zo weet je over zes maanden nog precies welke data en welke logica een model in productie aanstuurt. Voor LLM toepassingen geldt hetzelfde principe voor prompts, embeddings en retrieval logica.

Deployment en model serving

Een model in een notebook is geen model in productie. Wij bouwen CI/CD pipelines die modellen geautomatiseerd uitrollen naar serving infrastructuur, met canary releases en rollback wanneer de prestaties tegenvallen. Klassieke modellen draaien op managed serving of containers, LLM toepassingen via API gateways met token budgetten en fallbacks. De keuze volgt de business case en de latentie eis, niet wat technisch interessant lijkt.

Monitoring, evaluatie en drift detectie

Bij een dashboard reken je de cijfers na. Bij een AI model in productie moet je een ander mechanisme inrichten. Voor klassieke ML monitoren we data drift, concept drift en prestatieverlies op de business KPI. Voor LLM toepassingen bouwen we evaluatie pipelines met LLM as a judge voor schaal en human in the loop voor de spannende gevallen. Hoe wij die laag specifiek invullen voor generatieve AI lees je op onze pagina generatieve AI.

Retraining, kosten observability en governance ingebouwd

Een model dat nooit wordt geretraind, drijft af. Daarom bouwen we retraining triggers in op basis van gemeten drift en prestatie, niet op basis van de kalender. Daarnaast monitoren we kosten per inferentie, per agent run of per LLM call, zodat de business case in productie zichtbaar blijft. Voor toepassingen onder de AI Act bouwen we audit trail, lineage en uitlegbaarheid mee vanaf het eerste ontwerp. Voor specifieke ML ops platformen verwijzen we naar onze tools pagina.

‍

Wanneer onze AI engineering experts waardevol kunnen zijn

Niet elke AI toepassing vraagt om een volledig ingericht ML ops landschap. Voor een eenmalige analyse of een interne pilot is dat overkill. Maar in deze situaties zien we dat onze AI engineering experts wel het verschil maken.

- Jullie hebben een AI pilot gedraaid die werkte, maar niemand kan hem stabiel in productie houden zonder steeds nieuwe reparaties

- Een model draait, maar niemand kan zeggen of hij nog goed presteert of stilletjes is afgedreven

- Een LLM toepassing gedraagt zich anders na een leverancier model update, en jullie hebben geen evaluatie pipeline om dat snel te signaleren

- De kosten van AI calls of compute lopen op bij opschaling, zonder dat duidelijk is waar de hefbomen zitten

- Audit of AI Act eisen komen op tafel, en de huidige toepassingen zijn niet gebouwd met audit trail, lineage en uitlegbaarheid in gedachten

- Meerdere AI teams werken naast elkaar met eigen tooling en eigen werkwijze, zonder gedeelde discipline of platform

‍

Klinkt herkenbaar? Dan loont een gesprek waarschijnlijk de moeite.

Wat onderscheidt ons

Business, organisatie en techniek samen op nr. 1

AI engineering die technisch klopt maar geen business KPI raakt, levert niets op. Andersom net zo. Wij belegen elke pipeline en elk model bij een eigenaar in de business, niet alleen in IT. Onze mensen schakelen tussen MT kamer en serving infrastructuur zonder dat er een vertaler tussen hoeft.

AI engineers met een data hart

Een model is zo goed als de data die hem voedt. Een serving pipeline op een wankel data fundament levert overtuigende fouten op schaal. Daarom investeren wij eerst in de data laag eronder, en pas dan in de engineering rondom het model. Klopt je data, dan klopt je AI.

Kennisoverdracht in ons DNA

Een AI engineering stack die alleen wij begrijpen, is geen asset maar een afhankelijkheid. Daarom documenteren we, bouwen we transparant en dragen we het eigenaarschap over aan jouw mensen. Zodra jouw team de pipelines, de monitoring en de retraining zelf kan draaien, hebben wij ons werk goed gedaan.

‍

Plan een Data Impact Sessie

Een Data Impact Sessie duurt 90 minuten. Geen verkooppraatje, geen powerpoint van tachtig sliders. We schuiven aan, kijken mee naar wat er draait en laten zien waar AI engineering bij jullie het meeste verschil kan maken.

Je gaat naar huis met drie concrete aanknopingspunten:

1. Een realistisch beeld van de volwassenheid van jullie AI in productie, en waar de grootste risico's liggen

2. De eerste prioriteiten in monitoring, evaluatie en kosten beheersing voor de toepassingen die nu draaien of op de planning staan

3. Een realistische volgorde naar een werkende ML ops of LLM ops praktijk, passend bij jullie schaal

‍

Of we daarna samen doorgaan of niet.

Plan een: Data Impact Sessie