Deterministische workflows & tooling

Wij ontwerpen AI-pijplijnen waarin de orchestratie deterministisch is en de modelaanroep de enige probabilistische component is. Elke routeringsbeslissing, validatiecontrole, retry-policy en statusovergang draait als expliciete, auditeerbare code. Het LLM opereert binnen begrensde nodes met schema-gevalideerde in- en uitvoer, en wanneer er iets mislukt, herhaalt u vanaf het laatste checkpoint, niet vanaf nul. Dat is de architectuur die agent-chaos auditeerbaar maakt in handelstoezicht, klinische data-extractie en het genereren van rapportages voor toezichthouders.

De wiskunde die agent-pijplijnen de das omdoet

Een AI-agent-keten van 10 stappen waarbij elke stap met 95% nauwkeurigheid draait, levert in 59,9% van de gevallen een correct end-to-end resultaat op. Dat betekent dat vier van de tien uitvoeringen mislukken. In een chatbotdemo probeert u het opnieuw en gaat u verder. In handelstoezicht, klinische data-extractie of het genereren van rapportages voor toezichthouders is een faalpercentage van 40% fataal. Gartner voorspelt dat ruim 40% van de agentic AI-projecten tegen eind 2027 zal zijn geannuleerd, en de wiskunde van opeenstapelende fouten is daar een voorname reden voor.

Ons antwoord beperkt de probabilistische modelaanroep tot begrensde nodes met schema-gevalideerde in- en uitvoer. Elke routeringsbeslissing, validatiecontrole, retry-policy en statusovergang draait als expliciete, auditeerbare code — zodat een fout opnieuw wordt uitgevoerd vanaf het laatste checkpoint, niet vanaf het begin (zie ons onderzoek naar architectuur, betrouwbaarheid en strategische divergentie in deep AI).

Waarom de meeste agent-frameworks bezwijken in productie

Het signaal vanuit de community is luid en duidelijk, en de fouten zijn specifiek:

• LangChain agents raken verstrikt in redeneerlussen, roepen herhaaldelijk verkeerde tools aan en degraderen zonder exceptions op te werpen.
• Modellen plaatsen toelichtende tekst vóór JSON; parsers retourneren zelfverzekerd gestructureerde maar onjuiste data.
• CrewAI delegatielussen divergeren bij concurrente taakgrafen.
• AutoGen voert 20+ LLM-aanroepen per taak uit tegen $0,45 per stuk, waar een deterministische pijplijn hetzelfde resultaat behaalt in minder aanroepen tegen $0,08.

Deze mislukkingen zijn terug te voeren op een gedeelde ontwerpkeuze: het model de regie geven over de uitvoeringsstroom. Wanneer het LLM beslist welke tool moet worden aangeroepen, welke vertakking moet worden gekozen en wanneer moet worden gestopt, krijgt u autonomie van demoweerdigheid en chaos van productiekwaliteit. De oplossing is architecturaal: verplaats de regie over de uitvoering naar een deterministische engine, de aanpak die nader wordt beschreven in onze whitepaper over het ontwerpen van veerkrachtige enterprise AI voorbij de LLM-wrapper, en laat het model uitsluitend datgene afhandelen waar modellen goed in zijn: redeneren over inhoud binnen helder gedefinieerde kaders.

Hoe wij deterministische AI-pijplijnen bouwen

Onze aanpak gebruikt durable execution-engines — Temporal, Prefect of Inngest, gekozen op basis van uw bestaande infrastructuur — als fundament voor de orchestratie. Elke stap is een activiteit of taak met expliciete invoer, uitvoer, retry-policies en time-outbudgetten. De engine beheert de status, handelt fouten af en biedt de checkpoint/replay-functionaliteit die foutopsporing (debugging) mogelijk maakt.

Bij elke node waar een LLM uitvoer genereert, omhullen we de aanroep met een validatiekader dat uitvoerschema's afdwingt met de juiste tool voor de taak. Elke aanpak kent afzonderlijke foutmodi, waardoor we de validatiestrategie afstemmen op de fouttolerantie en het latentiebudget van elke node:

Tool-calling verloopt via een begrensde planner, niet via ongebreidelde LLM-generatie. In plaats van 50 tools aan te bieden in de hoop dat het model de juiste kiest, filteren we de toolcatalogus op basis van de actuele workflowstatus, zodat het model uitsluitend de tools ziet die geldig zijn voor deze stap. Dit elimineert gehallucineerde toolnamen en ongeldige argumentpatronen — de twee meest voorkomende foutmodi bij tool-calling in productie.

Checkpoint, replay en het kostenargument

Een workflow met drie agents die in demo's $5–50 kost, genereert $18.000 tot $90.000 aan maandelijkse productiefacturen. 96% van de ondernemingen meldt dat de GenAI-kosten de verwachtingen overtroffen. Het merendeel van deze verspilling komt voort uit het opnieuw uitvoeren van reeds geslaagde stappen na een stroomafwaartse fout.

Checkpointing verandert de economische dynamiek. Nadat elke node is voltooid, maakt de engine een momentopname van de volledige status — invoer, uitvoer, metadata, openstaande taken. Wanneer er een fout optreedt bij stap 7 van de 10, lost u het probleem op en herhaalt u vanaf stap 7, niet vanaf stap 1. LangGraph behaalt een foutherstelpercentage van 96% met deze aanpak. Het durable execution-model van Temporal gaat nog verder: het overleeft procescrashes en hervat exact waar de workflow was gebleven, inclusief actieve LLM-aanroepen.

Wij ontwerpen checkpoint-strategieën met:

• Deterministische thread-ID's gekoppeld aan bedrijfsentiteiten — een leningaanvraag, een patiëntendossier, een handelsbevestiging.
• Idempotente externe aanroepen gekoppeld aan de identiteit van workflow-plus-stap.
• Doelgerichte foutinjectietesten.

Checkpointing alleen al vermindert verspilde verwerking met 60% of meer bij workflows met meerdere stappen.

Tool-governance in productie

De adoptie van MCP loopt vooruit op de beveiliging. Een scan van circa 2.000 aan het internet blootgestelde MCP-servers wees uit dat er op geen enkele sprake was van authenticatie, waardoor naar schatting 200.000 servers gevaar lopen. Er is ook een kostenprobleem: een enkele GitHub MCP-server verbruikt circa 50.000 tokens alleen al om te initialiseren, en een databaseserver met 106 tools verbruikt 54.600 tokens nog vóór een eerste query.

Wij ontwerpen gecontroleerde tool-interfaces, ongeacht welk protocol uw tools gebruiken. Elke tool-aanroep passeert een validatielaag die invoertypes en -bereiken controleert, rate limits en resource-quota afdwingt, het uitvoerformaat verifieert en de volledige aanroepcontext logt. Toolselectie is statusgestuurd: de workflow-engine bepaalt welke tools bij elke stap beschikbaar zijn op basis van de actuele status en de gedeclareerde capaciteiten van de stap. Dit is geen suggestie aan het model — het is een harde restrictie die wordt afgedwongen op infrastructuurniveau.

Audit-first architectuur voor gereguleerde sectoren

SOX-controles, SR 11-7 modelrisicobeheer, HIPAA, de EU AI Act en FDA-richtlijnen voor klinische beslissingsondersteuning vereisen stuk voor stuk een combinatie van reproduceerbaarheid, traceerbaarheid en verklaarbaarheid. Het achteraf toevoegen van observabiliteit aan een agent-framework na ingebruikname volstaat niet voor deze vereisten. De architectuur zelf moet de audit-trail voortbrengen.

De pijplijnen die wij bouwen zijn ontworpen om elke LLM-aanroep te loggen met de volledige prompt, respons, het validatieresultaat, het aantal nieuwe pogingen (retry count) en het checkpoint-ID. Elke statusovergang is onveranderlijk. Workflowdefinities zijn versiebeheerd en gekoppeld aan specifieke modelversies, zodat onderzoekers de exacte pijplijn kunnen reconstrueren die historische uitvoer heeft gegenereerd. Voor GxP-omgevingen ontwerpen we workflowversies die zijn vergrendeld op gevalideerde modelcheckpoints met formele change-control-processen — het type deterministische klinische pijplijn dat we demonstreren in een werkende demo voor klinische AI-veiligheid.