Wat kost een AI-workflow, en hoe voorkom je een shock bill?

Joost-Tamboer-AI-portret

Een AI-workflow kan een klantvraag voor een paar cent voorbereiden en toch duur uitvallen. Extra modelaanroepen, zoekacties en correctiewerk verhogen de rekening. Spreek daarom vóór oplevering af wat een bruikbaar resultaat mag kosten en wanneer de workflow stopt met geld uitgeven.

Neem een groothandel die productvragen ontvangt. De workflow zoekt een handleiding en maakt een conceptantwoord. Een medewerker controleert het productnummer, de bron en het antwoord. Voor zo'n afgebakende taak kun je het verbruik begroten.

Reken per bruikbaar resultaat

Modelkosten worden vaak afgerekend in tokens, de eenheden waarin een model tekst verwerkt. Invoer en uitvoer kunnen verschillende tarieven hebben. Ook tools, opslag, hosting en menselijk werk tellen mee.

Stel dat de groothandel 2.000 vragen per maand verwerkt. Eén modelaanroep gebruikt gemiddeld 8.000 invoertokens en 1.000 uitvoertokens. Met aangenomen rekentarieven van 2 euro per miljoen invoertokens en 10 euro per miljoen uitvoertokens kost de eerste poging 0,026 euro. Dit zijn gekozen aannames, geen leveranciersofferte. Alle bedragen zijn exclusief btw.

Kostenpost

Aanname

Per maand

Eerste modelaanroep

2.000 x 0,026 euro

52,00 euro

Extra modelaanroep

Bij 10% één extra poging met hetzelfde verbruik

5,20 euro

Zoek- en documentdiensten

Gemiddeld 0,01 euro per vraag

20,00 euro

Automatisering, hosting en beheer

Aangenomen vast maandbedrag

100,00 euro

Controle en correctie

Gemiddeld 45 seconden per vraag, tegen 40 euro per uur

1.000,00 euro

Totaal

2.000 bruikbare concepten na controle en correctie

1.177,20 euro

Bij deze aannames kost een bruikbaar concept afgerond 0,59 euro. Eenmalige bouwkosten staan apart en horen over de gebruiksduur in de businesscase. Taken zonder bruikbaar resultaat kosten ook geld, maar tellen niet mee als resultaat.

Meet de controle- en correctietijd in een proef. Bij anderhalve minuut per vraag verdubbelt die kostenpost naar 2.000 euro. Een goedkoper model kan daardoor een duurdere werkwijze opleveren.

Een budgetmelding stopt geen workflow

Controleer welk gedrag de leverancier heeft ingesteld. OpenAI ondersteunt meldingen en harde uitgavenlimieten, maar de handhaving is niet onmiddellijk: het geregistreerde verbruik kan iets boven de grens uitkomen. Anthropic weigert nieuwe API-aanvragen bij het bereiken van de ingestelde uitgavenlimiet. AWS waarschuwt dat kosten kunnen doorlopen voordat een budgetmelding aankomt.

Gebruik leverancierslimieten als extra beveiliging. Een grens bij de modelleverancier begrenst niet vanzelf andere zoekdiensten of menselijk werk. De workflow moet daarom ook per klant, taak en periode het resterende budget bewaken.

Reserveer vóór een betaalde stap

Tel alle gemaakte kosten en gereserveerde kosten bij elkaar op. Bepaal vóór iedere betaalde stap een betrouwbare bovengrens. Beperk daarvoor de invoer, maximale uitvoer en betaalde hulpmiddelen. Ook betaalde denkstappen van het model horen bij het verbruik.

Past de reservering niet binnen het taakbudget of periodebudget, dan start de stap niet. Na uitvoering vervangt het werkelijke verbruik de reservering. Ongebruikte ruimte komt vrij. Een stap zonder betrouwbare bovengrens krijgt eerst een begrenzing of gaat naar een medewerker.

Bij gelijktijdige taken moeten controle en reservering één gezamenlijke, ondeelbare handeling zijn. Anders kunnen twintig taken bij een resterend budget van 10 euro elk denken dat hun reservering van 1 euro nog past.

Een time-out bewijst niet dat de leverancier niets heeft uitgevoerd of gefactureerd. Houd de reservering vast totdat de uitkomst bekend is, of boek conservatief de maximale kosten. Blind opnieuw proberen kan dubbel verbruik veroorzaken.

Beperk ook modelaanroepen, zoekacties, herhaalpogingen en looptijd per taak. Controleer automatische retries van softwarebibliotheken. Een ontbrekend artikelnummer vraagt om aanvullende informatie; dezelfde vraag opnieuw stellen lost dat niet op. Gebruik taaknummers om dubbele aanvragen en herstarts te herkennen. Een duurdere modelroute moet vooraf toegestaan zijn en opnieuw binnen het budget passen.

Laat alle betaalde routes via dezelfde budgetcontrole lopen. Houd ruimte voor tariefwijzigingen, wisselkoersen en vertraagde kostenregistratie. Een dagbudget kan voorkomen dat één fout de maandruimte opmaakt.

Test de stop vóór oplevering

Laat een bronzoekactie mislukken, start taken tegelijk vlak onder de budgetgrens en onderbreek een aanvraag terwijl de leverancier mogelijk bezig is. Controleer welke betaalde stappen nog starten en welke reserveringen blijven staan.

Bij een budgetstop blijft de aanvraag zichtbaar, met gebruikte bronnen, tussenresultaat en stopreden. Spreek af wie extra budget mag vrijgeven en wie het werk handmatig opvangt. Die opvang kost ook tijd; neem haar mee in de planning. Houd verbruik en budget van verschillende klanten gescheiden.

Leg bij oplevering de kostenraming, taak- en periodegrenzen en verantwoordelijke budgethouder vast. Meet kosten per geaccepteerd resultaat, inclusief controle en herstel. Test opnieuw wanneer het model, de context of de zoekroute verandert. De klant moet vooraf weten welk werk blijft wachten zodra het budget onvoldoende is.

Joost  Tamboer bouwt bij Tamboer AI workflows voor terugkerend werk in het mkb.

De control card helpt de invoer, menselijke goedkeuring en stopprocedure vooraf vast te leggen.

Meer over
Lees ook
Nederlandse Defensie kiest SAP Sovereign Cloud om digitale weerbaarheid en militaire inzetbaarheid te versterken

Nederlandse Defensie kiest SAP Sovereign Cloud om digitale weerbaarheid en militaire inzetbaarheid te versterken

Strategische overeenkomst is een mijlpaal voor SAP Sovereign Cloud in de Europese defensiesector SAP en het Nederlandse ministerie van Defensie hebben een overeenkomst gesloten voor de ontwikkeling en het beheer van een soevereine cloudomgeving in Nederland. Deze samenwerking betekent een belangrijke stap voor SAP Sovereign Cloud binnen de Europes1

ACM publiceert leidraad over overstappen tussen clouddiensten

ACM publiceert leidraad over overstappen tussen clouddiensten

Overstappen naar een andere cloudaanbieder moet snel, makkelijk en kosteloos zijn. Dit helpt klanten om minder afhankelijk te zijn van hun aanbieder. Om aanbieders en gebruikers van clouddiensten duidelijkheid te geven over hun rechten en plichten, publiceert de Autoriteit Consument & Markt (ACM) een leidraad over de Data Act gericht op clou1

Airbus kiest voor Scaleway na aanbesteding met Digitale Soevereiniteit als eis

Airbus kiest voor Scaleway na aanbesteding met Digitale Soevereiniteit als eis

Afgelopen donderdag maakte Scaleway bekend Airbus voor meerdere jaren als klant te hebben opgetekend. De Franse cloudprovider had het best bod gedaan tijdens een aanbestedingsprocedure die eind vorig jaar werd aangekondigd (ITchannelPRO schreef daarover). AWS ziet daarmee een grote klant grotendeels wegmigreren.