Kostenoptimalisatie¶

Concrete technieken en een kostenraming-tool voor AI-systemen. Gebruik dit document in de Realisatie- en Beheer & Optimalisatie-fase om kosten beheersbaar te houden.

1. Kostenraming (Calculator)¶

Vul de onderstaande tabel in voor een snelle maandelijkse raming.

LLM API-kosten¶

Maandelijkse input-kosten  = (verzoeken/dag × 30 × input-tokens) / 1.000.000 × prijs
Maandelijkse output-kosten = (verzoeken/dag × 30 × output-tokens) / 1.000.000 × prijs
Totaal API-kosten/maand    = input-kosten + output-kosten

Voorbeeld: 500 verzoeken/dag → 500 × 30 × 800 / 1.000.000 × €2,50 = €30/maand input + 500 × 30 × 300 / 1.000.000 × €10 = €45/maand output = €75/maand totaal

Totale Maandelijkse Kostenraming¶

Scenario's:

2. Optimalisatietechnieken¶

Techniek 1 — Promptoptimalisatie¶

Verwachte besparing: 20–40% op input-tokens

Onnodige tokens in systeemprompts en gebruikersinstructies verhogen kosten zonder kwaliteitswinst.

Techniek 2 — Response Caching¶

Verwachte besparing: 30–60% voor repetitieve queries

Identificeerbare, herhaalde vragen (FAQ, standaardrapporten) worden gecached in plaats van opnieuw naar de API gestuurd.

Meet cache-efficiëntie: target cache-hitpercentage ≥ 40% voor systemen met repetitieve queries.

Techniek 3 — Model Tiering¶

Verwachte besparing: 40–60% bij gemengde workloads

Niet elke vraag vereist het zwaarste (duurste) model. Routeer op basis van complexiteit.

Routeringslogica (eenvoudig):

def kies_model(vraag: str) -> str:
    if len(vraag) < 100 and is_classificatie(vraag):
        return "claude-haiku-4-5-20251001"
    elif is_complexe_analyse(vraag):
        return "claude-opus-4-6"
    else:
        return "claude-sonnet-4-6"

Techniek 4 — Chunking & RAG-optimalisatie¶

Verwachte besparing: 20–40% op context-lengte bij documentverwerking

Bij RAG-systemen worden vaak te grote documentfragmenten meegestuurd.

Techniek 5 — Batchverwerking¶

Verwachte besparing: 30–50% bij niet-realtime workloads

Asynchrone verwerking in bulk is goedkoper dan individuele real-time verzoeken.

• Gebruik Batch API-endpoints (Anthropic, OpenAI bieden kortingen van 50%)
• Plan zware verwerking buiten piekuren (lagere compute-kosten bij cloud)
• Combineer meerdere documenten in één API-verzoek waar mogelijk

3. Monitoring & Kostenbeheer¶

KPI's voor kostenbeheer¶

Budget-alerts instellen¶

Stel in uw cloud-provider of LLM-provider altijd budgetalerts in op:

• 70% van maandbudget → waarschuwingsnotificatie
• 90% van maandbudget → escalatie naar AI PM + CAIO
• 100% van maandbudget → automatisch rate-limiten of stoppen

Kostentoewijzing¶

Wijs kosten toe per systeem, team of use case via tags/labels in uw cloud-omgeving. Dit maakt ROI-berekening per project mogelijk (zie Waarderealisatie).

4. Kostenoptimalisatie per Fase¶

Gerelateerde Modules¶

• Cloud vs. On-Premise
• MLOps Standaarden
• Waarderealisatie
• Business Case Sjabloon
• Agentic AI Engineering — Kostenbeheersing
• Engineering Patterns