Vraag iemand om 347 keer 28 uit het hoofd te berekenen. De kans op een fout is groot. Vraag diezelfde persoon om het op papier te doen, stap voor stap, en het antwoord klopt bijna altijd. Het verschil zit niet in het rekenvermogen. Het zit in de tussenstappen.
Bij AI-modellen werkt dat precies zo. Een model dat in één sprong van vraag naar antwoord gaat, maakt fouten die het niet zou maken als het de tussenstappen expliciet doorloopt. Die observatie is het fundament van chain-of-thought prompting.
Roland Bieleveldt
Een AI-model genereert tekst woord voor woord. Elk woord wordt gekozen op basis van de voorgaande woorden en de patronen uit de training. Bij feitelijke vragen (“Wat is de hoofdstad van Frankrijk?”) werkt dat goed: het antwoord is een patroon dat het model duizenden keren heeft gezien.
Maar bij taken die redenering vereisen, ontstaat een probleem. Het model moet meerdere stappen doorlopen: gegevens identificeren, verbanden leggen, tussenresultaten berekenen, uitzonderingen afwegen, en dan pas een conclusie trekken. Als het model direct naar de conclusie springt, worden die tussenstappen impliciet afgehandeld. En impliciete stappen zijn waar fouten ontstaan.
Neem een vraag die in een MT-vergadering zou kunnen vallen. “Onze organisatie heeft drie vestigingen. Vestiging A heeft 120 medewerkers met een verzuimpercentage van 4,2 procent. Vestiging B heeft 85 medewerkers met 6,1 procent. Vestiging C heeft 45 medewerkers met 3,8 procent. Wat is het gemiddelde verzuimpercentage van de hele organisatie, en welke vestiging wijkt het meest af?”
Zonder chain-of-thought genereert het model vaak direct een antwoord. Soms pakt het het ongewogen gemiddelde van de drie percentages (4,7 procent), wat fout is. Soms raakt het in de buurt. Het model “rekent” niet echt. Het schat het antwoord in op basis van patronen. Bij een opgave als deze is die schatting onbetrouwbaar.
Met chain-of-thought vraag je het model om de stappen expliciet door te lopen. Totaal medewerkers: 250. Verzuim per vestiging in aantallen: A: 5,04, B: 5,19, C: 1,71. Totaal verzuim: 11,94. Gewogen gemiddelde: 4,8 procent. Afwijking per vestiging: A zit 0,6 procentpunt onder het gemiddelde, B zit 1,3 procentpunt erboven, C zit 1,0 procentpunt eronder. Conclusie: vestiging B wijkt het meest af.
Het verschil is niet dat het model in het tweede geval “slimmer” is. Het verschil is vergelijkbaar met een wiskundetoets op school. Een leerling die alleen het eindantwoord opschrijft, maakt meer fouten dan een leerling die zijn uitwerking laat zien. Niet omdat de tweede leerling beter kan rekenen, maar omdat elke tussenstap een controlepunt is. Als stap twee niet klopt, bouw je niet ongemerkt voort op een fout fundament.
Bij een AI-model werkt het mechanisme vergelijkbaar. Het model genereert de tussenstappen als tekst. Elke stap wordt onderdeel van de context waarop het model de volgende stap baseert. Stap drie bouwt voort op het resultaat van stap twee, niet op een vage schatting van het eindantwoord. Dat is waarom het werkt.
De techniek kent twee varianten.
De meest toegankelijke variant. Je voegt een instructie toe aan de prompt die het model aanstuurt om in stappen te werken. “Denk stap voor stap.” “Redeneer in tussenstappen voordat je een conclusie trekt.” “Laat je uitwerking zien.”
Dat klinkt te makkelijk om een verschil te maken. Maar het effect is meetbaar. Onderzoek laat consistent zien dat de toevoeging “denk stap voor stap” de prestatie op rekentaken, logische problemen en complexe analyses significant verbetert. Bij sommige taken verdubbelt de nauwkeurigheid.
Hier past een kanttekening die de moeite waard is. Als je een model vraagt om stap voor stap te redeneren, krijg je tekst die eruitziet als een uitwerking. Dat is nuttig en controleerbaar. Maar het is niet hetzelfde als een kijkje in het interne verwerkingsproces van het model. Het model laat niet zien hoe het “denkt.” Het genereert tekst die functioneert als tussenstappen.
Vergelijk het opnieuw met die wiskundetoets. De uitwerking op papier is niet hetzelfde als wat er in het hoofd van de leerling gebeurt. Maar dat maakt niet uit: de uitwerking is wat je kunt controleren, en het opschrijven van de stappen maakt het eindresultaat betrouwbaarder. Precies zo werkt het bij een AI-model. De tussenstappen zijn bruikbaar, controleerbaar en verbeteren het resultaat. Dat is wat telt.
Tussenstappen kosten ruimte. Het model genereert meer tekst, wat langer duurt en bij betaalde modellen meer kost. De vraag is niet of je chain-of-thought kunt inzetten, maar wanneer het de moeite waard is. Bij een feitelijke vraag of een vertaling voegen tussenstappen niets toe. Bij een vraag die meerdere stappen vereist om tot het juiste antwoord te komen, maken ze het verschil tussen een gok en een onderbouwd resultaat. De scheidslijn is niet hoe belangrijk de taak is, maar hoe complex de weg naar het antwoord is.
Een sterkere variant. Bij gewone few-shot prompting laat je het model alleen het eindresultaat zien: “deze input leverde dit antwoord op.” Bij few-shot chain-of-thought laat je ook de weg naar dat antwoord zien.
Het verschil wordt concreet met een voorbeeld. Stel dat je het model wilt laten beoordelen of een projectvoorstel haalbaar is.
Bij gewone few-shot geef je een voorbeeld als: Voorstel: “Implementatie van een nieuw CRM-systeem in drie maanden met het huidige team.” Beoordeling: Niet haalbaar.
Bij few-shot chain-of-thought geef je hetzelfde voorbeeld, maar nu met de uitwerking: Voorstel: “Implementatie van een nieuw CRM-systeem in drie maanden met het huidige team.” Stap 1: Het huidige team heeft vier medewerkers, waarvan twee parttime. Stap 2: Een CRM-implementatie vereist doorgaans dataselectie, configuratie, migratie, testen en training. Stap 3: Met de beschikbare capaciteit is dataselectie en configuratie haalbaar in drie maanden, maar migratie en training niet. Beoordeling: Niet haalbaar binnen drie maanden met het huidige team. Haalbaar in vijf tot zes maanden, of in drie maanden met twee extra medewerkers.
Het model leert nu twee dingen tegelijk: het format van de beoordeling (welke stappen je doorloopt) en het type redenering dat je verwacht (capaciteit afzetten tegen vereisten). Bij de volgende vraag past het model datzelfde patroon toe. Dat maakt few-shot chain-of-thought bijzonder effectief bij complexe taken waar je niet alleen wilt sturen wát het model concludeert, maar ook hóe het daar komt.
De techniek is niet bij elke taak nodig. Bij feitelijke vragen, vertalingen en herformuleringen voegt het niets toe. Het model hoeft niet te “redeneren” om te weten dat de hoofdstad van Frankrijk Parijs is.
Chain-of-thought maakt het verschil bij taken waar het antwoord afhangt van meerdere tussenstappen die op elkaar bouwen. De meest voor de hand liggende categorie is rekentaken: financiële berekeningen, kostenvergelijkingen, margeanalyses. Elke taak waar getallen met elkaar in verband staan en het eindresultaat afhangt van correcte tussenresultaten.
De techniek reikt verder dan rekenen. Bij logische redenering (“als de omzet daalt maar de vaste kosten gelijk blijven, wat gebeurt er dan met de marge?”) moet het model meerdere variabelen tegen elkaar afwegen. Zonder tussenstappen kiest het model een plausibel klinkend antwoord dat niet per se correct is. Met tussenstappen wordt de redenering expliciet en controleerbaar.
Hetzelfde geldt voor meervoudige afwegingen. “Welke van deze drie leveranciers is de beste keuze, gegeven de prijs, de levertijd en de betrouwbaarheid?” Het model moet elk criterium apart beoordelen en dan wegen. En voor complexe classificaties, waarbij de categorie afhangt van subtiele combinaties van kenmerken. Bij berichten die elementen van meerdere categorieën bevatten, helpt stapsgewijze uitwerking het model om de dominante categorie te bepalen.
Het gemeenschappelijke kenmerk: overal waar het antwoord niet in één stap uit de vraag volgt, maar een redeneerpad vereist, maakt chain-of-thought het resultaat beter én controleerbaar.
Chain-of-thought prompting is een techniek die je als gebruiker activeert. Je instrueert het model om in tussenstappen te redeneren. Redeneermodellen (behandeld bij cluster 6.1) hebben die stapsgewijze redenering ingebouwd. Ze genereren tussenstappen automatisch, zonder dat je erom vraagt.
Dat onderscheid is in de praktijk goed om te kennen. Bij een standaardmodel voeg je “denk stap voor stap” toe en het model volgt die instructie. Bij een redeneermodel is die instructie overbodig: het model redeneert al in tussenstappen. Bij sommige redeneermodellen werkt de instructie zelfs averechts, omdat het model twee keer probeert te redeneren.
De kern is helder. Chain-of-thought prompting is de techniek die je nu kunt inzetten met elk beschikbaar model. Redeneermodellen zijn de volgende stap, waar dezelfde logica in het model zelf zit. Het resultaat is vergelijkbaar. De route ernaartoe verschilt.
Hier is een patroon dat de moeite waard is om te kennen. Bij taken die op het eerste gezicht feitelijk lijken maar eigenlijk een redenering vereisen, maakt chain-of-thought het grootste verschil.
Een zorgverzekeraar wil een AI-model inzetten om declaraties te beoordelen op volledigheid. De zero-shot prompt “is deze declaratie volledig?” levert wisselvallige resultaten op. Sommige onvolledige declaraties worden goedgekeurd, sommige volledige declaraties worden afgekeurd. De chain-of-thought variant: “Beoordeel deze declaratie op volledigheid. Controleer stap voor stap: is de diagnose vermeld? Is de behandelcode correct? Komt de datum overeen met de afspraak? Is de verwijzing aanwezig? Trek op basis van deze controles een conclusie.” Het model doorloopt nu elke check apart en de beoordeling wordt betrouwbaarder. De medewerker die het resultaat controleert, kan bovendien zien waar het model twijfelt.
Een accountantskantoor gebruikt een AI-model om fiscale scenario’s te vergelijken voor klanten. “Wat is voordeliger: variant A of variant B?” Bij een directe prompt kiest het model vaak een antwoord op basis van een globale indruk. Met chain-of-thought instrueert de accountant het model om per variant de belastingdruk te berekenen, de aftrekposten te inventariseren, de netto-impact te bepalen en dan pas te vergelijken. Het tussenresultaat is controleerbaar en de conclusie is onderbouwd.
Een zelfstandig marketingadviseur vraagt een AI-model om een concurrentieanalyse. “Wie zijn mijn drie belangrijkste concurrenten en waarom?” Zonder chain-of-thought noemt het model drie namen op basis van naamsbekendheid. Met chain-of-thought instrueert de adviseur: “Identificeer eerst de concurrenten in mijn marktsegment. Beoordeel per concurrent de overlap in doelgroep, de overlap in aanbod en de sterkte van hun online zichtbaarheid. Rangschik op basis van die beoordeling.” Het resultaat is geen lijstje maar een onderbouwde analyse.
Wie wil begrijpen hoe je taken opsplitst in meerdere prompts waarbij elk resultaat voortbouwt op het vorige, leest verder bij Prompt chaining (cluster 4.3d).
Wie wil weten hoe chain-of-thought zich verhoudt tot redeneermodellen die stapsgewijze redenering ingebouwd hebben, vindt dat bij Reasoning: wanneer kies je voor diep nadenken? (cluster 6.1).
Wie de kracht van chain-of-thought wil combineren met voorbeelden, leest terug bij One-shot en few-shot prompting (cluster 4.3b) onder de sectie over few-shot chain-of-thought.