Een pretrained basismodel bezit enorme hoeveelheden vastgelegde taalpatronen, maar het heeft geen mechanisme om die gericht in te zetten. Het kan de meest waarschijnlijke vervolgtekst genereren op elke invoer, maar het herkent geen instructie, het structureert geen antwoord en het past zijn toon niet aan op de vraagsteller. Fine-tuning is de stap die dat verandert. Het is ook de stap waar de meeste misverstanden over bestaan, want het woord klinkt alsof je een model even “bijstelt” terwijl het in werkelijkheid een zorgvuldig ontwerpproces is met eigen beperkingen.
Roland Bieleveldt
Fine-tuning is het proces waarmee een pretrained model wordt getraind op een gerichte dataset om specifiek gedrag aan te leren. Bij posttraining is het doel dat het model leert instructies op te volgen en gesprekken te voeren. Bij fine-tuning voor een specifiek domein kan het doel zijn dat het model leert in een bepaalde stijl te schrijven, een specifiek type analyse te produceren, of een gespecialiseerd formaat te hanteren.
Het mechanisme is supervised learning: het model krijgt voorbeelden van gewenst gedrag, vergelijkt zijn eigen output met het voorbeeld, en stelt zijn parameters bij. Dezelfde trainingslogica als bij machine learning, maar toegepast op een model dat al over een breed fundament beschikt.
Dat fundament is essentieel. Fine-tuning voegt geen nieuwe kennis toe aan het model in de zin van “nu weet het meer feiten.” Het verfijnt bestaande patronen. Het leert het model die patronen als gerichte reactie op een specifieke instructie in te zetten, in plaats van als vrije tekstgeneratie. Het is vergelijkbaar met een ervaren musicus die een nieuwe partituur instudeert. De muzikale vaardigheid is er al. De repetitie leert de musicus hoe die vaardigheid in dit specifieke stuk tot klinken moet komen: het tempo, de dynamiek, de interpretatie.
De meest gebruikte methode is supervised fine-tuning (SFT). Het model traint op paren van invoer en gewenste uitvoer. Elke invoer is een instructie, een vraag of een conversatie-opening. Elke uitvoer is een door mensen geschreven demonstratie van hoe het model zou moeten reageren.
Een concreet voorbeeld. De invoer is: “Leg uit wat een hypotheek is, in twee zinnen, voor iemand die geen financiële achtergrond heeft.” De gewenste uitvoer is: “Een hypotheek is een lening waarmee je een huis koopt. Je leent het bedrag van een bank en betaalt het over een lange periode, meestal twintig tot dertig jaar, terug met rente.”
Uit dat ene voorbeeld leert het model tientallen impliciete lessen. Het leert dat “in twee zinnen” een lengte-instructie is die moet worden gevolgd. Het leert dat “voor iemand zonder financiële achtergrond” een aanwijzing is voor taalgebruik. Het leert dat een uitleg eindigt na de gevraagde informatie, zonder ongevraagde aanvullingen.
Na duizenden van zulke voorbeelden heeft het model een patroon opgebouwd voor wat “instructie opvolgen” betekent. Het herkent een instructie wanneer het er een ziet, het selecteert de relevante kennis uit zijn pretrained fundament, en het formuleert een antwoord in het format dat de instructie vraagt.
Een specifieke toepassing van SFT die vrijwel alle huidige AI-assistenten hebben ondergaan, is instruction tuning. Het doel: het model leren dat een conversatie een structuur heeft. Dat een vraag om een antwoord vraagt. Dat “schrijf een e-mail” een andere output vereist dan “analyseer deze cijfers.” Dat een vervolg op een eerder antwoord rekening houdt met wat al is gezegd.
Instruction tuning is de reden dat huidige modellen aanvoelen als gesprekspartners in plaats van als tekstgeneratoren. Het model heeft geleerd dat menselijke interactie een patroon volgt: iemand stelt een vraag, verwacht een relevant antwoord, en bouwt daarop voort. Dat patroon zat niet in de pretraining-data als expliciete instructie, maar werd aangeleerd via de voorbeelden in de fine-tuning-dataset.
Hier zit een misverstand dat in de praktijk veel kosten en teleurstelling veroorzaakt. Fine-tuning maakt een model niet slimmer. Het maakt een model gerichter.
Een model dat tijdens pretraining weinig juridische tekst heeft verwerkt, wordt geen juridisch expert door fine-tuning op juridische voorbeelden. Het leert het formaat van juridische output: hoe een juridisch advies eruitziet, welke structuur een contract heeft, welke toon past bij een formele opinie. Maar de onderliggende juridische kennis komt uit pretraining. Als die er niet is, produceert het model na fine-tuning antwoorden die juridisch klinken maar inhoudelijk tekortschieten.
Fine-tuning kan een model ook slechter maken. Als de trainingsdata te beperkt zijn, te eenzijdig of te specifiek, past het model zich aan op de voorbeelden in plaats van op het bredere patroon. Dat heet overfitting. Het model presteert uitstekend op precies het type invoer dat in de fine-tuning-data voorkwam, en teleurstellend op alles wat er net van afwijkt.
Een concreet risico: een organisatie fine-tunet een model op honderd voorbeelden van klantvragen die allemaal in dezelfde stijl zijn geschreven. Het model leert die stijl reproduceren, maar verliest de flexibiliteit om met variaties om te gaan. Klanten die hun vraag anders formuleren, krijgen antwoorden die niet aansluiten.
De kunst van fine-tuning zit in de balans: genoeg voorbeelden om het gewenste gedrag aan te leren, voldoende variatie om het model flexibel te houden, en niet zoveel dat het model zijn bredere vaardigheden verliest.
Fine-tuning is een van de drie manieren waarop organisaties het gedrag van een AI-model kunnen bijsturen. De andere twee zijn prompting en RAG. Het onderscheid is belangrijk, want de keuze bepaalt de kosten, de complexiteit en het resultaat.
Prompting stuurt het gedrag van het model via de instructie die je meegeeft bij elke vraag. “Schrijf als een financieel adviseur.” “Geef antwoord in maximaal drie alinea’s.” “Baseer je uitsluitend op het bijgevoegde document.” Het model verandert niet. De sturing zit in de invoer.
Prompting is de snelste en goedkoopste manier om modelgedrag bij te sturen. Geen training nodig, geen dataset, geen technische infrastructuur. Het nadeel is dat je elke keer opnieuw moet sturen: het model “onthoudt” de instructie niet buiten de huidige sessie.
RAG (retrieval-augmented generation) stuurt het model door externe informatie mee te geven als context. Het model raadpleegt een externe bron, een database, een documentenset of een kennisbank, en baseert zijn antwoord op wat het daar vindt in combinatie met zijn eigen kennis. Het model verandert niet, de invoer wordt verrijkt.
RAG is de oplossing wanneer het model actuele of organisatiespecifieke informatie nodig heeft die niet in de pretraining-data zit. Geen training nodig, wel technische infrastructuur om de informatie beschikbaar te maken.
De keuze is niet of-of. In de praktijk worden alle drie de methoden gecombineerd. Maar als uitgangspunt geldt een vuistregel die in de praktijk goed werkt. Begin met prompting. Het is snel, goedkoop en verrassend effectief als je het zorgvuldig doet. Stap over op RAG wanneer het model informatie nodig heeft die buiten zijn kennis valt: actuele gegevens, interne documenten, domeinspecifieke databases. Overweeg fine-tuning pas wanneer je het gedrag van het model structureel wilt veranderen: de toon, het formaat, de manier waarop het met een specifiek type taak omgaat, op een manier die prompting niet kan bieden.
Fine-tuning is het zwaarste instrument. Het vereist een dataset, technische expertise, trainingsinfrastructuur en onderhoud. De drempel is hoger dan bij prompting of RAG, en het resultaat is pas beter als de dataset groot en kwalitatief genoeg is om het verschil te maken.
Het onderscheid tussen fine-tuning, prompting en RAG wordt concreet in de afwegingen die organisaties dagelijks maken.
Een zorginstelling wil dat een AI-model patiëntvragen beantwoordt in begrijpelijke taal, met een empathische toon die past bij de huisstijl van de instelling. De eerste aanpak was prompting: bij elke vraag een instructie meegeven over toon en stijl. Dat werkte, maar was inconsistent. Soms sloeg het model een zakelijkere toon aan als de vraag complex werd. De instelling besloot het model te fine-tunen op vijfduizend voorbeelden van goedgekeurde patiëntcommunicatie. Na fine-tuning is de toon consistent, zonder dat elke prompt uitgebreide stijlinstructies nodig heeft. De medische inhoud komt nog steeds uit het pretrained fundament, aangevuld met RAG op de eigen protocollen. Fine-tuning veranderde het gedrag, niet de kennis.
Een adviesbureau overweegt fine-tuning om het model te laten schrijven in de huisstijl van het bureau: kernachtige zinnen, specifieke structuurconventies, een herkenbare toon in offertes en rapporten. Na een proef met tweehonderd voorbeelden bleek het resultaat teleurstellend. Het model reproduceerde de stijl in de voorbeelden exact, maar verloor de flexibiliteit om met afwijkende opdrachten om te gaan. Een uitgebreide prompt met vijf voorbeelden van gewenste stijl leverde vergelijkbare resultaten op zonder de nadelen. Het bureau koos voor prompting en investeerde in een standaardprompt die medewerkers bij elke opdracht gebruiken. Fine-tuning was hier niet de oplossing, omdat de dataset te klein was en het gewenste effect via prompting bereikbaar bleek.
Een freelance vertaler gebruikt een model voor het vertalen van technische handleidingen van het Engels naar het Nederlands. Het standaardmodel produceert vertalingen die grammaticaal correct maar stilistisch vlak zijn: te formeel, te letterlijk, soms met anglicismen. Via prompting verbetert de kwaliteit, maar bij elk nieuw document moet ze opnieuw uitleggen welke terminologie ze hanteert en welke stijl ze verwacht. Ze overweegt fine-tuning op haar eigen portfolio van vierhonderd goedgekeurde vertalingen. De afweging: is de tijdsbesparing per vertaling groot genoeg om de eenmalige investering in fine-tuning te rechtvaardigen? Bij haar volume is het antwoord ja. Bij iemand die incidenteel vertaalt, waarschijnlijk niet.
Wie wil begrijpen hoe modelbouwers bepalen welk gedrag een model moet vertonen en hoe preference learning en alignment een model vaardig én verantwoord maken, leest verder bij Alignment (cluster 2.3b).
Wie wil weten hoe het pretrained basismodel wordt opgebouwd dat als grondstof dient voor fine-tuning, vindt dat bij Pretraining: het fundament bouwen (cluster 2.2).
Wie wil weten hoe prompting werkt en welke technieken beschikbaar zijn om het gedrag van een model bij te sturen zonder het model te veranderen, leest verder bij Wat is prompting? (cluster 3.1).