Machine learning en deep learning

Elk AI-systeem lost een probleem op. De vraag is hoe. De eerste generatie AI-systemen deed dat met regels die mensen hadden geschreven. Een programmeur analyseerde het probleem, bedacht de oplossing, en codeerde die stap voor stap. Als het bedrag hoger is dan duizend euro én de transactie in het buitenland plaatsvindt, markeer als verdacht. Als de patiënt koorts heeft én de bloedwaarden afwijken, overweeg diagnose X.

Dat werkte zolang het probleem overzichtelijk was. Maar de wereld zit vol situaties die te complex, te veranderlijk en te genuanceerd zijn om in regels te vangen. Fraudeurs veranderen hun gedrag. Ziektebeelden wijken af van het leerboek. Taal zit vol dubbelzinnigheid.

De oplossing was een fundamenteel andere aanpak. Schrijf geen regels meer. Lever voorbeelden aan. Laat het systeem zelf ontdekken welke patronen erin zitten. Geef een systeem honderdduizend e-mails waarvan bekend is welke spam zijn, en het vindt zelf de kenmerken die spam onderscheiden van gewone post. Geef het tienduizend röntgenfoto’s waarvan bekend is welke een afwijking tonen, en het leert zelf de visuele patronen die op een afwijking wijzen.

Die verschuiving van regels naar patronen heet machine learning. Het is de belangrijkste koerswijziging uit de AI-geschiedenis, en het fundament waarop alle moderne AI is gebouwd.

Hoe dat werkt

Machine learning is een verzameling technieken waarbij een systeem patronen leert herkennen in data, zonder dat die patronen vooraf door een mens zijn gespecificeerd. Het kernmechanisme is training: het systeem verwerkt herhaaldelijk voorbeelden, vergelijkt bij elk voorbeeld de eigen uitkomst met de werkelijke uitkomst, en stelt bij elke fout de interne instellingen bij. Na genoeg herhalingen liggen die instellingen zo dat het systeem nieuwe, onbekende gevallen met hoge nauwkeurigheid kan beoordelen.

Die interne instellingen heten parameters. Een modern AI-systeem heeft er miljarden. Elk getal in die miljarden is het resultaat van het trainingsproces: het vastleggen van patronen uit de voorbeelden in een vorm die het systeem later kan toepassen.

Het resultaat is een model. Een getraind model is een systeem dat nieuwe invoer kan beoordelen op basis van patronen die het tijdens training heeft vastgelegd. Een spamfilter dat nieuwe e-mails classificeert. Een systeem dat frauduleuze transacties signaleert. Een model dat voorspelt welke klanten waarschijnlijk opzeggen.

→ Lees meer: Wat is machine learning?

Machine learning werkte uitstekend voor problemen met gestructureerde data: tabellen, cijfers, categorieën. Maar voor het type invoer dat mensen instinctief verwerken, een foto herkennen, een gesproken zin verstaan, een tekst begrijpen, schoot de aanpak tekort.

Het probleem zat in een stap die van buitenaf onzichtbaar was. Bij klassieke machine learning moest een mens vooraf bepalen welke kenmerken het model als invoer kreeg. Bij een fraudemodel: het bedrag, het tijdstip, de locatie. Die selectie werkte bij tabellen. Maar bij een foto zijn de ruwe gegevens miljoenen pixels met kleurwaarden. Welke kenmerken selecteer je daar? Die vraag bleek onbeantwoordbaar met de beschikbare technieken.

Lagen van abstractie

Deep learning loste dat op met een elegant idee: stapel meerdere verwerkingslagen op elkaar en laat het systeem zelf ontdekken welke kenmerken ertoe doen.

De eerste laag herkent de meest basale structuren: randen, contrasten, kleurovergangen. De tweede laag combineert die tot vormen. De derde herkent onderdelen van objecten. Hogere lagen brengen het samen tot herkenning van complete objecten, gezichten of scènes. Elke laag bouwt voort op wat de vorige heeft gevonden. Elke laag herkent iets abstracter. Aan het einde staat een systeem dat niet naar pixels kijkt, maar naar betekenis.

Deep learning is een vorm van machine learning die gebruikmaakt van neurale netwerken met meerdere verwerkingslagen. De term “deep” verwijst naar de diepte van het netwerk: het aantal lagen. Hoe meer lagen, hoe complexer de patronen die het systeem kan herkennen. Die eigenschap maakte het mogelijk om beelden te herkennen, spraak te verwerken, tekst te genereren, en uiteindelijk de AI-systemen te bouwen die vandaag taal produceren op het niveau van Claude, ChatGPT en Gemini.

→ Lees meer: Wat is deep learning?

De verhouding tussen machine learning en deep learning is die van een vakgebied en zijn krachtigste instrument. Machine learning is het brede veld: alle technieken waarbij een systeem patronen leert uit data. Deep learning is een specifieke aanpak daarbinnen, die neurale netwerken met meerdere lagen gebruikt.

Alle deep learning is machine learning. Niet alle machine learning is deep learning. Voor gestructureerde data, tabellen met cijfers en categorieën, werken klassieke machine-learning-technieken vaak even goed of beter dan deep learning, en zijn ze sneller en transparanter. Deep learning is het gereedschap dat machine learning de kracht gaf om met ongestructureerde data te werken: tekst, beeld, geluid en video.

Elk modern AI-systeem dat taal verwerkt of beelden genereert, is een deep-learning-model. De architectuur is veranderd (de transformer, geïntroduceerd in 2017, heeft eerdere ontwerpen grotendeels vervangen), maar het onderliggende principe is hetzelfde gebleven: patronen herkennen via meerdere lagen in een neuraal netwerk.

Wie wil begrijpen hoe het trainingsmechanisme van machine learning precies werkt, welke soorten machine learning er zijn en waarom data zo bepalend is, leest verder bij Wat is machine learning?

Wie wil weten hoe neurale netwerken werken, waarom lagen van abstractie zo krachtig zijn en wat schaal betekent voor de kwaliteit van een model, vindt dat bij Wat is deep learning?

Wie wil zien hoe machine learning en deep learning historisch zijn ontstaan, leest Machine learning: van regels naar patronen en Deep learning: de doorbraak die alles veranderde bij cluster 1.2.