Hoe train je een klein AI-model dat groot presteert?

LinkedIn werkt al vijftien jaar aan aanbevelingsalgoritmes, maar voor de volgende generatie systemen liepen de eisen op snelheid en kwaliteit te ver op om met standaard prompting op te lossen. Het bedrijf koos een aanpak die inmiddels ook academisch onderbouwd is: Multi-Teacher On-Policy Distillation, of MOPD. Twee gespecialiseerde leraren-modellen, ieder getraind op een eigen taak, brengen hun kennis samen in één klein studentmodel. Het productteam schreef een uitgebreid beleidsdocument dat de eerste leraar aanstuurde, terwijl een tweede leraar leerde van historisch klikgedrag. Beide leraren trainden vervolgens één compact model dat sneller draait en beter presteert dan wat losse modellen konden leveren.

Waarom niet gewoon één groot model

De verleiding is groot om aan te nemen dat een groter model altijd het antwoord is. Voor productiesystemen die miljarden verzoeken per dag afhandelen, botst dat op harde kosten. Een groot generalistisch model is duur om te draaien, traag in antwoorden en moeilijk te specialiseren op één taak. Een klein model daarentegen kan snel en goedkoop draaien, maar mist zonder gerichte training de nuance die je zoekt.

MOPD ontsnapt aan die keuze door de kennis van meerdere gespecialiseerde leraren te destilleren in één compact model. Elke leraar wordt eerst getraind op zijn eigen deeltaak, met reinforcement learning. Vervolgens genereert het studentmodel zelf antwoorden, en corrigeren de leraren die antwoorden waar nodig. Het studentmodel leert dus niet blind na te doen, maar leert van feedback op zijn eigen output. Dat blijkt in de praktijk beter te werken dan één groot model op meerdere taken tegelijk trainen.

Voor LinkedIn was de opbrengst dubbel. Het productiesysteem werd sneller en goedkoper. Tegelijkertijd verbeterde de kwaliteit van aanbevelingen, omdat elke leraar zich kon toeleggen op één ding en dat goed. Dezelfde logica geldt breder: gebruik AI selectief voor het werk waar oordeel telt en houd de rest simpel.

Wat er verandert aan de samenwerking

Het beleidsdocument dat de eerste leraar aanstuurde is meer dan een technische input. Het is een uitgeschreven visie op wat een goede aanbeveling is: welke content krijgt voorrang, welke signalen tellen zwaar en waar moet het systeem juist voorzichtig zijn. Dat document werd geschreven door productmanagers, niet door data scientists. Vervolgens werd het als leidraad ingezet om een model te trainen.

Die volgorde verandert de rolverdeling tussen product en techniek. In een klassieke ML-workflow leverde het productteam requirements aan, en vertaalde het techniekteam die naar features en labels. Bij MOPD schrijft het productteam de leraar zelf. De inhoudelijke visie zit direct in het model, zonder tussenlagen die de nuance uitwissen. Dat vraagt dat productmensen leren precies opschrijven wat ze bedoelen, in een vorm die een taalmodel begrijpt. En het vraagt dat techniekmensen accepteren dat een deel van de intelligentie in het systeem uit een tekst komt, niet uit code.

Wat dit voor jouw organisatie kan betekenen

De meeste organisaties draaien geen aanbevelingssystemen op LinkedIn-schaal. Toch is de onderliggende beweging herkenbaar. Steeds vaker wil je een compact, snel en goedkoop AI-systeem dat exact één ding goed doet: offertes classificeren, klantvragen routeren, contracten samenvatten. Voor dat soort taken is een frontier-model overkill. Een kleiner model dat zorgvuldig is getraind op de eigen context, presteert op de specifieke taak minstens even goed en kost een fractie.

Drie punten zijn dan relevant. Ten eerste: schrijf op wat goed betekent voor jouw taak. Een expliciet beleidsdocument dwingt je om vaag beleid concreet te maken en levert tegelijkertijd de leraar op waarmee je een klein model kunt trainen. Ten tweede: verzamel signalen uit je eigen data. Klikgedrag, correcties door medewerkers of afwijzingen door reviewers zijn even goede leraren als expertkennis. Ten derde: kies het studentmodel dat past bij de omvang van je verkeer. Voor de meeste zakelijke toepassingen is een klein open model, gedraaid op eigen infrastructuur, ruim voldoende.

De richting sluit aan op wat we vaker zien in 2026. De beweging gaat naar kleinere, specialistische modellen die dicht op je eigen context zitten, niet naar één alwetend generalistisch model. En zoals we eerder schreven: de meeste AI-projecten hebben helemaal geen complex agentsysteem nodig. Een compact model dat zijn taak beheerst, is vaak de beste keuze.

Waar Dubbel.ai mee kan helpen

Wij bouwen voor klanten precies dit type oplossingen: een compact AI-systeem dat past bij één afgebakende taak, met een expliciet beleid dat de kwaliteit vastlegt en met signalen uit je eigen data die het model scherp houden. Wil je weten waar in jouw organisatie een specialistisch model meer oplevert dan een generieke chatbot? Plan een kennismaking in, we denken graag mee.