Wat als AI zichzelf bouwt?

In mei schreef Claude meer dan tachtig procent van alle nieuwe code in de eigen broncode van Anthropic. Claude was de schrijvende hand, de mens de opdrachtgever en controleur. Anthropic publiceerde die cijfers in een stuk dat verder kijkt dan de techniek: als AI steeds meer van zijn eigen ontwikkeling overneemt, ontstaat op termijn iets dat onderzoekers recursieve zelfverbetering noemen, AI die zijn eigen, betere opvolger ontwerpt. Het bedrijf vraagt om afspraken over hoe ver en hoe snel dit mag, tot en met een tijdelijke pauze. Voor wie een organisatie aanstuurt, verschuift de vraag daarmee van techniek naar regie: wie houdt grip op een ontwikkeling die zichzelf versnelt, en wie wordt er beter van?

Wat Anthropic precies meldt, en waarom het opvalt

De cijfers komen uit een stuk van het Anthropic Institute, geschreven door Marina Favaro en Jack Clark, getiteld "When AI builds itself". De kern in één zin: het bedrijf besteedt een groeiend deel van zijn eigen AI-ontwikkeling uit aan AI, en dat versnelt het werk. Sinds mei wordt meer dan tachtig procent van de code die in de broncode belandt door Claude geschreven. Een ontwikkelaar levert er gemiddeld acht keer zoveel werk per kwartaal als in de periode 2021 tot 2025. De mens bepaalt nog wat er moet gebeuren en keurt het resultaat, maar het uitvoerende werk verschuift naar de machine.

Anthropic plaatst er zelf een kanttekening bij die je niet vaak hoort van een bedrijf dat zijn eigen vooruitgang aankondigt. Het aantal regels code is een ruwe maat, en die "acht keer" overdrijft de werkelijke productiviteitswinst vrijwel zeker. Toch is de richting volgens het bedrijf onmiskenbaar. Een tweede meetpunt onderbouwt dat: de lengte van klussen die AI zelfstandig kan afronden verdubbelt ongeveer elke vier maanden. Een jaar geleden ging het om taken van een uur, nu om klussen die een hele werkdag beslaan. Zet die lijn door en taken van weken komen binnen enkele jaren in beeld.

Wat het stuk bijzonder maakt is niet de techniek, maar de boodschap eronder. Anthropic pleit ervoor dat de industrie afspraken maakt over de snelheid van deze ontwikkeling, met een tijdelijke pauze als optie. Co-oprichter Jack Clark vatte het probleem scherp samen: de AI-industrie heeft een gaspedaal, maar geen rempedaal. Een bedrijf dat zijn eigen technologie zo gevaarlijk noemt dat de wereld op de rem moet kunnen trappen, dat is geen alledaagse aankondiging.

Recursieve zelfverbetering, zonder het jargon

Recursieve zelfverbetering klinkt als sciencefiction, maar het idee is simpel. Een AI die goed genoeg wordt in het bouwen van AI, kan een betere opvolger ontwerpen. Die opvolger is weer beter in datzelfde werk en ontwerpt een nóg betere versie. Zo ontstaat een lus die zichzelf voedt en in tempo oploopt, zonder dat een mens elke stap nog aanstuurt. Anthropic is duidelijk: zover zijn we niet, en onvermijdelijk is het evenmin. Maar het zou sneller kunnen komen dan instituties kunnen bijbenen.

Om grip te geven op die onzekerheid schetst het bedrijf drie scenario's. In het eerste vlakt de vooruitgang af en raakt de AI van nu breed ingeburgerd in de samenleving, zonder grote nieuwe sprongen. In het tweede blijven de efficiëntiewinsten zich opstapelen: AI neemt steeds meer onderzoeks- en ontwikkeltaken over, terwijl mensen de richting bepalen en de criteria voor succes vaststellen. Anthropic schat dat de eigen cijfers het meest op dit tweede scenario wijzen. In het derde wordt volledige recursieve zelfverbetering werkelijkheid en bouwt AI zijn eigen opvolgers, met de mens in een rol die dichter bij toezichthouder en beoordelaar ligt dan bij maker. Dat derde scenario noemt het bedrijf mogelijk, niet waarschijnlijk.

De waarde van die driedeling zit in de nuchterheid. Het bedrijf doet geen voorspelling dat de machines het overnemen, maar een eerlijke poging om te benoemen welke kant het op kan gaan en hoe zeker dat is. Voor wie strategische beslissingen neemt is dat bruikbaarder dan een stellige claim, omdat het ruimte laat om op meerdere uitkomsten voor te bereiden.

Waarom een pauze makkelijker gezegd is dan gedaan

De oproep tot een mogelijke pauze draagt een voorwaarde die het meteen ingewikkeld maakt. Een pauze werkt alleen als alle grote spelers meedoen, ook de bedrijven die hun modellen openbaar weggeven en de labs buiten het Westen. En er moet wederzijdse controle zijn, zodat elke partij kan zien dat de ander zich aan de afspraak houdt. De vergelijking met wapenbeheersing dringt zich op: zulke verdragen werken wanneer ze werken door inspectie en gevolgen voor wie vals speelt, niet door goede bedoelingen.

Daar zit precies de moeilijkheid. Anthropic erkent zelf dat het toezicht op AI-ontwikkeling lastiger is dan bij klassieke wapenbeheersing. Een trainingsrun is eenvoudiger te verbergen dan een rakettenfabriek. En de speltheorie is meedogenloos: stopt het ene lab terwijl de andere doorgaan, dan verschuift alleen wie er voorop loopt, zonder dat er iets veiliger wordt. Het voorzichtige bedrijf raakt achterop, het roekeloze pakt de markt. Dat maakt eenzijdig remmen onaantrekkelijk en gecoördineerd remmen moeilijk te organiseren.

Toch staat Anthropic niet alleen met de waarneming. OpenAI wees in een eigen beleidsstuk op dezelfde lus en zag de eerste tekenen in de huidige systemen. Het Chinese MiniMax meldt een vergelijkbare versnelling, en er duiken start-ups op die zich volledig richten op AI die zichzelf verbetert. Het signaal komt dus van meer kanten dan de marketingafdeling van één lab.

Lees het met beide ogen open

Een gezonde dosis scepsis hoort erbij. Techanalist Alberto Romero leest het statement vooral als slimme marketing in de verpakking van een politieke oproep. Anthropic koerst richting een beursgang en wordt rond een biljoen dollar gewaardeerd. Het bedrijf pleit al jaren voor overheidstoezicht, toezicht dat in de praktijk vooral de gevestigde spelers beschermt. Wie roept dat zijn eigen technologie zó krachtig is dat ze gevaarlijk wordt, verkoopt en passant hoe machtig die technologie is. De cijfers zijn bovendien door het bedrijf zelf gerapporteerd en niet onafhankelijk gecontroleerd, en ze leunen deels op een experimenteel model, Mythos, dat niet publiek beschikbaar is.

Tegelijk is het te makkelijk om het daarmee af te doen. De onderliggende vooruitgang lijkt echt. Datzelfde Mythos baarde overheden genoeg zorgen dat de EU er wekenlang over onderhandelde voor toegang. Cijfers van onderzoeksbureau Epoch AI laten een stijging zien van het aantal ernstige softwarekwetsbaarheden dat wordt gevonden, een stijging die samenvalt met de komst van krachtige beveiligingsmodellen, al is een direct oorzakelijk verband niet bewezen. De waarheid ligt waarschijnlijk in het midden: een commercieel belang én een reële versnelling kunnen allebei waar zijn. De juiste leeshouding is daarom duiding. Niet als sciencefiction, en niet als verkooppraatje.

Dit raakt een patroon dat we vaker zien: vertrouwen in AI groeit sneller dan de betrouwbaarheid, juist op het moment dat fouten subtieler worden en moeilijker te herkennen. Waarom dat een onderschat risico is, werkten we eerder uit.

Wie wordt hier beter van?

Hier wordt het stuk concreet, en politiek. Tot nu toe kost AI nauwelijks banen. Het effect zit vooral in bedrijven die groeien zonder nieuwe mensen aan te nemen. Maar als AI steeds meer werk overneemt, wordt de vraag onvermijdelijk bij wie de welvaart terechtkomt die zo ontstaat. Die vraag belandde deze week op de politieke agenda. Senator Bernie Sanders bepleit dat het publiek een belang van vijftig procent neemt in AI-bedrijven, met de opbrengst in een publiek welvaartsfonds. Sam Altman van OpenAI steunt het idee in principe, maar niet dat percentage. Zelfs president Trump opperde een "partnerschap met het Amerikaanse volk", waarbij OpenAI aandelen zou wegschenken aan de federale overheid om een fonds te voeden dat burgers laat meedelen in de winst.

Ook in Europa speelt de vraag wie zeggenschap heeft. De Europese Commissie kwam met een voorstel om de grote Amerikaanse cloudbedrijven te weren bij de gevoeligste overheidsopdrachten en de Europese datacentercapaciteit in zeven jaar te verdrievoudigen. Het Verenigd Koninkrijk richtte een staatsfonds van 500 miljoen pond op om in eigen AI-bedrijven te investeren. In één week verschoof de vraag wie de vruchten plukt van de marge naar het hart van de politiek.

Voor wie een organisatie aanstuurt is dat geen ver-van-mijn-bedshow. Het laat zien dat de discussie over AI van techniek naar verdeling kantelt: over werk, over zeggenschap en over wie meedeelt in de winst. Dat is dezelfde dubbele beweging die we eerder op de arbeidsmarkt zagen, waar bedrijven tegelijk schrappen en uitbreiden. Waarom automatiseren in de praktijk vaak juist meer expertwerk oplevert, lees je hier.

Wat dit betekent voor jouw organisatie

De grote vraag, of de machines het overnemen, is er een waar een directie weinig mee kan. Die wordt op het niveau van labs en overheden beslecht. De vraag waar je wél iets mee kunt is kleiner en directer: hoe houd je grip op een technologie die sneller verandert dan je governance kan bijhouden? Want het patroon dat Anthropic intern beschrijft, de mens die opschuift van uitvoerder naar opdrachtgever en controleur, speelt al in je eigen organisatie zodra je AI serieus inzet.

Drie dingen zijn het overwegen waard. Ten eerste verschuift de waarde van AI naar het beoordelen van output. Het maken ervan besteed je steeds vaker uit aan de machine. Naarmate AI meer werk zelfstandig afrondt, wordt de schaarse vaardigheid het vermogen om snel en betrouwbaar te controleren of het klopt. Organiseer dat je mensen die rol aankunnen en dat ze er de tijd voor krijgen, in plaats van die controle stilzwijgend te laten verdampen onder productiedruk.

Ten tweede: snelheid van adoptie en snelheid van governance lopen uiteen, en dat gat is jouw risico. Anthropic vraagt op industrieniveau om een rempedaal omdat de ontwikkeling de instituties voorbijdreigt te lopen. Datzelfde geldt in het klein: als medewerkers sneller nieuwe AI-tools in gebruik nemen dan jij kaders kunt stellen, verlies je het overzicht. Hoe je die twee bewegingen, eigen experimenten en organisatieregie, naast elkaar laat bestaan zonder te hoeven kiezen, werkten we uit in een aparte analyse.

Ten derde: de vraag wie beter wordt van AI is ook een interne vraag. Op macroniveau gaat het over welvaartsfondsen en overheidsbelangen. Binnen je eigen muren gaat het over of de tijdwinst van AI terugvloeit naar je mensen en je ambitie, of alleen naar de onderste regel van de balans. De bedrijven die hun mensen behouden en de vrijgekomen ruimte in grotere ambitie steken, bouwen iets duurzamers dan wie alleen snijdt.

De rode draad is regie. Niet de illusie dat je een mondiale technologierace kunt sturen, maar de nuchtere vraag of jouw organisatie grip houdt op wat AI bij jou doet: wie controleert, wie beslist, en wie meedeelt. Dat is de versie van het pauzedebat die op jouw directietafel thuishoort.

Wil je weten hoe regie op AI er voor jouw organisatie concreet uitziet? Plan een kennismaking in, we denken graag mee.