Stop met denken in gesprekken en begin met denken in beslissingen

Stel dat een AI-beslissing minder kost dan een muisklik en sneller terugkomt dan je kunt knipperen. Wat zou je dan anders organiseren? Die vraag beantwoordt ontwikkelaar John Lindquist in de podcast How I AI met acht demo's van Jev, het beslismodel van TypeSafe AI. Zijn voorbeelden lopen van een takenlijst die je inspreekt tot agents die elkaar ontwijken. Voor wie leiding geeft aan een organisatie is de rode draad interessanter dan de losse demo's: overal waar een medewerker of een systeem nu wacht op een keuze, valt die wachttijd weg. Dat maakt processen mogelijk die tot voor kort te traag of te duur waren om serieus te overwegen.

Een AI die kiest in plaats van schrijft raakt je hele proces

Jev is geen chatbot. Wie het model is en waarom een van de makers van ChatGPT het bouwde, schreven we eerder. In één zin: je geeft Jev een lijst met mogelijke antwoorden, het model kiest er een en zegt erbij hoe zeker het is. Een tekst schrijven kan het niet. Volgens TypeSafe komt een antwoord binnen 70 tot 500 milliseconden terug en kost invoer 0,042 dollar per miljoen tokens. Uitvoer is gratis.

Vergelijk het met een ervaren baliemedewerker die elke binnenkomende vraag in één oogopslag naar het juiste loket stuurt. Die medewerker schrijft geen memo over waarom, hij wijst. Dat wijzen doet Jev, honderden keren per seconde, voor bijna niets.

Lindquist, oprichter van het leerplatform egghead.io, noemt Jev daarom een decision engine. Zijn punt: zodra je stopt met denken in gesprekken en begint met denken in beslissingen, zie je ineens overal in je organisatie plekken waar zo'n model past. Dat is een andere blik dan de meeste directies nu hanteren, waar AI vooral gelijkstaat aan een assistent die teksten produceert.

Zodra je stopt met denken in gesprekken en begint met denken in beslissingen, zie je ineens overal in je organisatie plekken waar zo'n model past

Drie soorten waarde in de demo's van Lindquist

De acht demo's lijken op het eerste gezicht een grabbelton (een schaakpartij, een route door Wikipedia, een presentatiecoach). Kijk je naar wat ze voor een organisatie opleveren, dan vallen ze uiteen in drie groepen.

Een medewerker praat, het systeem handelt direct

De eerste demo is een takenlijst die je inspreekt. Jev herkent wat je bedoelt ("verplaats dit naar morgen", "maak hier een prioriteit van") en voert het uit zonder merkbare pauze. In een tweede demo typt een gebruiker gewone taal in een boodschappen-app en vertaalt Jev dat naar de juiste functie in de software. Een derde demo gaat een stap verder: één zin brengt een gebruiker langs meerdere schermen diep in een applicatie, omdat Jev per laag opnieuw kiest waar je heen moet.

Dus: de interface verandert. Een medewerker hoeft geen menu's meer te leren. Voor een organisatie met een intern systeem waar nieuwe collega's weken op inwerken, is dat concreet geld. Denk aan een klantenservice die in een CRM werkt, een redactie in een CMS of een logistieke afdeling in een planningstool. Als "zet deze order op wacht" gewoon werkt, verdwijnt een deel van de training en een deel van de fouten.

Dubbele records opruimen, met een score erbij

De tweede groep gaat over data. Lindquist laat Jev rommelige records vergelijken en beoordelen of twee regels over dezelfde klant, hetzelfde product of hetzelfde adres gaan. Het model doet dat in milliseconden en geeft per paar een zekerheidsscore. Boven een drempel voeg je samen, daaronder kijkt iemand mee.

Elke organisatie met een CRM van meer dan een paar jaar oud kent het probleem. Dubbele klanten, adressen met een typefout, dezelfde leverancier onder drie namen. Opruimen is saai werk dat altijd wordt uitgesteld. Met een taalmodel was het te duur om alle paren te vergelijken, met een harde regel te dom. Nu kan het wel. Dat maakt datakwaliteit, een harde randvoorwaarde voor elke AI-toepassing die erna komt, ineens een klus van een middag.

Agents die kiezen uit een lijst in plaats van een leeg vel

De derde groep is de meest technische en zegt het meest over wat er komt. Lindquist laat zien dat een webpagina voor een agent bestaat uit een beperkte set knoppen en velden. Een agent kiest dus gewoon de volgende klik uit dat lijstje, zonder eerst een verhaal te schrijven over wat hij van plan is. Hetzelfde principe zit in zijn demo waarin meerdere agents tegelijk bewegen zonder tegen elkaar op te botsen. Elke stap is een keuze uit een klein lijstje.

Voor wie overweegt agents in te zetten, zit hier een les die verder gaat dan Jev. Hoe kleiner de keuzeruimte per stap, hoe betrouwbaarder en goedkoper de agent. Vaak volstaat daarom een vaste workflow met een paar beslispunten, in plaats van een agent die alles zelf mag bedenken.

Wat een schaakpartij vertelt over de grens van een beslismodel

De leukste demo is ook de eerlijkste. Lindquist laat Jev schaken tegen een gewoon taalmodel met weinig redeneerkracht. Jev zet razendsnel en voor een fractie van de kosten. Maar schaken vraagt vooruitdenken. Dat kan een model dat per zet uit een lijst kiest niet. Kijk, daar zit precies de grens. Voor beslissingen die je in één keer kunt nemen, wint Jev het op snelheid en prijs. Voor alles wat een redenering van meerdere stappen vraagt, heb je nog steeds een groot taalmodel nodig.

Lindquist heeft daar een werkpatroon voor: meerdere Jev-beslissingen achter elkaar schakelen als één keuze niet genoeg is en pas een groot model erbij halen als het echt moet. Hoe die taakverdeling tussen beslismodel en taalmodel er in een softwarepipeline uitziet, staat in ons stuk voor softwareteams.

Waar je in je eigen organisatie de beslisstappen vindt

Je hoeft geen ontwikkelaar te zijn om hier morgen iets mee te doen. De vraag die je aan je teams kunt stellen is simpel: waar kiest iemand nu uit een vast lijstje en hoe vaak per dag? Een paar plekken waar wij dat bij klanten tegenkomen:

• Binnenkomende mail, tickets en formulieren die iemand handmatig naar de juiste afdeling stuurt.

• Artikelen, producten of dossiers die een categorie, tag of rubriek moeten krijgen.

• Aanvragen en leads die een eerste inschatting krijgen voordat een verkoper ernaar kijkt.

• Controles of iets compleet, veilig of conform beleid is voordat het verder mag.

Elk van die stappen is een beslissing. Nu kost hij een paar minuten per keer van een mens, of een paar seconden en een paar dollarcent van een taalmodel. Straks kost hij een fractie daarvan. En dan gebeurt wat Almeida, de oprichter van TypeSafe, verwacht: als een beslissing bijna niets kost, ga je hem veel vaker nemen. Een archief dat je nooit hebt gelabeld omdat het te duur was. Een lead-score voor elke aanvraag in plaats van alleen de grote. Een controle op elke uitgaande mail in plaats van een steekproef.

Aan de ene kant is dat winst: werk dat bleef liggen wordt gedaan. Aan de andere kant vraagt het iets van je organisatie. Iemand moet de categorieën bepalen, de drempels kiezen en de uitzonderingen afhandelen. Dat begint bij de afwegingen van je beste mensen, want de kwaliteit van de lijst met opties bepaalt de kwaliteit van elke beslissing die eruit rolt.

De haken: early access, geen uitleg en Amerikaanse servers

Er zitten haken aan. Jev is sinds half september in early access, achter een wachtlijst. De prestatiecijfers komen grotendeels van TypeSafe zelf (het bedrijf is daar open over). De dienst draait vanuit de Verenigde Staten, dus voor klantdata speelt onder de AVG de vraag waar persoonsgegevens terechtkomen.

De belangrijkste haak voor een leidinggevende is een andere. Jev geeft een keuze en een percentage. Een reden geeft het niet. Voor het routeren van een ticket is dat prima. Voor een beslissing over een persoon, zoals het afwijzen van een aanvraag of het beoordelen van een sollicitant, wil je onder de AI Act en tegenover je klant kunnen uitleggen waarom. Dat kan dit model niet. Houd zulke beslissingen dus bij een mens of bij een model dat zijn redenering wél opschrijft en zet Jev in voor het sorteerwerk ervoor.

De les uit de aflevering van Lindquist: de lage kosten maken ideeën die eerder onpraktisch waren ineens de moeite van het proberen waard. Welke beslissing in jouw organisatie blijft nu liggen omdat hij te vaak voorkomt om te automatiseren? Wil je samen uitzoeken waar zo'n beslisstap in jouw processen past? Plan een kennismaking in.