Weet jij hoe veilig je AI-agent is?

AI-agenten boeken reizen, vullen formulieren in en beheren agenda's. Het gebruik groeit snel, maar de transparantie over veiligheid blijft achter. Onderzoekers van de Universiteit van Cambridge analyseerden dertig toonaangevende AI-agenten en vonden een zorgwekkend patroon: ontwikkelaars delen uitgebreid wat hun software kan, maar verzwijgen wat er mis kan gaan.

De cijfers zijn ontnuchterend. Van de dertig onderzochte agenten publiceren er slechts vier specifieke veiligheidsdocumenten. Vijfentwintig delen geen interne testresultaten. Drieëntwintig bieden geen data van onafhankelijke veiligheidstests. De onderzoekers noemen dit 'safety washing': de suggestie wekken dat veiligheid serieus wordt genomen, terwijl de onderbouwing ontbreekt.

Het probleem zit in een blinde vlek. Veel ontwikkelaars richten hun veiligheidscommunicatie op het taalmodel dat onder de agent draait. Dat model is getest op bias, toxiciteit en hallucinaties. Maar de agent zelf, het systeem dat daadwerkelijk handelt in de echte wereld, blijft buiten schot. Zoals onderzoeksleider Leon Staufer het formuleert: de agent die jouw creditcard gebruikt om een vlucht te boeken, is een ander systeem dan het taalmodel dat een antwoord genereert. De risico's zijn fundamenteel anders.

Vooral bij AI-gestuurde browsers is het gebrek aan transparantie groot. Deze agenten klikken, scrollen en vullen formulieren in namens de gebruiker. Van alle onderzochte categorieën scoren browser-agenten het slechtst: 64 procent van de veiligheidsgebieden wordt niet gedocumenteerd. Dat is problematisch, want juist deze agenten opereren in een omgeving waar ze toegang hebben tot gevoelige data en financiële transacties.

Voor organisaties die AI-agenten overwegen of al inzetten, is de les helder: vraag niet alleen wat een agent kan, maar ook wat de ontwikkelaar heeft gedaan om te testen wat er misgaat. De veiligheidsrisico's van autonome AI-systemen verdwijnen niet door ze te negeren. Een agent zonder gepubliceerde veiligheidsresultaten is geen veilige agent, het is een agent waarvan je de risico's niet kent. Dat verschil is wezenlijk als je deze technologie loslaat op je bedrijfsprocessen.

Het Cambridge-onderzoek pleit voor een standaard waarbij agent-specifieke veiligheidsdocumenten, zogeheten system cards, verplicht worden. Vergelijkbaar met hoe je van een auto verwacht dat die een crashtest heeft doorstaan voordat je erin stapt. Behandel AI-agenten als krachtige gebruikers van je systemen, niet als onschuldige chatbots. De spelregels moeten helder zijn voordat je processen uitbesteedt.