MIT brengt 1200 AI-incidenten in kaart
MIT FutureTech catalogiseerde 1.300 AI-incidenten op risico, schade en EU AI Act-classificatie. Een startpunt voor feitelijk risicomanagement rond AI.
Onderzoekers van MIT FutureTech hebben een openbare database gelanceerd waarin meer dan 1.300 AI-incidenten zijn gecategoriseerd op basis van risico, schade en EU AI Act-classificaties. De tracker biedt organisaties voor het eerst een gestructureerd startpunt om risicomanagement rond AI te baseren op feiten in plaats van op onderbuikgevoel.
Wat de tracker laat zien
Het MIT-team heeft incidenten uit de AI Incident Database (AIID) systematisch geanalyseerd en ingedeeld in 24 subdomeinen. De classificatie volgt meerdere kaders tegelijk: de eigen MIT Risk Repository-taxonomie, de CSET AI Harm Taxonomy met tien schadecategorieën, de risiconiveaus uit de EU AI Act, en een aparte beoordeling op nationale veiligheid. Die combinatie maakt het mogelijk om hetzelfde incident vanuit verschillende perspectieven te bekijken.
Enkele patronen vallen op. Het aantal gemelde incidenten stijgt jaar over jaar. De categorieën 'misinformatie' en 'kwaadwillig gebruik' groeien het snelst. En systeemveiligheid, fouten in het ontwerp of de werking van AI-systemen, is een terugkerend thema. Het zijn signalen die relevant zijn voor elke organisatie die AI inzet in processen waar fouten consequenties hebben.
De onderzoekers hebben voor de analyse zelf ook taalmodellen ingezet om de ruwe incidentmeldingen te verwerken en te categoriseren. Die aanpak past bij de schaal van het project: meer dan 1.300 incidenten handmatig classificeren langs vier taxonomieën is niet haalbaar. De methodologie bouwt voort op een eerdere review van meer dan 700 risico's uit 43 bestaande frameworks.
Waarom dit relevant is voor risicomanagement
De meeste organisaties beoordelen AI-risico's op basis van wat ze in de media tegenkomen of wat hun leverancier vertelt. Dat levert een vertekend beeld op. De MIT-tracker maakt het mogelijk om systematisch te kijken: welk type incidenten komt het vaakst voor, in welke sectoren, en hoe ernstig zijn de gevolgen?
Die informatie is direct bruikbaar. Een organisatie die AI inzet voor klantcommunicatie kan gericht zoeken naar incidenten in vergelijkbare toepassingen. Dat is extra urgent nu blijkt dat de meeste AI-agenten nauwelijks veiligheidsdocumentatie publiceren. De tracker vult een deel van dat informatiegat met concrete, gecategoriseerde voorbeelden van wat er in de praktijk misgaat.
De onderzoekers zijn transparant over de beperkingen: de data is gebaseerd op vrijwillige meldingen, waardoor niet alle incidenten erin staan. De kwaliteit van de meldingen varieert en er is een inherente selectiebias. Toch is het de meest gestructureerde poging tot nu toe om grip te krijgen op het type en de frequentie van AI-gerelateerde problemen.
Wekelijkse inzichten in je mail.
Dilemma's, doorbraken en blinde vlekken uit onze AI-praktijk.
Wat je ermee kunt als organisatie
Voor organisatieleiders die grip willen krijgen op de betrouwbaarheid van hun AI-systemen biedt de MIT-tracker een concreet hulpmiddel. Gebruik de database als referentie bij het opstellen van risicobeleid, als input voor interne audits, of als startpunt voor gesprekken met leveranciers over veiligheidsnormen. De EU AI Act-classificatie maakt de data bovendien direct relevant voor organisaties die zich voorbereiden op de Europese regelgeving.
De tracker is gratis toegankelijk via airisk.mit.edu. Voor wie serieus bezig is met AI-governance is het een bladwijzer waard.
