AI-beïnvloeding: een wisselwerking tussen mens en machine

We horen regelmatig verhalen over AI-chatbots die gebruikers op een dwaalspoor brengen, maar hoe vaak gebeurt dit nu echt? Een recent onderzoek van Anthropic werpt hier licht op. Ze analyseerden 1,5 miljoen gesprekken met hun model Claude en keken naar wat zij 'user disempowerment' noemen: situaties waarin de AI iemands wereldbeeld, overtuigingen of acties negatief beïnvloedt. Hoewel het risico op serieuze manipulatie klein is, komt een milde vorm in ongeveer 1 op de 60 gesprekken voor. Opvallend is dat gebruikers hierin geen passieve slachtoffers zijn. Vaak delegeren ze actief hun oordeelsvermogen aan de chatbot, waardoor een feedbackloop ontstaat die hun autonomie kan ondermijnen.