Het whitepaper bestaat uit drie delen: een overzicht van de rol van AI in desinformatie, een bespreking van de effectiviteit van tegenmaatregelen, en praktijkinzichten van experts uit het BENEDMO‑netwerk.

Wat is de rol van AI in desinformatie?

Het whitepaper hanteert een brede definitie van AI‑gestuurde desinformatie: de toepassing van AI bij het genereren, wijzigen, verspreiden of manipuleren van bewust onjuiste informatie, inclusief misleidende visuele content (video’s en beelden), spraak en tekst. Deze informatie wordt ingezet om politieke, financiële, persoonlijke, ideologische of andere strategische doelen te dienen.

Voorbeelden die aan bod komen zijn onder meer:

• synthetische video’s waarin bekende politieke figuren worden geïmiteerd (deepfakes);
• door AI gegenereerde nepnieuwsartikelen;
• gemanipuleerde beelden voor socialmediaposts;
• het gebruik van bots en trolls om niet‑authentieke inhoud te verspreiden;
• gemanipuleerde audioboodschappen in de context van fraude.

De auteurs benadrukken dat bestaande academische studies naar het aandeel AI‑gegenereerde content in desinformatie nog schaars zijn en veelal gebaseerd op data uit de vroege jaren 2020. Sindsdien ontwikkelt generatieve AI zich zeer snel en wordt het gebruik ervan gedemocratiseerd. Toepassingen als ChatGPT, Grok en andere gen‑AI‑tools zijn ingebed in alledaagse communicatieplatformen, waardoor het voor een brede groep gebruikers eenvoudig wordt om misleidende content te creëren en te verspreiden.

In de Nederlandse context wordt de inzet van generatieve AI voor politieke doeleinden onder meer zichtbaar via de CampAlgn Tracker, die posts van partijen, kandidaten en geselecteerde influencers rond de Tweede Kamerverkiezingen 2025 analyseert. Daaruit blijkt een duidelijke toename van AI‑gegenereerde beelden in de aanloop naar de verkiezingen, vooral bij radicaal‑rechtse actoren. Deze beelden sluiten aan bij bestaande spanningen rond migratie en verlies van Nederlandse tradities en worden gebruikt om een beeld van een sterke leider te schetsen.

Het whitepaper wijst erop dat AI‑toepassingen niet noodzakelijkerwijs altijd expliciet foutieve feitelijke claims bevatten; vaak gaat het om negatieve campagnes of satire die de tegenpartij bekritiseren of de gedachten en beelden van de eigen groep versterken. Dat heeft consequenties voor mogelijke interventies: het feitelijk corrigeren van de inhoud is niet altijd zinvol, terwijl het duiden van het gebruik van AI en de strategie achter dergelijke campagnes wel relevant kan zijn.

Effectiviteit van tegen strategieën

Het whitepaper maakt onderscheid tussen twee hoofdroutes om AI‑gestuurde desinformatie tegen te gaan:

1. Pre‑bunking en geletterdheidsinterventies
2. De‑bunking, fact‑checking en labelling

Pre‑bunking en (AI-)mediageletterdheid

Mediageletterdheidsinterventies – waarbij mensen vooraf leren hoe zij misleidende informatie kunnen herkennen – blijken in algemene zin effectief bij het detecteren van mis‑ en desinformatie. Specifiek voor AI‑gestuurde desinformatie en deepfakes is het empirisch bewijs nog beperkt, maar bestaande studies laten zien dat bepaalde interventies de herkenning van deepfakes en de zelfgerapporteerde AI‑geletterdheid vergroten.

Tegelijkertijd wijzen de auteurs op gemengde resultaten en mogelijke neveneffecten. Zo beschrijven zij een studie waarin een AI‑geletterdheidsinterventie wel hielp om fake news‑artikelen als nep te herkennen, maar waarin deelnemers daarna ook vaker echte nieuwsartikelen ten onrechte als nep bestempelden. In open antwoorden gaven veel respondenten aan zich “bang” te voelen, “niet meer te weten wat te geloven” en dat “alles fake kan zijn”.

Deze bevindingen sluiten aan bij bredere literatuur over inoculatie en pre‑bunking: interventies die mensen waarschuwen voor het risico om misleid te worden, kunnen een kritische houding stimuleren, maar ook bijdragen aan overmatige scepsis, waarbij mensen ook betrouwbare informatie in twijfel trekken.

De‑bunking, fact‑checking en labels

Naast preventieve geletterdheidsinterventies bespreekt het whitepaper correctieve maatregelen die na verspreiding van desinformatie worden ingezet, zoals fact‑checks, waarschuwingen en labels. In algemene zin laten meta‑analyses zien dat fact‑checking de geloofwaardigheid van onjuiste beweringen kan verlagen, maar dat mensen corrigerende informatie in praktijksituaties niet altijd selecteren of accepteren, mede door confirmation bias. Dit is echter nog niet systematisch toegepast op de context van AI en visuele desinformatie. 

In een reeks experimenten van het BENEDMO‑lab, gericht op de Nederlandse context, werd gekeken naar de effectiviteit van platforminterventies tegen AI‑gegenereerde desinformatie, zoals:

• AI‑labels of watermerken;
• fact‑checklabels;
• community notes;
• directe interventies van factcheckers onder misleidende posts.

De resultaten laten zien dat veel standaardlabels slechts beperkte impact hebben op de geloofwaardigheid van AI‑gestuurde desinformatieposts en op de mate waarin mensen foutieve claims geloven. Community notes lieten in specifieke gevallen (bijvoorbeeld bij desinformatie over immigratie) wel een daling in geloof in de foutieve claim zien.

In een ander experiment bleken directe interventies van factcheckers – waarbij zij onder de post reageren en zowel feitelijke correcties als context bieden – het meest effectief om geloof in een foutieve claim te verminderen. Daarbij lijkt het zinvol niet alleen de feiten te corrigeren, maar ook de mogelijke intentie achter de misleidende content te adresseren, zeker bij mensen met sterke voorafgaande overtuigingen.

Het whitepaper concludeert dat er geen eenvoudige, generieke oplossing is om AI‑gestuurde desinformatie te corrigeren. De effectiviteit van maatregelen hangt af van het onderwerp, de vorm van de content en de houding van het publiek, en veel bestaand onderzoek komt uit gecontroleerde survey‑omgevingen die niet alle dynamiek van echte online omgevingen vangen.

Inzichten uit het BENEDMO‑consortium

In het derde deel van het whitepaper delen experts uit het BENEDMO‑netwerk hun ervaringen met AI‑gestuurde desinformatie in de praktijk.

• Mediageletterdheid en samenleving
  Mediawijs‑expert Zara Mommerency ziet zowel nieuwsgierigheid als weerstand bij burgers ten aanzien van AI. Zij pleit voor blijvende investeringen in kritische media‑ en AI‑geletterdheid in alle leeftijdsgroepen en sectoren, én wijst op groeiend wantrouwen tegenover online informatie in het algemeen.
• Journalistieke praktijk en monitoring
  Hoofdredacteur Luc van Bakel (VRT NWS) benadrukt dat redacties tegelijk worden geconfronteerd met meer AI‑gegenereerde desinformatie én met de integratie van AI‑tools in hun werk. Hij onderstreept het gebrek aan schaalbare detectietools en de noodzaak van sterkere platformregulering en snellere monitoring.
• Detectie en fact‑checking met AI
  Guy De Pauw (Textgain) stelt dat AI nodig is om de hoeveelheid problematische content te verwerken, maar dat menselijke controle essentieel blijft. Michaël Opgenhaffen ziet kansen om fact‑checks toegankelijker te maken via AI (bijvoorbeeld door vertaling en herverpakking voor verschillende doelgroepen), zonder concessies te doen aan verificatiestandaarden.

Conclusies

Op basis van de stand van de wetenschap, de eigen bevindingen van het BENEDMO‑lab en de praktijkinzichten van het consortium concluderen de auteurs dat AI de fundamentele logica van desinformatie niet volledig heeft veranderd, maar wel de schaal, snelheid en toegankelijkheid ervan ingrijpend heeft vergroot. Deepfakes en AI‑gegenereerde content zijn niet consequent overtuigender dan traditionele vormen van desinformatie, maar generatieve tools maken het eenvoudiger en goedkoper voor uiteenlopende actoren om misleidende content te produceren en te verspreiden.

Een belangrijk gevolg is de druk op vertrouwen in visueel en feitelijk bewijs: als mensen ervan uitgaan dat veel media gemanipuleerd kunnen zijn, verandert hun houding ten opzichte van authenticiteit en legitimiteit van informatie.

Het whitepaper onderstreept dat er geen eenvoudige technische of communicatieve oplossing is. Een effectieve aanpak vraagt om:

• platformverantwoordelijkheid en transparantie;
• versterking van verificatiecapaciteiten bij media, factcheckers en andere instellingen;
• duurzame media‑ en AI‑geletterdheid waarbij kritische betrokkenheid wordt gestimuleerd zonder te vervallen in cynisme;
• onderzoek dat systematisch de prevalentie, evolutie en langetermijneffecten van AI‑gestuurde desinformatie volgt in realistische online omgevingen.

Het whitepaper concludeert dat AI‑gestuurde desinformatie geen tijdelijke onregelmatigheid is, maar een blijvend kenmerk van het digitale informatielandschap. Alleen een langdurige, gezamenlijke inspanning van platforms, mediaprofessionals, factcheckers, onderzoekers en beleidsmakers – met continue monitoring, systematische experimenten en aanpassing van praktijken – kan de democratische informatievoorziening voldoende veerkrachtig houden.

** Raadpleeg het volledige whitepaper hier. **

~~~

Afbeelding: Yutong Liu & Kingston School of Art / https://betterimagesofai.org / https://creativecommons.org/licenses/by/4.0/