AI-geweld bedreigt veiligheid journalisten en persvrijheid
Met de komst van Artificial Intelligence (AI) heeft online geweld tegen journalisten een nieuwe wending gekregen. De online omgeving was al onveilig voor journalisten, maar nu werkt AI als een katalysator voor online imitatie, intimidatie en ondermijning. Deze ontwikkeling bemoeilijkt niet alleen hun werk, maar brengt in het algemeen de persvrijheid en achterliggende democratische processen in gevaar. Publiciteit over dit probleem is nodig om vooruitgang te boeken op het gebied van wetgeving en handhaving, want de rol die AI speelt in online geweld is op Europees niveau nog niet universeel wettelijk erkend. Met dit in gedachten dook Free Press Unlimited in de wereld van kunstmatige intelligentie. Op welke manieren AI wordt gebruikt om journalisten aan te vallen? Hoe ziet AI-gefaciliteerd geweld er inmiddels uit? En welke patronen zijn te herkennen?
AI faciliteert bestaande vormen van online geweld tegen journalisten zoals identiteitsfraude, bedreigingen en seksueel geweld. Daarom spreken we in dit artikel over AI-gefaciliteerd geweld. Hieronder vallen zogenaamde deepfakes: door AI-gegenereerde video’s, foto’s of audiofragmenten die moeilijk te onderscheiden zijn van echte beelden.
We hebben in totaal 58 incidenten geïdentificeerd binnen de MMF monitor waarbij AI is ingezet om journalisten te verhinderen of intimideren. De Mapping Media Freedom (MMF) Monitor van de MFRR is een Europese database waar journalisten incidenten rapporteren waarbij zij doelwit waren. De incidenten vonden allemaal plaats in Europa tussen 2022 en 2026.
AI-gefaciliteerde scams
Een eerste vorm van AI-inzet is de zogenaamde AI-gefaciliteerde ‘scam’. Hierbij wordt de bekendheid of expertise van de journalist gebruikt om een scam te promoten. 17 van de 58 onderzochte incidenten vallen binnen deze categorie. Deze ontwikkeling beschadigt de betrouwbaarheid en expertise van journalisten. In de fintech sector, waarin nieuwe technologie wordt ontwikkeld voor de financiële wereld, zijn deepfake scams met 700% gestegen in 2023.
Een voorbeeld is de zaak van Gabriel Mellqvist, een Zweedse journalist die financieel nieuws dekt. In een AI-gegenereerde nepadvertentie voor een beleggingsplatform werd gedaan alsof hij die aanprees. Als gevolg zijn zo’n 500 investeerders gefraudeerd, met een totaal verlies van ongeveer 500 miljoen Zweedse kronen (+-46 miljoen euro). Zelf zegt de journalist dat hij gefrustreerd is dat zijn reputatie door dit incident is beschadigd.
AI-gefaciliteerde Russische desinformatie
Een tweede categorie bestaat uit Russische desinformatiecampagnes. Hierbij worden persona’s van journalisten (en soms hele nieuwswebsites) gebruikt om pro-Russische of anti-Oekraïense narratieven te verspreiden. Deze desinformatiecampagnes zijn bekend onder verschillende namen zoals Portal Kombat, Storm 15-16, Matryoshka (Overload) en Doppelganger. 16 van de 58 onderzochte zaken kunnen gelinkt worden aan Russische desinformatiestrategieën.
In de zaak van de Franse nieuwslezer Julien Fanciulli, werkzaam voor France24, wordt duidelijk hoe een van deze campagnes, Portal Kombat (ook wel bekend als het “Pravda-netwerk”), te werk gaat. In 2024 werd een deepfake video van Fanciulli gepubliceerd door pravda.fr, en door verschillende pro-Russische informatieportalen verder verspreid. In de deepfake video vertelde Fanciulli als nieuwslezer voor France24 dat President Macron zijn trip naar Kiev had uitgesteld wegens een geplande moordpoging op de president. Dit is een narratief dat het Westers vertrouwen in Oekraïne in twijfel trekt, omdat het Kiev als onveilig presenteert.
De Franse inlichtingendienst VIGNIUM beschrijft Portal Kombat als een netwerk van informatieportalen, waarbij minstens 193 websites aangesloten zijn. Ze produceren geen originele informatie maar spelen informatie door van pro-Russische socialemedia-accounts en nieuwskanalen om een westers publiek te bereiken. Daarnaast worden ook Storm 15-16, Matryoshka en Doppelganger gekenmerkt door het ‘witwassen’ van informatie. Dit betekent dat desinformatie in groten getale gepost en verspreid wordt mede dankzij AI, zodat de oorsprong onherkenbaar wordt.
Sinds juli 2023 zijn ruim 8 miljoen nepartikelen doorgespeeld door het Pravda Netwerk, blijkt uit monitorwebsite portal-kombat.com, een initiatief van factchecker Checkfirst. Daarnaast staat Matryoshka in het bijzonder bekend om het verspreiden van AI deepfakes. Doppelganger bootst officiële nieuwswebsites na, soms ook met AI-gegenereerde content. Achter deze websites zitten organisaties die gefinancierd worden door de Russische overheid.
Seksueel geweld
Een derde categorie zijn seksuele deepfakes. In deze gevallen wordt AI ingezet om zonder toestemming seksuele beelden te genereren van journalisten. 5 van de 58 geanalyseerde incidenten valt binnen deze categorie. Deepfakes nemen in rap tempo toe. In 2023 waren er een geschatte 500.000 deepfakes online, dit aantal steeg in 2025 volgens een voorspelling naar 8 miljoen. Maar liefst 96-98% van alle deepfakes is online non-consensuele seksuele content, waarbij vrouwen in 99% van de gevallen het slachtoffer zijn. De maatschappelijke gevolgen van online gendergerelateerd geweld zijn verstrekkend. Zo wees eerder onderzoek uit dat vrouwen zich kunnen terug trekken uit de publieke sfeer of dat ze hun beroep niet meer kunnen uitoefenen.
Free Press Unlimited ziet dat de verspreiding van dit soort beeldmateriaal de reputatie van de journalist kan schaden, of dat de journalist verder online en soms ook fysiek wordt geïntimideerd. De psychische schade die slachtoffers oplopen, kan vergelijkbaar zijn met de schade bij fysiek seksueel geweld. Daarnaast zijn AI-gegenereerde beelden moeilijk te verwijderen van het internet. Deze beelden kunnen nog lang na publicatie schade blijven aanrichten.
Free Press Unlimited heeft met relatief weinig moeite websites gevonden waar expliciete deepfakes op stonden van dertien Nederlandse vrouwen, waaronder drie journalisten. Uit privacy-overwegingen hebben we besloten de URL's van de websites niet vrij te geven. Volgens de Nederlandse wet is het verspreiden van non-consensuele seksuele deepfakes verboden. Desondanks staat illegale content van Nederlandse journalisten tijdens het schrijven van dit artikel nog steeds online. NRC onthulde in mei 2026 dat AI-gegenereerde pornowebsites ook op Nederlands grondgebied gehost worden, zoals de website ‘Motherless’.
Ook in Italië werden twee bekende vrouwelijke journalisten en presentatoren slachtoffer. Francesca Barra en Selvaggia Lucarelli vonden AI-gegenereerde naaktbeelden van zichzelf op een website met miljoenen gebruikers waarop meerdere (bekende) vrouwen staan afgebeeld. Hoewel de Italiaanse politie na de openbaring van dit incident een onderzoek is gestart, is ook deze website nog altijd in de lucht.
AI-gefaciliteerde politieke intimidatie
De laatste categorie bestaat uit journalisten die getarget zijn door een AI-gefaciliteerde politieke aanval. Zij staan bekend om hun politieke overtuiging en zijn vaak al eerder doelwit geweest van fysiek of online geweld. De intimidatie heeft een duidelijk politiek motief. Daarnaast worden deze journalisten vaker doelwit van fysieke of online bedreigingen of geweld. 5 van de 58 incidenten passen in deze categorie.
Het incident van de Servische journalist Dinko Gruhonjić is een typisch voorbeeld, waarbij zijn positie binnen een lokale persvrijheidsorganisatie vermoedelijk de oorzaak is. Ook is hij sinds 2024 een belangrijke schakel in de studentenprotesten in het Servische Novi Sad. Hij werd doelwit van een door AI-gemanipuleerde video waarin het leek alsof hij zei dat hij blij was om een Kroatische commandant te delen met een beruchte oorlogscrimineel. De video werd eveneens gedeeld door legitieme media.
Na de video is een reeks nieuwe incidenten gemeld van Gruhonjić bij de MFRR, waaronder doodsbedreigingen. Wie precies achter de gemanipuleerde video zat in 2024 was niet duidelijk. Wel valt op dat vooral nationalistische actoren en partijen met de video aan de haal gaan en hem beschuldigen van landverraad.
AI-gegenereerde content is in sommige gevallen niet of nauwelijks herkenbaar. Daarom doen wij als Free Press Unlimited de volgende aanbevelingen voor betere bescherming én wetgeving:
- Wees kritisch over online content. Wie maakt dit? Wie profiteert?
- Gebruik tools om desinformatie te herkennen en bloot te leggen
- Blijf incidenten rapporteren aan:
Juridisch kader
- Schadelijke deepfakes vallen momenteel buiten de reikwijdte van Europese wetgeving. Daarnaast verplicht de Digital Service Act op EU-niveau alleen VLOPs (Very Large Online Platforms) zoals X en Facebook om illegale content zo snel mogelijk te verwijderen. Maar deze incidenten vinden vaak plaats buiten VLOPs, bijvoorbeeld in Telegram-kanalen. Bovendien bepaalt nationale wetgeving nog steeds wat als illegale content geldt.
- Naast de EU-wetgeving zijn er ook op nationaal niveau stappen gezet om AI-gefaciliteerd geweld aan te pakken. Onlangs nam Denemarken een amendement op in de nationale copyrightwetgeving waardoor deepfakes zonder toestemming een schending zijn van het recht van ieder individu op hun uiterlijk en stem. Deze blauwdruk heeft de potentie om ook in andere Europese landen als wetgeving aangenomen te worden.
- Ook in Nederland zijn er vorderingen geweest om AI-gefaciliteerd geweld strafbaar te stellen. Het proces van presentatrice Welmoed Sijtsma tegen de maker van een non-consensuele deepfake leidt de weg naar rechtsvervolging voor vergelijkbare incidenten in de toekomst. De dader kreeg een taakstraf van 180 uur. Volgens de Nederlandse wetgeving is het maken van een expliciete deepfake dan ook strafbaar, mits het beeldmateriaal zodanig echt lijkt dat het op eerste gezicht niet duidelijk is dat het om AI gaat.
