De verspreiding van nepnieuws vormt een bedreiging voor het welzijn van democratieën in Europa, stellen de onderzoekers. Burgers die vooral via het web naar nieuws zoeken, worden blootgesteld aan een onbeheersbare hoeveelheid informatie – een “infodemie” – die de verspreiding van complottheorieën vergemakkelijkt. Bovendien raken sociale groepen steeds meer gepolariseerd door echokamers in sociale netwerken. Russo: ‘Omdat het moeilijk is om zonder specifieke technische kennis “ware” feiten te onderscheiden van valse of bevooroordeelde feiten, is het probleem van de betrouwbaarheid van informatie urgenter dan ooit.’

Recent heeft de oorlog in Oekraïne aangetoond hoe belangrijk verhalen en informatie zijn in conflicten, aldus de onderzoeker. ‘Op sociale netwerken en sociale media wordt met nepnieuws een andere, subtielere oorlog gevoerd om de publieke opinie naar één kant te sturen. Dat leidt tot sterke polarisatie.’

Democratische betrokkenheid van burgers versterken

Tot nu toe ging het bij nepnieuws en de negatieve gevolgen daarvan vooral om tekstuele inhoud, maar nieuwe technologieën scheppen voortdurend nieuwe uitdagingen en kansen voor democratieën. Generative Adversarial Networks (GAN's) zijn daar een voorbeeld van: neurale netwerken die multimedia-content (foto's, video's, audio) kunnen creëren die bijna niet van echte content te onderscheiden is. Als GAN's worden getraind op een gezicht, kunnen ze dat laten bewegen en spreken op een manier die nauwelijks te onderscheiden is van een echte video. Dat noemen we deepfakes.

Het onderzoeksproject SOLARIS reageert op twee manieren op de uitdagingen van deepfakes en infodemieën, vertelt Russo. ‘Enerzijds gaan we de politieke risico's van deze technologieën analyseren, om negatieve gevolgen voor de EU-democratieën te voorkomen. Met SOLARIS willen we regelgevende innovaties tot stand brengen om deepfake-risico's op te sporen en te beperken. Anderzijds gaan we onderzoeken welke mogelijkheden GAN's bieden om de democratische betrokkenheid van burgers te versterken. We zijn van plan met citizen science-projecten GAN-content te creëren die het bewustzijn van burgers over belangrijke mondiale kwesties kan vergroten, bijvoorbeeld op het gebied van klimaatverandering, gender en migratie.’

Over SOLARIS

Onderzoeksproject SOLARIS (Strengthening democratic engagement through value-based generative adversarial networks) maakt deel uit van het cluster ‘Politics and the impact of online social networks and new media’. Er zijn 12 partners uit 8 verschillende landen bij betrokken. Het UvA-team bestaat uit onder meer hoofdonderzoeker Federica Russo en hoogleraren Tobias Blanke en Huub Dijstelbloem.