Wat is 'manipulatie in digitale keuze-omgevingen'?

‘Op elke website, elke app en op elk online platform waar je een beslissing kunt nemen, kan manipulatie plaatsvinden. Denk maar aan de keuzes die je maakt op bol.com, de films die je uitkiest op Netflix en de artikelen die je aanklikt in de NOS-app. Maar denk ook aan spelletjes als Pokémon Go en Candy Crush. Die zitten heel slim in elkaar. De hele interface is erop ingericht om je door te laten spelen. Zelf ben ik er ook gevoelig voor, terwijl ik weet hoe het werkt.’

Waarom blijf je dan toch hangen bij die spelletjes?

‘Je ziet bijvoorbeeld hoe je het doet ten opzichte van anderen en je kunt prijzen winnen. Als je faalt staat er “opgeven” of “doorspelen”. Dat moet je actief bepalen. En je krijgt een kortingsaanbod als je wilt stoppen. Het is doorspekt met elementen die ervoor zorgen dat je zo lang mogelijk doorspeelt en zoveel mogelijk geld uitgeeft, terwijl het niet in jouw belang is om op een zonnige middag Candy Crush te spelen. Mensen met andere belangen spannen je voor hun karretje door te zoeken naar zwakheden in jou of je omgeving die ze kunnen uitbuiten voor eigen gewin.’

Marijn Sax over Candy Crush en Fortnite:

Vallen de welbekende rabbit holes of het beïnvloeden van kiezers ook onder manipulatie?

‘In verkiezingstijd kan je aandacht inderdaad een bepaalde kant op worden gestuurd door platforms als Facebook en X. En ja, in coronatijd ging het veel over rabbit holes op YouTube en het verspreiden van desinformatie, terwijl dat de volksgezondheid niet ten goede kwam. Maar het beïnvloeden van de verkiezingen en de antivaxbeweging zijn wel extreme voorbeelden, en in zekere zin is het laaghangend fruit.’

Hoe bedoel je dat?

‘Daar is al veel over geschreven. Realiseren we ons wel dat het al erg genoeg is dat met deze technieken op industriële schaal onze belangen worden tegengewerkt? Ik snap de neiging om het over de grote gevolgen te hebben, maar dit gegeven is al erg genoeg. Een spel als Fortnite dat door veel kinderen wordt gespeeld, zit bijvoorbeeld zo geraffineerd in elkaar dat kinderen worden gemanipuleerd om geld uit te geven dat ze vaak niet eens hebben. Op een academische videogamesconferentie zie je een ontwikkelaar die aan Fortnite heeft gewerkt een cynisch verhaal houden over hoe ze mensen zo lang mogelijk het spel kunnen laten spelen. Op het hoogtepunt speelden 300 miljoen mensen, waarvan een aanzienlijk deel kind, Fortnite. Ze troggelen spelers op grote schaal geld uit de zakken. Dat gaat “maar” over een kinderspel, maar het is gewoon ranzig.’

Hoe kan je dat voorkomen?

‘Het gekke is dat het woord “manipulatie” al wordt gebruikt in Europese wetgeving, terwijl er nog geen juridische definitie van is. Ik ben van huis uit filosoof en ik wil die uitdaging in mijn onderzoek aangaan. Wat is bijvoorbeeld het verschil met misleiding? De manipulatietheorie die we hebben is oud en gaat over persoon A die persoon B manipuleert. Dat is heel overzichtelijk. Maar hoe passen TikTok of Facebook in dit verhaal? De oude definitie is niet meer toereikend. Je kunt daarbij meewegen dat de verkooppartij een machtigere positie heeft waardoor ze druk kunnen uitoefenen. Ook dat klinkt voor mij als een ingrediënt van manipulatie. Nu betekent het voor iedereen wat anders.’

De wetgeving loopt vaak achter op technologische ontwikkelingen. Is Europa nu juist te hard van stapel gelopen?

‘Ja, Europa is te snel geweest met het gebruik van het woord manipulatie in wetgeving. We denken allemaal dat we weten wat het betekent, maar er is niet eens een begin van een definitie. Dat is slordigheid. Het dreigt nu een dode bepaling te worden: het staat er wel, maar je kunt er niks mee. Het probleem van zo’n vage term is dat er veel te veel ruimte is voor interpretatie en daar weten de lobbyisten van big tech wel raad mee. Dat een bepaling niet gebruikt wordt, is tot daaraan toe, maar als dat het speelveld opent voor lobbyisten hebben we een groter probleem. We moeten preciezer zijn; dat gaat de handhavers ook helpen. Simpelweg opschrijven dat manipulatie niet mag, voegt niks toe als je niet weet wat het betekent. Je kunt er makkelijk een Veni over schrijven.’