Claes de Vreese is faculteitshoogleraar ‘Data, Democracy and Society’ aan de Faculteit Maatschappij & Gedrag aan de Universiteit van Amsterdam en vanaf 1 september de trekker van het UvA zwaartepunt ‘Human(e) AI’. We spraken met hem over de maatschappelijke kant van AI. ‘Bij de potentiele voor- en nadelen van AI spelen de sociale- en gedrags wetenschappen een cruciale rol.’

Wat is voor jou AI?

‘AI is een enorme verzamelterm geworden en op zich helemaal niet nieuw. In oorsprong gaat het om machines die zelf kunnen leren en patronen kunnen ontdekken in data dankzij slimme algoritmes. Je ziet nu een vernieuwde én verbrede interesse in AI. Dit hangt samen met de exponentiele groei aan data in onze samenleving en de toenemende automatisering. Dit is op zich nog geen AI, maar we bevinden ons wel in een belangrijke fase waarin die overgang naar slimme systemen plaats vindt. Hierdoor groeit de rol van AI enorm.’

Wat voor rol speelt AI op dit moment in ons leven?

‘Door de hele dag speelt AI een grote of kleine rol, vanaf het moment dat je opstaat, al zijn we ons hier niet altijd bewust van. Denk aan de gezondheidsapps die je slaapgedrag monitoren, het nieuws en de advertenties die je bij je ontbijt krijgt voorgeschoteld, en real time updates over je reis naar werk.’

‘Dat klinkt positief, maar ook hebben we allemaal wel gehoord van het schandaal bij de belastingdienst die de afgelopen jaren tienduizenden mensen als fraudeur bestempelde op basis van profilering met behulp van discriminerende algoritmes. En nu in Engeland waar scholen dubieuze algoritmes gebruikten om de cijfers van studenten vast te stellen en hierdoor allerlei studenten opeens werden uitgesloten.’

Wat is positief en negatief aan AI?

‘Een groot voordeel van AI en algoritmes is dat je een veel betere match kan maken tussen alle informatie die er beschikbaar is en informatie die iemand zoekt. Stel je maar voor door welke bergen info je heen zou moeten ploegen als deze match niet zou worden gemaakt.’

‘Maar een groot nadeel en gevaar van AI, is dat het niet transparant is hoe die match tot stand komt en er niemand echt eindverantwoordelijk is. En wat doen we dan als het fout gaat, zoals bij de belastingdienst en de examens in Engeland, en AI tot ongelijkheid en uitsluiting leidt?’

Hoe kunnen we negatieve effecten van AI voorkomen?

‘Bij het ontwikkelen van AI zouden bepaalde basiswaarden in een systeem ingebakken moeten zijn. We vinden het in onze samenleving bijvoorbeeld erg belangrijk dat mensen gelijke kansen krijgen en gelijke toegang, we bestrijden discriminatie. Hoe zorg je er nu voor dat dit soort publieke waarden meegenomen worden in de ontwikkeling van AI, aan de voorkant, zodat we niet achteraf allerlei problemen krijgen? Daarvoor heb je kennis nodig van het domein waarin AI wordt toegepast. De sociale- en gedragswetenschappen kunnen hier veel in betekenen.’

‘Onderwijsdeskundigen weten bijvoorbeeld ontzettend veel over processen van ongelijkheid in ons onderwijssysteem. Neem die kennis mee daar waar AI wordt ingezet in dit domein. Zo voorkom je uitsluiting achteraf. Een wetenschapper hoeft dus niet per se een AI expert te zijn om waardevolle kennis in huis te hebben, maar het is natuurlijk wel goed je als wetenschapper af te vragen wat digitalisering en AI voor jouw onderzoeksdomein betekenen.’

Als hoogleraar hou jij je bezig met de relatie tussen data, AI en democratie. Waarom moet dit worden onderzocht?

‘In mijn onderzoek heeft altijd de vraag centraal gestaan: hoe krijg je de beste democratische processen? Die processen veranderen nu door data en technologie. Kijk bijvoorbeeld naar hoe politieke partijen data gebruiken om veel gerichter campagne te voeren. Maar ook belangrijke instituties zoals gemeentes, justitie en belastingen zien hun werk veranderd door de inzet van AI. En we zien dat AI een steeds grotere rol speelt in het nieuws dat je wél en niet te lezen krijgt en dus in wat je over vraagstukken leest. Grote kans dat mijn nieuwslijst er heel anders uitziet dan die van jou. Deze samenhang tussen data en AI brengt allemaal grote democratische uitdagingen waar ik met mijn groep dus naar kijk.’

Zijn we ons voldoende bewust van de mogelijke impact van AI?

‘Ja en Nee. Je ziet dat de huidige discussies over AI altijd over een recent en spraakmakend schandaal gaan waar iets misging. Zoals bij Facebook of de belastingdienst. Dat staat een fundamentele discussie in de weg hoe een zelflerend systeem zo in te richten dat het goed en eerlijk werkt.’

‘Ik zie ook dat de nadruk nog vaak ligt op onze acceptatie van innovatie. Maar die nadruk zie ik liever verschuiven naar het begrijpen van innovatie. Hebben we voldoende inzicht in de voor en nadelen?’

Wat is volgens jou de grootste mythe rond AI?

‘De grootste mythe is dat AI óf goed óf slecht is, aan de ene kant het technologie optimisme en aan de andere kant de angst voor bijvoorbeeld verlies van banen en privacy.  Maar of AI goed of slecht is, hangt helemaal van onszelf af en of we in staat zijn de publieke en sociale waarden te bewaken.’

Heb je nog een tip voor een goed boek over AI?

‘‘The inevitable’ van Kevin Kelly, een non-fictieboek uit 2016 dat de twaalf technologische krachten voorspelt die de komende dertig jaar vorm gaan geven. Ik heb het deze zomer zelf getipt gekregen en het brengt heel mooi de fundamentele processen rond AI en technologische ontwikkeling naar voren.’

#AI Technology for People
Van zelfrijdende auto’s, zorgrobots en bewakingssystemen tot zelflerende zoekmachines. Artificiële intelligentie (AI) heeft grote impact op verschillende facetten van ons dagelijkse leven. Samen met de gemeente Amsterdam, bedrijfsleven, maatschappelijke partners en andere onderzoeksinstellingen doet de Universiteit van Amsterdam baanbrekend onderzoek naar nieuwe algoritmen en toepassingen enerzijds, en de impact ervan op onze samenleving anderzijds. Lees meer over AI onderzoek aan de UvA.