12 maart 2020
UvA wetenschappers onderzochten hoe de Nederlandse bevolking over AI en geautomatiseerde besluitvorming (ADM) denkt, en hoe dit met persoonlijke kenmerken samenhangt zoals opleiding en leeftijd. Ze keken naar ons algemene beeld over ADM, maar vroegen ook naar onze mening over de toepassing van ADM in specifieke maatschappelijke sectoren waar dit al vaak gebeurt: de (nieuws)media, de zorg en justitie.
De Nederlandse bevolking blijkt best wat zorgen te hebben over de maatschappelijke risico’s van geautomatiseerde systemen, maar verdeeld te zijn over het algemene nut en de rechtvaardigheid van ADM. En als we op toepassingen in specifieke sectoren reflecteren, doemt weer een ander beeld op, en blijken we minder risico’s en meer nut te zien in geautomatiseerde systemen.
Ook in Nederland wordt besluitvorming steeds meer geregeld via geautomatiseerde processen. Dit kan door de grote hoeveelheden data die beschikbaar zijn en dankzij de technische ontwikkeling van AI. Denk bijvoorbeeld aan algoritmen die gepersonaliseerde nieuwsaanbevelingen doen, het geautomatiseerd identificeren van verdachte profielen en virtuele gezondheidscoaches die advies geven aan individuele gebruikers.
Technologieën als big data, machine learning en AI doorlopen vaak een traject van angst naar hype. Tegelijkertijd worden ze als onpartijdig en objectief neergezet in hun gebruik in het dagelijks leven. Dit kan leiden tot allerlei verwachtingen over de objectiviteit en eerlijkheid van een machine. Eerdere studies tonen aan dat we de neiging hebben om een expertsysteem als objectiever en rationeler te zien dan een menselijke adviseur. Dit is vaak gebaseerd op de veronderstelling dat voor bepaalde taken statistische methoden het menselijke oordeel overtreffen.
UvA wetenschappers namen een representatieve steekproef onder bijna duizend Nederlanders af. Ze stelden daarin vragen over hoe nuttig, rechtvaardig en risicovol de respondenten geautomatiseerde besluitvorming door AI vinden. De onderzoekers stelden daarbij verschillende scenario’s voor: van een lage impact zoals het geven van nieuws of fitnessaanbevelingen, tot een hoge impact zoals strafrechtelijke veroordeling of het nemen van beslissingen rond behandelingen van ziektes.
Wat blijkt?
De respondenten zijn in hun beeld over ADM als algemene maatschappelijke ontwikkeling verdeeld. Maar gevraagd naar specifieke toepassingen van ADM zitten ze bij de scenario’s met een hoge impact, zoals rechtspraak, grotendeels op één lijn. En die is niet per se ten gunste van de menselijke experts. Voor de scenario’s met een lage impact, zoals nieuwsaanbevelingen, zagen de onderzoekers deze significante verschillen niet.
De volgende persoonlijke kenmerken verklaren (deels) de verdeeldheid bij het algemene beeld over ADM.
Nederlanders maken zich over het algemeen zorgen over de risico’s van geautomatiseerde besluitvorming, maar hebben verdeelde meningen over hoe eerlijk en nuttig ADM voor de samenleving kan zijn. Gevraagd naar de toepassing in specifieke sectoren, staat ADM echter op gelijke voet met, of wordt zelfs beter beoordeeld, dan menselijke experts.
Deze percepties van ADM staan in contrast met de vaak kritische en pessimistische toon in mediaberichten, en de academische literatuur. Daarin overheersen eerder de angst voor vooringenomenheid, verlies van menselijke waardigheid en autonomie, en algemene zorgen over 'AI-overname' ter vervanging van menselijke experts.
Publieke opvattingen zijn geen acceptatie van daadwerkelijk toepassing
Maar stellen de onderzoekers, heel belangrijk te benadrukken: ‘publieke opvattingen over het potentiële nut en rechtvaardigheid van ADM zijn niet hetzelfde als maatschappelijke en individuele acceptatie van daadwerkelijk geautomatiseerde beslissingen. We moeten nog beter te weten komen of en onder welke voorwaarden mensen ADM-beslissingen niet alleen eerlijker ervaren, maar ook bereid zijn een geautomatiseerde beslissing te accepteren.’
Theo Araujo, Natali Helberger, Sanne Kruikemeier & Claes H. de Vreese, 'In AI we trust? Perceptions about automated decision-making by artificial intelligence.' AI & Soc (2020). https://doi.org/10.1007/s00146-019-00931-w