AI en de rechtsspraak

Een kantonrechter in Nijmegen heeft gebruikt gemaakt van ChatGPT om tot een uitspraak te komen in een geschil over zonnepanelen. Het is voor het eerst dat in Nederland een vonnis openbaar wordt waarin AI een rol heeft gespeeld. 'Opvallend' noemt universitair hoofddocent Privaatrecht Anna van Duin het vonnis tegen BNR. ‘Kennelijk moeten rechters hiervoor op cursus.’ Volgens Van Duin is ChatGPT namelijk ‘totaal ongeschikt’ voor waarheidsvinding. ‘Het baseert zich op informatie waarvan je niet weet waar die vandaan komt.’

Ook Rachel Rietveld, docent en onderzoeker gespecialiseerd in AI en recht, noemt de uitspraak naar aanleiding van de langslepende burenruzie 'zorgwekkend'. Volgens Rietveld is ChatGPT ‘niet meer dan een statistisch model’ dat woorden voorspelt en leent het zich daarom slecht voor toepassing in de rechtsspraak. ‘Het is niet gebaseerd op kennis of begrip, en daarmee niet op waarheden.’

Onbetrouwbare chatbots

Regelmatig is de informatie die chatbots geven niet betrouwbaar. Daarom zijn chatbots nu vaak zo ingesteld dat ze geen vragen over bijvoorbeeld verkiezingen kunnen beantwoorden. Maar die beperkingen blijken lang niet altijd goed te werken. ‘In principe zou het niet nodig moeten zijn om dat soort vragen te beperken’, zegt Claes de Vreese, hoogleraar Artificial Intelligence and Society, tegen de NOS. ‘Maar dat geldt alleen als je goede, accurate en betrouwbare informatie krijgt van die chatbots. En meerdere onderzoeken laten zien dat chatbots de richtlijnen nog niet goed volgen, en daardoor geen goede informatie geven.’