IViR-onderzoek van Dr. Kristina Irion over AI-regelgeving
8 februari 2021
Het onderzoek van Dr. Irion concludeert dat het EU-standpunt over broncode in internationale handelsovereenkomsten de mogelijkheid van de EU om AI in het belang van de consument te reguleren beperkt. In het bijzonder in de lopende onderhandelingen over e-commerce bij de WTO is dit het geval. Deze bevindingen zijn relevant voor toekomstige EU-regelgeving die algoritmische controles mogelijk maakt waarvoor toegang tot de broncode of toegang tot de interfaces van een AI-systeem nodig is. Op 26 januari jl. heeft Dr. Irion de bevindingen van haar onderzoek gepresenteerd aan leden van het Europees Parlement en de Europese Commissie. Verschillende media hebben aandacht besteed aan de studie, waaronder Euractiv, Politico en Tagesspiegel.
Vandaag de dag is algoritmische besluitvorming een integraal onderdeel van veel digitale diensten, zoals online winkelen en toepassingen voor social media. Ook wordt deze vorm van besluitvorming gebruikt in financiële diensten. Om consumenten te beschermen tegen schadelijke praktijken van kunstmatige intelligentie, zoals (prijs)discriminatie, onjuiste consumenteninformatie en algoritmische vooringenomenheid, zal de Europese Commissie begin dit jaar regels voorstellen voor AI-transparantie.
Aangezien AI-toepassingen vaak grensoverschrijdend van buiten de EU worden geleverd, is niet alleen de EU-regelgeving zelf van belang, maar ook de opzet van handelsdisciplines. Leden van de Wereldhandelsorganisatie bespreken momenteel plurilaterale regels over e-commerce. Deze onderhandelingen omvatten ook afspraken omtrent de niet-openbaarmaking van broncode. Hoewel deze afspraken voornamelijk worden genoemd als een instrument tegen gedwongen technologieoverdracht, moeten ze er tevens voor zorgen dat nationale en Europese regels betreffende AI-transparantie niet kunnen worden belemmerd.
Het Instituut voor Informatierecht heeft in opdracht van de Duitse consumentenorganisatie Verbraucherzentrale Bundesverband een onderzoek uitgevoerd naar het grensoverschrijdend gebruik van AI-technologieën en het effect daarvan op het consumentenrecht in de EU. In de huidige onderhandelingen ondersteunt de EU de opname van een speciale clausule. Deze clausule verbiedt deelnemende landen om in nationale wetgeving maatregelen op te nemen die de toegang tot of de overdracht van de broncode van software voorschrijven, enkele uitzonderingen daargelaten. Dit is een reden tot bezorgdheid, want als een dergelijke clausule niet zorgvuldig is geformuleerd, kan het toekomstige EU-regelgeving omtrent schadelijke AI verhinderen.
Het onderzoek concludeert dat de broncodeclausule binnen het handelsrecht inderdaad het recht van de EU om AI-beleid te reguleren op verschillende belangrijke manieren beperkt. Deze conclusie is verrassend, aangezien in documenten over het handelsbeleid van de EU niet wordt verwezen naar AI, maar alleen naar elektronische handel en er geen rechtstreeks verband is gelegd tussen de clausule over softwarebroncode en algoritmen. Het onderzoek stelt een belangrijke EU-beleidskwestie aan de orde die democratisch moet worden onderzocht en besproken. Dit moet gebeuren voordat de EU instemt met een nieuwe clausule over de broncode van software in een plurilaterale WTO-overeenkomst over elektronische handel.
Digitalisering leidt tot meer en meer digitale artefacten - 'producten' die ontwikkeld zijn op basis van informaticakennis - die uit softwarebroncode bestaan. AI-technologie kan nieuwe risico's voor individuen en de samenleving opleveren, terwijl het handelsrecht na bekrachtiging grotendeels statisch blijft. De broncodeclausule is te ruim voor binnenlands digitaal beleid dat moet voortbouwen op de mogelijkheid van systemen om gegevens uit te wisselen (interoperabiliteit), verantwoordingsplicht en verifieerbaarheid van digitale technologieën.
Het onderzoek doet twee aanbevelingen: