De kans is groot dat je met AI in aanraking komt als je met de zorg te maken krijgt. ‘Als je een ambulance belt, wordt met software berekend waar de ambulance het eerste naartoe gaat. We zijn nu nog niet zover dat we tegenover robots staan in plaats van dokters, maar dat kan op een gegeven moment wel gebeuren’, zegt Van Kolfschooten. Haar onderzoek richtte zich op de rechten van patiënten in de EU  binnen de technologische ontwikkelingen.

Wat zijn de rechten van patiënten eigenlijk?

‘Het meest herkenbare voorbeeld is dat je toestemming moet geven voordat er iets met je lichaam mag gebeuren. Als een arts je bijvoorbeeld een injectie toedient, moet je eerst te horen krijgen wat de gevolgen daarvan zijn en daarmee instemmen. Een ander voorbeeld is privacy: wie is er in de behandelkamer en wie mag je medische dossier inzien?’

Op welke manier verandert AI patiëntenrechten?

‘Er wordt veel geschreven over hoe AI de samenleving verandert, maar de zorg is de enige sector waar AI nu al veel gebruikt wordt. Je ziet vooral dat het voor de arts en patiënt niet duidelijk is hoe deze algoritmes precies werken. Dat raakt aan het recht op “geïnformeerde toestemming”. Als de arts zelf niet begrijpt hoe AI werkt, wordt het lastig om die informatie over te brengen op een patiënt. Een ander punt is dat persoonsgegevens nodig zijn om goede algoritmes te ontwikkelen, terwijl patiënten ook het recht op privacy hebben.’

Op welke manier wordt AI in de zorg gebruikt?

‘We zien het veel in diagnostiek. Bij een hersenscan kan AI bepaalde gebieden er al uitfilteren als er iets verdachts wordt gezien. Iemand kan ook eerder aan de beurt komen voor een afspraak als AI bepaalde risicovolle signaalwoorden herkent in de omschrijving van een klacht. Het UMC Utrecht heeft laatst een algoritme ontwikkeld om het intellectuele niveau van baby’s te voorspellen door de ontwikkeling van 300 baby’s bij te houden. Daar kun je dan op inspelen in de opvoeding. Maar het brengt ook stigma’s met zich mee omdat je daardoor kinderen anders kunt gaan behandelen. We zien AI ook veel in de ouderenzorg. Slimme camerasystemen registreren of iemand is gevallen op zijn kamer. Ook het risico op een depressie kan worden ingeschat door te kijken naar sociale activiteiten en eet- en slaappatronen.

Zijn dat goede ontwikkelingen?

‘Ik heb een voorzichtige kritische houding. Als je de krant openslaat, is het alleen maar positief en geweldig wat er allemaal kan. Daarom wil ik ook duidelijk maken dat er een andere kant is. Als AI goed wordt ingezet, heeft dit veel voordelen en kan het tijd besparen. Maar dan moet je de patiëntenrechten wel eerst op orde hebben. Er wordt veel geld in AI gestopt, omdat ziekenhuizen het “cool” vinden om te gebruiken. Maar ik zie problemen in de implementatie. Er wordt te veel vanuit techontwikkelaars geredeneerd en te weinig vanuit patiënten. In de thuiszorg kregen alle medewerkers een iPad, want dat hoorde bij het nieuwe imago van het bedrijf. Maar de medewerkers en patiënten begrepen de nieuwe manier van werken niet, waardoor er juist meer tijd verloren ging. Vaak wordt AI van bovenaf opgelegd, terwijl we weten dat voor het vertrouwen tussen de arts en patiënt autonomie juist heel belangrijk is. Zulke inzichten lijken soms te ontbreken in de hype. AI moet de zorg voor patiënten beter maken en niet alleen het ziekenhuis een cool imago geven.’

Kunnen we zonder het gebruik van AI in de zorg niet minder mensen helpen?

‘Nee, dat is het beeld dat in de politiek wordt geschetst. Er wordt gedaan alsof technologie de oplossing voor alles is en dat beeld wordt ook gepusht vanuit het bedrijfsleven. Technologie kost veel geld om te ontwikkelen en veel energie om te gebruiken. Als we dat geld zouden steken in personeel en salarissen kun je ook veel oplossen. Het is niet: gebruik AI of mensen gaan dood.’

Is er in de EU veel regulering?

‘Europa heeft nu de AI Act. Die regulering is ook van toepassing op de gezondheidszorg, maar wel heel breed en abstract. In de EU is er verder wel al veel regulering in de gezondheidszorg over de veiligheid van producten, maar er is nog weinig rond patiëntenrechten. Ik stel in mijn proefschrift voor om een handvest te maken voor Europese patiëntenrechten, juist omdat die door AI onder druk staan.’

Wat is daar het gevaar van?

‘Europa kan straks bepalen wat voor producten er op de markt zijn omdat de markt wordt gereguleerd. Maar het gebruik van producten wordt overgelaten aan de lidstaten. Het risico bestaat dat mensenrechten daardoor uiteen gaan lopen in de lidstaten. Zorg is grensoverschrijdend, dus je kunt als patiënt opeens te maken krijgen met landen die je medische dossier bijvoorbeeld delen met bedrijven. Het is belangrijk voor de patiënt-arts-relatie dat het vertrouwen in de zorg niet geschaad wordt. Als dat er niet meer is, mijden mensen de zorg. Dat weten we uit onderzoek. Als we geen minimumwaarborgen stellen aan het gebruik van AI in de zorg, lopen we het risico dat het vertrouwen van patiënten verdwijnt. Een ander risico is dat als er wat misgaat met software die iedereen gebruikt, het ook meteen overal misgaat.’

Is dat op dit moment al een reëel risico?

‘Op dit moment is de AI die in ziekenhuizen wordt gebruikt nog in de onderzoeksfase, maar we gaan wel die kant op. De focus ligt op efficiëntie in de zorg en die kun je uitdrukken in euro’s. Maar het is ook belangrijk om stil te staan bij de patiënt. Het hoort in de zorg niet te gaan over winstmaximalisatie, maar over het beschermen van de toch al kwetsbare mensen die zorg nodig hebben. De focus lijkt niet meer op de patiënt te liggen als je AI als oplossing voor alles gaat zien.’

Wat wil je dat je proefschrift teweegbrengt?

‘Ik heb veel gepraat met mensen uit de Europese commissie en het parlement. Het viel me op dat ze niet doorhadden wat het effect van AI is op de zorg. Het gaat veel over ChatGPT en zelfrijdende auto’s maar niet veel hierover. Ik wil dat er meer bewustwording komt en dat er beter wordt nagedacht over het beschermen van mensenrechten op dit gebied. De EU wil AI-producten reguleren, maar moet niet de rechten vergeten van de mensen die deze producten gebruiken.’