Graag meer informatie delen: hoe patiënten over AI denken

Patiënten zijn overwegend positief over het gebruik van kunstmatige intelligentie in de zorg, maar wel onder voorwaarden. Dat blijkt uit een peiling van de Patiëntenfederatie Nederland. “Er moeten richtlijnen komen hoe je als zorgverlener communiceert over het gebruik van AI.”

Patiënten komen steeds vaker in aanraking met AI-toepassingen. De Patiëntenfederatie vroeg hun patiëntenpanel daarom wat ze vinden van AI. Enkele kerncijfers uit het onderzoek: 13 procent van de deelnemers heeft ervaring met één of meer AI-toepassingen in de zorg. Bijna de helft van de deelnemers (46 procent) staat positief tot zeer positief tegenover AI, 44 procent is neutraal of twijfelt.

De attitude ten opzichte van AI was opvallend positief, vertelt hoofdonderzoeker Ildikó Vajda, senior-adviseur patiëntbelang digitale zorg bij de Patiëntenfederatie Nederland. “We zijn positief verrast, want we hadden verwacht dat men negatiever zou zijn. Want als je met leden of individuele patiënten praat hoor je meer kritische geluiden en zorgen, hoewel dat vooral gaat over data en datalekken.”

Dat er een grote neutrale groep is die nog een beetje de kat uit de boom kijkt, is niet zo verwonderlijk. De groep die daadwerkelijk ervaring heeft met AI is nog gering. “Daarom hebben we de vragen hypothetisch geformuleerd: als AI in uw zorgtraject wordt gebruikt, wat zou u dan willen? Met dit onderzoek ging het ons erom zorgprofessionals en zorgaanbieders en hun koepels te informeren over wat patiënten en cliënten willen aan informatie als AI gebruikt wordt in de zorg.”

Ildikó Vajda:

“Het is belangrijk dat er meer uitleg komt als de AI-output niet hetzelfde is als wat de arts denkt”

Stroomversnelling

Vajda is al langer met dit onderwerp bezig. “In maart 2022 heb ik een position paper geschreven over AI en alles wat er op ons afkomt. Daarin beschrijf ik ook dat het belangrijk is om diegene op wie impact wordt gemaakt mee te nemen in de ontwikkeling van zulke toepassingen.”

Het gebruik van AI is in korte tijd in een stroomversnelling gekomen. Zo heeft AI een prominente plek gekregen in het Integraal Zorgakkoord en het aanvullend zorgakkoord als een technologie die veel kan betekenen voor de zorgverleners, maar ook voor de patiënten. Als lid van de begeleidingscommissie vertegenwoordigde Vajda tevens het patiëntenperspectief bij het AI-signalement dat ZonMw in 2025 publiceerde. Onlangs ontwikkelde ze samen met de Hogeschool Utrecht en ZonMw ook een toolkit voor de ethisch verantwoorde ontwikkeling en inzet van AI-toepassingen.

Patiëntperspectief meenemen

Deze ontwerpmethode laat volgens Vajda goed zien op welke manier het patiëntperspectief meegenomen kan worden bij het ontwerpen van AI-toepassingen. “Bij dit project hebben we met value-sensitive design voor een aanpak gekozen waarbij alle stakeholders — de zorgprofessional, de ontwikkelaar van de AI-toepassingen én de patiëntvertegenwoordiger — samen in dialoog gaan en systematisch alle ethische principes en de daaronder hangende ethische vereisten aflopen. Dat co-design met iedere stakeholder, dus ook de patiënt of cliënt, is heel belangrijk.”

In de ontwikkelfase worden thema’s als autonomie geadresseerd: wat betekent een AI-toepassing voor de patiënt, maar ook voor die van de zorgprofessional? “Op het niveau van co-design zijn we goed bezig”, zegt Vajda. “Maar als het gaat om meegenomen worden in de nieuwe features en wat er allemaal mogelijk is met de nieuwe AI, daar moeten we zelf veel tijd in steken en studie naar doen, anders blijven we achter.”

Stellen van diagnoses

Het panel bestaat uit ongeveer 23 duizend mensen die met enige regelmaat door de Patiëntenfederatie worden bevraagd. Aan dit onderzoek deden bijna achtduizend panelleden mee. Het onderzoek maakt onderscheid in verschillende toepassingsgebieden. Zo gaat het over de AI-assistent in de zorg, een op generatieve AI gebaseerde chatfunctie om zorginhoudelijke vragen te stellen aan de zorgprofessional. Maar ook over de inzet van AI als hulpmiddel bij het stellen van diagnoses.

Hoe denken patiënten over AI?

De Patiëntenfederatie Nederland vroeg aan 7.511 leden van het patiëntenpanel hoe ze denken over AI in de zorg:

  • 13% – Ik heb ervaring met één of meer AI-toepassingen in de zorg
  • 46% – Ik sta (zeer) positief tegenover AI in de zorg
  • 44% – Ik ben neutraal of twijfel
  • 10% – Ik ben (zeer) negatief

Van degenen met ervaring met AI in de zorg is 62 procent (zeer) positief.

Positief oordeel over AI:

  • de zorg verloopt efficiënter
  • zorgverleners houden meer tijd over voor zorg
  • AI wordt gezien als hulpmiddel, niet als vervanger van zorgverleners

Negatief oordeel over AI:

  • AI is niet betrouwbaar
  • persoonlijk contact gaat verloren
  • angst voor fouten

Het onderzoek geeft aan dat mensen die ervaring met AI hebben, tevreden zijn met het gebruik ervan bij het stellen van een diagnose. Dat geldt ook voor het voorspellen van risico op een aandoening of het voorspellen van welke behandeling je het beste kunt volgen. “Bij het stellen van een diagnose en het voorspellen van risico’s vinden mensen het heel belangrijk dat er meer uitleg komt als de AI-output niet hetzelfde is als wat de arts denkt.”

Beeldvormende technieken

De vraag op welk terrein of bij welke toepassing AI het meeste zou toevoegen vanuit patiëntenperspectief, vindt Vajda lastig te beantwoorden. “Er is niet zoiets als dé patiënt. Bij een patiënt met borstkanker voegt AI bij de diagnosestelling, in het herkennen van radiologische beelden, het meeste toe. Dat is anders dan bij een chronische patiënt die thuis een zelfmanagement-app gebruikt met AI. De meest omarmde AI-toepassing is voor beeldvormende technieken. Daarnaast zien we een boost in het spraakgestuurd rapporteren.” Dat geeft niet alleen administratieve verlichting, het kan ook de patiënt helpen door medisch jargon in begrijpelijke taal om te zetten.

Vajda denkt dat op korte termijn de meeste nadruk zal komen te liggen op de diagnostische AI. “Daar kun je eerder en persoonlijker diagnoses stellen. En hoe eerder je dat doet, hoe groter de kans om beter uit zo’n traject te komen. Dat heeft zich ook al redelijk bewezen.”

Niet echt betrouwbaar

Generatieve AI-applicaties als ChatGPT zijn daarentegen nog steeds niet echt betrouwbaar. “Je hebt te maken met antwoorden die verzonnen zijn, of niet volledig. Dat wil niet zeggen dat het niet gebruikt moet worden, alleen moet je echt goed testen en valideren. Daarom wordt er nu in Nederland een validatieframework ontwikkeld. Dat gebeurt door het zogeheten RIGHT-consortium, om te bepalen wat een goede toepassing is voor spraakgestuurd rapporteren: hoe moeten deze rapporten eruitzien, wat is het gewenste percentage correcte antwoorden, hoe uitvoerig moet het zijn, wanneer is het goed genoeg voor gebruik in de klinische setting? Om dat uit te vinden moet je het samen over deze toepassingen hebben. Voor dat gesprek hebben we samen met de Hogeschool Utrecht de methodologie en een ontwerpspel ontwikkeld.”

Meer informatie delen

Bij het onderzoek lag de focus op applicaties vanuit de zorg, niet zozeer op AI-toepassingen die patiënten zelf kunnen inzetten. “Het ging ons om de communicatie richting patiënten vanuit de zorgsetting. Dat was de afweging.”

De communicatie verschilt nogal, vertelt Vajda. “Sommige zorgorganisaties en zorgprofessionals denken dat ze helemaal niks hoeven te vertellen aan de patiënt of cliënt. Zij zien AI als een toepassing zoals een digitale bloeddrukmeter of een röntgenapparaat. Andere zorgprofessionals hadden daar weer andere ideeën over. Uit ons onderzoek blijkt dat de meeste mensen willen weten of er AI gebruikt is. Als de patiënt hierover verdere informatie wil, dan is de spreekkamer waarschijnlijk niet de plek om dat allemaal te bespreken, maar dan kun je op maat informatie verstrekken.”

Eén van de belangrijkste aanbevelingen die het onderzoek opleverde, is volgens Vajda daarom dat zorgprofessionals meer informatie moeten delen over het gebruik van AI in een zorgtraject. “Mensen willen de risico’s en voordelen van AI weten, en wat de arts doet als AI iets anders aangeeft.”

De stem van de patiënt

Er zouden volgens de Patiëntenfederatie dan ook richtlijnen moeten komen over wat en hoe je als zorgverlener minimaal communiceert met de patiënt over AI-gebruik. De Patiëntenfederatie heeft een aanvraag geschreven om het formuleren van dergelijke richtlijnen in gang te zetten. “De stem van de patiënt is immers onmisbaar om applicaties goed aan te laten sluiten bij de behoeften en waarden van patiënten. Het onderzoek en de aanbevelingen zijn daarom ook aangeboden aan het ministerie van VWS. We worden als IZA/AZWA-partner uitgenodigd door VWS om deel te nemen aan rondetafelgesprekken en allerlei informatiesessies. We doen mee met de werkgroep Realisatie AI in de Zorg.”

Gebruik van chatbots

Voor een vervolgonderzoek zou Vajda zich graag richten op generatieve AI-toepassingen. “Ik denk dat de tijd daar nu rijp voor is. Vroeger gingen mensen googelen naar diagnoses, nu gebruikt iedereen chatbots zoals ChatGPT. Ik zie veel langskomen via diverse media en wetenschappelijke publicaties dat er dingen fout gaan als mensen op basis van symptomen zelf naar een diagnose gaan zoeken en hun eigen behandelingsprotocol laten schrijven door ChatGPT-achtige toepassingen. Daarom zou ik graag willen onderzoeken wat de ervaringen zijn van die 23 duizend mensen in ons panel.”

Ook in dit nummer

Over Fizier

Fizier is hét vaktijdschrift van, voor en door zorgfinancials en wordt drie keer per jaar binnen ons netwerk verspreid. Ook als je geen lid bent, kun je je op Fizier abonneren.

Adverteren in Fizier

Fizi biedt ook verschillende mogelijkheden voor adverteren. Meer informatie daarover vind je op onze pagina Fizier.