Pas als de randvoorwaarden voor veilig gebruik van AI in de zorg zijn gewaarborgd, mag het economisch perspectief aan de orde komen.

Stel je voor: je komt in het ziekenhuis met aanhoudende pijn op de borst. De arts schakelt een AI-systeem in om snel een diagnose te stellen. Dit systeem heeft duizenden patiëntendossiers geanalyseerd en daardoor geleerd om patronen te herkennen die kunnen wijzen op een specifieke aandoening. Binnen enkele seconden verschijnt er een zeldzame hartziekte op het scherm, en AI adviseert meteen een behandelplan. Maar wat jij en de arts niet weten, is dat dit AI-systeem is ontwikkeld met patiëntendossiers uit een Amerikaans ziekenhuis, waar vooral mannen worden behandeld.

Het algoritme heeft nooit ‘geleerd’ over de gezondheid van vrouwen in jouw regio en herkent daarom jouw symptomen niet. Wat als je klachten door iets heel anders worden veroorzaakt, zoals een longziekte die vaker voorkomt bij vrouwen van jouw leeftijd? Een verkeerde diagnose kan leiden tot een onjuiste behandeling met ernstige gevolgen.

Zonder duidelijke regels over kwaliteit en veiligheid kan het gebruik van AI in de zorg levensgevaarlijk zijn. Hier hoort bij dat artsen worden begeleid in hoe zij AI veilig kunnen inzetten.

De noodzaak van expliciete richtlijnen en protocollen

Veel artsen zijn nu terughoudend met AI vanwege de angst voor tuchtklachten of aansprakelijkheid. De nieuwe Europese AI-verordening biedt weliswaar een basis, maar deze wetgeving is niet specifiek genoeg voor de gezondheidszorg. Een duidelijk regelgevend kader kan deze onzekerheid wegnemen. Dit kader moet ontwikkeld worden door de beroepsgroep zelf, samen met juristen en ethici.

Gedetailleerde richtlijnen kunnen artsen helpen bij het gebruik van AI-technologie, zodat zij kunnen beoordelen wanneer en hoe zij AI veilig kunnen integreren in hun praktijk. Dit omvat ook standaarden voor de representativiteit van datasets waarmee AI-systemen worden getraind. Artsen moeten kunnen vertrouwen op de kwaliteit van de data waarop een AI-systeem is gebaseerd om te beoordelen of het geschikt is voor de behandeling van hun patiënt.

Regelgeving versterkt innovatie

Heldere regels zijn niet alleen cruciaal voor de veiligheid van patiënten en het vertrouwen van zorgverleners, maar ook voor bedrijven die AI-systemen ontwikkelen. Het vaak gehoorde argument dat strenge regelgeving innovatie belemmert, is misleidend. Juist het gebrek aan duidelijke regels zorgt voor onzekerheid, wat de ontwikkeling van technologie vertraagt. Bedrijven hebben baat bij voorspelbare, transparante regulering, omdat dit hen helpt AI-systemen te ontwikkelen die voldoen aan gestandaardiseerde veiligheidseisen.

De focus op economische voordelen komt te vroeg

Voordat we kunnen praten over kostenbesparingen, moeten we eerst zekerstellen dat AI veilig wordt ingezet. Zonder duidelijke richtlijnen en protocollen dreigen onbetrouwbare AI-systemen meer problemen te veroorzaken dan op te lossen. De beroepsgroep is nu aan zet: eerst reguleren, dan pas rekenen.

Door: Hannah van Kolfschooten, docent-onderzoeker Gezondheidsrecht aan de Universiteit van Amsterdam. Ze doet onderzoek naar regulering van AI in de zorg