De mogelijke voordelen van AI zijn inmiddels overduidelijk. Specifieke aandoeningen herkennen, risico’s nauwkeuriger én sneller identificeren, ondersteuning bij het nemen van behandelbeslissingen – AI biedt de zorg veel innovatiemogelijkheden die zowel zorgverleners als de patiëntresultaten ten goede komen.

Ethische risico’s

Tegelijkertijd brengt het AI-gebruik in de zorg ook ethische risico’s met zich mee. De Europese AI Act, die in maart officieel is aangenomen door het Europese Parlement, moet deze risico’s aanpakken en verantwoord AI-gebruik stimuleren en onder controle houden. De zorg wordt nu geconfronteerd met een cruciale vraag: is de AI Act een remmer of een stimulans voor innovatie?

Tijd en geld

De waarheid ligt in het midden. Laten we beginnen met de veelgehoorde kritiek:het naleven van de AI Act gaat ongetwijfeld tijd en geld kosten. De AI Act moet binnen nu en twee jaar in fases worden geïmplementeerd; tegelijkertijd is een ware race gaande om AI op allerlei manieren te integreren in de gezondheidszorg. Het voldoen aan de strikte regels van de AI Act vereist meer onderzoek naar de AI-systemen die vervolgens uitgebreid getest moeten worden. Daarnaast moeten deze onderzoeken en resultaten allemaal worden gedocumenteerd.

Rem op innovatie

Deze extra inspanningen kunnen vooral kleine bedrijven en start-ups financieel belasten en processen en daarmee innovatie vertragen. Maar laten we niet vergeten waarom deze regels zijn opgesteld: om patiënten te beschermen tegen de risico’s van AI-systemen die niet volledig transparant zijn, of datasets die niet goed genoeg getraind zijn op bepaalde aandoeningen. Denk alleen al aan een patiënt die een verkeerde diagnose krijgt omdat een AI-systeem voor medische beeldvorming, zoals bij MRI-scans, niet voldoende was getraind op een bepaalde specifieke aandoening. Dus is het niet beter om pas op de plaats te maken en ervoor te zorgen dat de AI-oplossingen die we implementeren daadwerkelijk veilig en effectief zijn? Een vertraging in innovatie is een kleine prijs om te betalen in vergelijking met de risico’s van het overhaast invoeren van onvoldoende geteste technologieën in de gezondheidszorg.

Voordelen van de AI Act

Aan de andere kant biedt de AI Act aanzienlijke voordelen. Het vergroot het vertrouwen en de acceptatie van AI-toepassingen bij zowel zorgverleners als patiënten, wat essentieel is voor de brede adoptie ervan. Bovendien stimuleert de het de ontwikkeling van ethisch verantwoorde en veilige AI. Hierdoor kunnen investeringen in controversiële technologieën, bijvoorbeeld door onvoldoende geteste AI-modellen of datasets vol met biases, worden vermeden.

Transparante algoritmes

Een ander belangrijk aspect is de transparantie en verantwoording die de AI-wetgeving bevordert. Dit opent de deur om AI-systemen uitlegbaar te maken, wat inhoudt dat de besluitvormingsprocessen en resultaten van een AI-systeem op een begrijpelijke manier verklaard kan worden aan de gebruiker. Het vermogen om te begrijpen hoe en waarom een AI-systeem tot een bepaalde conclusie of aanbeveling komt kan Europese bedrijven juist een concurrentievoordeel geven.

En laten we niet vergeten dat naleving van deze regels toegang biedt tot de enorme Europese markt, wat juist een sterke stimulans kan zijn voor innovatie in de zorg.

Wereldwijde standaard

Net zoals met de General Data Protection Regulation (GDPR) kunnen we erop vertrouwen dat de Europese Unie ook de taak aankan om de AI Act succesvol in te voeren – met de potentie om wereldwijd de standaard te worden voor het reguleren van AI-systemen. Dit verbetert niet alleen de veiligheid en kwaliteit van AI in de zorg wereldwijd, maar positioneert de Europese Unie ook als koploper in het ontwikkelen van ethische en effectieve AI-toepassingen voor de zorg.

De AI Act is dus een noodzakelijke stap om de potentiële risico’s van AI in de gezondheidszorg te beheersen, terwijl het tegelijkertijd het vertrouwen en de innovatie in de zorg bevordert.

Door Joop Snijder, Head of Research Center AI bij Info Support