In de VS wordt 500 miljard dollar geïnvesteerd in AI. Project Stargate is heeft een grote focus op de zorg, naast Softbank en OpenAI maakt ook de belangrijke epd-leverancier Oracle deel uit van de samenwerking, waar ook president Trump een grote rol bij speelt. Naar het lijkt, is er zeer weinig oog voor veiligheid, ethiek, regulering en verantwoorde inzet. Het zou weleens levensgevaarlijk en zeer disruptief voor de Nederlandse zorg kunnen zijn als dergelijke AI straks buiten de Nederlandse zorg om onze patiënten gaat bereiken. Het wordt daarom hoog tijd dat we in Nederland en Europa slagen gaan maken met verantwoorde inzet en opschaling van AI.

Europese regels

Een groot verschil tussen de VS en Europa is – naast het enorme verschil in de investeringen – de strenge regulering. Denk daarbij bijvoorbeeld aan de GDPR (omtrent data en privacy), de MDR (omtrent medisch hulpmiddelen) en de recente AI Act. Dat verhoogt de drempels voor ontwikkelaars en zorgt voor vertraging en oplopende kosten. Hoewel ze voor verbetering vatbaar zijn, sta ik volledig achter dergelijke regels. Het is namelijk ontzettend belangrijk dat AI op een verantwoorde wijze zijn intrede doet, want dingen terugdraaien is bijna onmogelijk als het om technologie gaat. Zeker bij zulke complexe en gevoelige technologie is het belangrijk dat kwaliteit en veiligheid gegarandeerd zijn. Deze Europese regels beschermen de zorg inderdaad tegen toepassing van schadelijke AI.

Drie risico’s

Binnen de zorg ben ik dan ook niet zo bang voor de ontwikkelingen in de Verenigde Staten. Maar wat als de Amerikaanse AI onze patiënten bereikt buiten de zorg om? De digitalisering maakt gezondheidszorg steeds proactiever, continuer en meer georganiseerd om de patiënt heen. Het wordt steeds makkelijker om data te verzamelen. Die kun je op afstand, direct en op wereldwijde schaal (laten) analyseren. Concreet betekent dit dat patiënten eenvoudiger zelf data kunnen verzamelen en voeden aan steeds sterker wordende AI’s.

Ik zie hier op drie vlakken een risico in. Ten eerste de patiëntveiligheid: patiënten kunnen gebruik gaan maken van AI die hen (ver)leidt tot onveilig of ongezond gedrag en die vooral commerciële belangen dient. Het tweede risico dat ik zie, is dat zorgverleners continu belaagd worden met eisen, wensen en adviezen van patiënten. De Googlende patiënt kan nu al uitdagend zijn voor zorgverleners, maar is inmiddels omarmd en kan ook waardevol zijn. Maar is het voor een zorgverlener nog behapbaar als alle patiënten komen met resultaten van een AI die tientallen keren zo sterk is als het huidige ChatGPT maar waarvan het niet duidelijk is of deze zinnig en betrouwbaar is?

Tot slot dreigt medisch toerisme en een vergroting van de kloof tussen rijk en arm. Patiënten kunnen ertoe worden verleid om waar dan ook ter wereld bepaalde behandelingen te ondergaan. Zo kan er een parallel zorgstelsel ontstaan. Dat zou de kloof tussen arm en rijk nog verder vergroten en erger nog: het kan levensgevaarlijk zijn als in dit parallelle zorgstelsel primair commerciële belangen worden gediend en angsten worden uitgebuit.

Hype

Uiteraard zijn deze scenario’s nog een aantal jaar van ons vandaan. Maar laten we niet onderschatten hoe hard de ontwikkelingen omtrent AI gaan, hoe ver de zorg achterloopt en hoe zeer de toegankelijkheid van zorg onder druk staat. Er is veel hype, maar er is geen twijfel over of AI blijft en een grotere impact zal hebben dan de komst van het internet. Voorlopig is het geen optie om Amerikaanse technologie uit te sluiten, daar pleit ik ook niet voor.

Toekomst zelf vormgeven

Waar is wel voor pleit, is om in Nederland en in Europees verband stappen te zetten. En dan bedoel ik niet een clubje enthousiastelingen een pilot laten uitvoeren. Ziekenhuizen moeten hun afwachtende houding laten varen en veel meer samenwerken, met elkaar en met partners. We kunnen AI niet tegenhouden en we lijken zelfs niet zonder te kunnen om met de toenemende personeelstekorten aan de nog sneller toenemende zorgvraag te voldoen. Maar het is cruciaal dat dit gebeurt op een verantwoorde manier, waar de zorg controle heeft over hoe AI patiënten helpt en de zorg van de toekomst vormgeeft. Dat kan alleen als daar ook naar gehandeld wordt.

DeepSeek als wake-up-call

Recentelijk bracht DeepSeek een schokgolf door AI-land met de lancering van een AI die (volgens hen) slechts een fractie heeft gekost van de grote Amerikaanse modellen, maar vergelijkbaar presteert. Mogelijk betekent dit dat AI-ontwikkeling ook in Europa laagdrempeliger wordt. Voor mij betekent het op dit moment vooral dat de ontwikkelingen nog sneller gaan dan gedacht en dat ook China een grote rol in de AI-ontwikkelingen gaat spelen. Ook daar wordt ongekend op AI ingezet en een enorme golf aan AI-talent opgeleid.

Dit maakt mijn oproep voor de Nederlandse en Europese zorg alleen maar relevanter: kom in actie, doe het nu en doe het samen.