Kunstmatige intelligentie biedt veel mogelijkheden voor de zorg, bijvoorbeeld bij de vaststelling van diagnoses, verbetering van behandelingen en verlaging van de administratieve druk. Maar deze snelle vooruitgang brengt ook risico’s met zich mee, zeker als het gaat om de veiligheid van patiëntgegevens en de integriteit van de zorgsystemen.

Voordelen AI

De potentiële voordelen van AI zijn overduidelijk. Het kan enorme hoeveelheden data analyseren en patronen ontdekken die voor mensen moeilijk te zien zijn. Uit internationaal onderzoek gecoördineerd door het Radboudumc blijkt bijvoorbeeld dat AI de eerste signalen van prostaatkanker vaker herkent dan radiologen. Met de juiste data bespeurde AI 7 procent meer prostaatkankers dan de medici. Bovendien wijst AI 50 procent minder vaak een verdachte plek aan waarvan later blijkt dat het geen kanker is. Dit scheelt alleen al het aantal biopsieën dat uitgevoerd wordt.

Risico’s

Het is daarom niet zo vreemd dat AI de laatste tijd boven aan de lijst van veelbelovende technologieën staat. Maar waar nieuwe kansen liggen, schuilen ook nieuwe risico’s. De Autoriteit Persoonsgegevens heeft al gewaarschuwd dat patiëntgegevens invoeren in chatbots zoals ChatGPT verboden is omdat dat beschouwd wordt als een datalek. Er schuilt dus een gevaar voor onze dataprivacy in AI-systemen in de zorg.

En dan het risico dat kwaadwillenden AI gebruiken om slachtoffers te maken. Het kan bijvoorbeeld worden gebruikt om zeer gepersonaliseerde phishing e-mails te genereren, gericht op het verkrijgen van inloggegevens voor medische systemen. Aanvallers kunnen dankzij AI overtuigende berichten creëren die van echte medische instanties lijken te komen. Met AI kunnen ook deepfakes gecreëerd worden om artsen, patiënten of andere zorgprofessionals na te bootsen in video’s of audio-opnamen zodat het lijkt dat patiënten te maken hebben met een vertrouwde partij. Een creatieve aanvaller zou met AI ook medische beelden, zoals MRI’s of röntgenfoto’s, kunnen manipuleren. Daarmee zouden diagnoses kunnen worden vervalst. Dit kan ernstige gevolgen hebben, zoals verkeerde behandelingen of frauduleuze verzekeringsclaims.

Kritisch zijn

AI in de zorg vraagt om een heldere afweging van voordelen en risico’s. Zorginstellingen moeten kritisch zijn over welke AI-oplossingen ze inzetten en hoe die ingezet worden. De opbrengst van AI kan heel positief zijn en de werkdruk helpen verlagen of bijdragen aan het proces van diagnosestelling, maar vooralsnog is het wijs om het uitsluitend in te zetten ter ondersteuning van het huidige zorgpersoneel en wanneer er voldoende risicomitigerende maatregelen zijn getroffen.

Door: Wim Hafkamp, directeur van stichting Z-CERT.