Skip to main content

De Inspectie Gezondheidszorg en Jeugd (IGJ) waarschuwt zorgaanbieders om voorzichtig te zijn met generatieve AI in de zorg. Artificiële intelligentie (AI) laat computers taken uitvoeren die normaal door mensen worden gedaan. Deze technologie kan bijvoorbeeld administratieve taken verlichten, maar brengt ook nieuwe en deels onbekende risico’s met zich mee. De IGJ benadrukt dat zorgvuldige invoering en gebruik belangrijk is. Generatieve AI kan systemen aansturen die automatisch teksten, beelden, geluid en content kunnen genereren. Dit onderscheidt zich van traditionele AI, die vooral specifieke taken uitvoert, patronen herkent en beslissingen ondersteunt. Zorginstellingen experimenteren met generatieve AI om administratieve taken te verlichten, zoals geautomatiseerde verslaglegging en patiëntcommunicatie. De inspectie adviseert hierbij extra alert te zijn op de impact op de zorgkwaliteit, zowel vóór, tijdens als na de implementatie.

Belangrijke overwegingen voor implementatie

De IGJ heeft een publicatie uitgebracht om zorgorganisaties te helpen bij het veilig en verantwoord invoeren van generatieve AI. Volgens de inspectie is het belangrijk dat zorgaanbieders goed nadenken over de kennis en vaardigheden van gebruikers, de manier waarop de technologie is ontwikkeld en de wijze waarop de resultaten worden gecontroleerd. Niet alleen de veiligheid en kwaliteit van de zorg zijn van belang, maar ook de bescherming van persoonsgegevens en de informatiebeveiliging. Daarnaast wijst de IGJ erop dat de verantwoordelijkheid voor een zorgvuldige implementatie wettelijk bij de zorgaanbieder ligt. 

De cruciale rol van risicoanalyse 

Een grondige risicoanalyse is volgens IGJ essentieel. Dit is extra belangrijk, omdat sommige generatieve AI-toepassingen niet als medisch hulpmiddel worden beschouwd en daardoor geen CE-markering hebben. Een CE-markering betekent dat een product veilig is en voldoet aan de EU-regels. De IGJ waarschuwt dat generatieve AI soms foutieve of misleidende informatie kan genereren, wat bijvoorbeeld kan leiden tot medicatiefouten of foutieve beoordelingen van patiënten. 

De IGJ raadt zorgaanbieders daarom aan om kritisch te kijken naar de technologie die zij willen gebruiken, ervaringen van andere zorgverleners te raadplegen en de toepassingen uitgebreid te testen, voordat deze daadwerkelijk in gebruik worden genomen. 

Verantwoord AI-gebruik in de zorg

Het advies van de IGJ sluit aan bij de bestaande richtlijnen voor digitale zorg. Hoewel de Europese AI-wet en nieuwe richtlijnen van minister Aagema extra handvatten zullen bieden, geeft de inspectie nu al richting aan verantwoord AI-gebruik in de zorg. Inspecteur Johan Krijgsman zegt dat IGJ haar toezicht zal aanpassen als dat nodig is. 

“Onze boodschap is zeker niet dat zorgorganisaties niet met generatieve AI moeten beginnen,” benadrukt Krijgsman, “maar wel dat ze de kansen en risico’s zorgvuldig tegen elkaar moeten afwegen.” Zorgvuldige invoering en alertheid bij het gebruik van deze technologieën zijn cruciaal om zowel de kwaliteit van zorg als de patiëntveiligheid te waarborgen.

We houden je graag op de hoogte van de laatste ontwikkelingen op het gebied van zorg. Schrijf je in voor onze nieuwsbrief en blijf op de hoogte van belangrijke updates en nieuws!