AI in de zorg en de AI Act

Deel 3 van 6 — Lectoraat Recht & Digitale Technologie, 1 juli 2026

Astrid Cobben

INLEIDING

De implementatie van AI in de zorg is in volle gang. Verlichting van administratieve druk, slimme triage, diagnostische ondersteuning en gepersonaliseerde preventie zijn veelvoorkomende toepassingen.[1] Ook in specialistische zorg gaan de ontwikkelingen razendsnel.[2] Tegelijkertijd blijkt dat juridische en ethische onzekerheden het vertrouwen in AI in de zorgpraktijk kunnen ondermijnen. Onduidelijkheid over de toepasselijke kaders vertraagt het implementatieproces, waarbij privacy en aansprakelijkheid vaak de belangrijkste vraagstukken zijn. Er is dan ook een dringende behoefte aan helderheid over de Europese Verordening Artificiële Intelligentie (AI Act), zeker nu deze door de 'Digital Omnibus om AI' wordt aangepast.

Twee omnibussen, niet één. In deel 2 van deze reeks kwam de 'Digital Omnibus' aan bod, die vooral de AVG raakt. Daarnaast loopt een apart traject, de 'Digital Omnibus on AI' (formeel: het vereenvoudigingspakket voor de AI-verordening zelf), dat vooral de termijnen en enkele verplichtingen binnen de AI-verordening wijzigt. Dit onderscheid is van belang: het gaat om twee verschillende wetgevingstrajecten met een verschillende juridische status. Deze blog gaat over de Digital Omnibus on AI.

DE AI-VERORDENING EN DE DIGITAL OMNIBUS ON AI

De AI-verordening is in 2024 in werking getreden.[3] Vanaf 2 februari 2025 zijn systemen met een onaanvaardbaar risico verboden. Denk hierbij aan schadelijke manipulatie, misleiding door AI en realtime biometrische identificatie op openbare plaatsen. Ook de regels over AI-geletterdheid zijn sinds die datum van toepassing.[4]

De inwerkingtreding van de regels voor hoog risico-systemen is via de Digital Omnibus on AI uitgesteld. Zelfstandige AI-systemen (omschreven in bijlage III van de AI-verordening) dienen op 2 december 2027 aan de regels te voldoen; voor geïntegreerde systemen (omschreven in bijlage I van de AI-verordening) is dat 2 augustus 2028.[5] Hieronder vallen medische hulpmiddelen die een AI-systeem zijn of waarin AI gebruikt wordt (zie hierover deel 4 van deze reeks, over de MDR). Let wel: dit politiek akkoord van 7 mei 2026 moet op het moment van schrijven nog formeel worden bekrachtigd door de Raad en het Europees Parlement, en kan dus nog wijzigen.[6]

De AI-verordening hanteert een risicogebaseerde aanpak: hoe hoger het risico van een AI-systeem of -model, hoe strenger de eisen. Zo beoogt de verordening de bescherming van fundamentele rechten, zoals non-discriminatie, te waarborgen. Gebruikers en burgers moeten kunnen begrijpen wanneer ze met AI te maken hebben en hoe output tot stand komt. Een eenduidig rechtskader binnen Europa helpt daarbij ook de interne markt te bevorderen. De AI-verordening is in essentie productregelgeving en legt dus verplichtingen op aan aanbieders en gebruiksverantwoordelijken, toegespitst op specifieke risico's van algoritmes.

AI-systemen in de zorg vallen op basis van art. 6 lid 1 AI-verordening meestal onder de hoog risico-systemen. De Europese Commissie heeft in mei 2026 concept-richtsnoeren gepubliceerd voor een consultatieronde, om de toepassing van art. 6 AI-verordening te verduidelijken voor gebruikers, ontwikkelaars en toezichthouders, met concrete voorbeelden.[7] Het beoogde doel van het systeem (het doel dat de aanbieder voor ogen had) is daarbij bepalend voor de classificatie: informatie in gebruiksinstructies, documentatie, marketingteksten en contractvoorwaarden is van belang, en het enkel benoemen dat hoog risico gebruik is uitgesloten, is niet doorslaggevend.

WANNEER IS AI IN DE ZORG VERBODEN?

Voordat een AI-systeem in de zorg als hoog risico wordt geclassificeerd, is eerst de vraag relevant of het systeem misschien al helemaal verboden is. Op 2 februari 2025 trad het verbod op AI-praktijken met een onaanvaardbaar risico in werking (art. 5 AI-verordening). De Europese Commissie publiceerde hierover conceptrichtsnoeren die relevant zijn voor de zorgsector.[8] Een aantal categorieën is voor zorgprofessionals en ontwikkelaars van bijzonder belang:

●Manipulatie en misleiding: AI die subliminale of manipulatieve technieken gebruikt om het gedrag van patiënten te beïnvloeden op een manier die tot schade kan leiden.

●Uitbuiting van kwetsbare groepen: AI die bewust de kwetsbaarheid van patiënten uitbuit vanwege leeftijd, beperking of economische situatie, bijvoorbeeld door onnodige behandelingen te suggereren.

●Sociale scoring: AI die patiënten beoordeelt op gedrag of levensstijl om op basis daarvan toegang tot zorg te beperken of premies te berekenen.

●Emotieherkenning: AI die emoties herkent; dit is in beginsel verboden, met een uitzondering voor duidelijk omschreven medische doeleinden, zoals diagnostiek op basis van stem of beweging.

Belangrijk is dat de richtsnoeren ook ruimte laten: is gezondheid het primaire doel van het systeem, dan kunnen bepaalde technieken die anders verboden zouden zijn - zoals het sturen van gedrag - wél zijn toegestaan, bijvoorbeeld een therapeutische chatbot die iemand helpt te stoppen met roken. Waar precies de grens ligt tussen een toegestane gezondheidsinterventie en een verboden manipulatieve techniek, is niet in alle gevallen eenduidig en vergt een beoordeling van het concrete geval. Die rol is toebedeeld aan het Hof van Justitie van de Europese Unie die uiteindelijk bindende uitspraken zal doen en daarmee de interpretatie van de regels zal verhelderen. De richtsnoeren over verboden AI waren op het moment van schrijven van deze blog nog niet formeel vastgesteld.[9]

AI-MODELLEN EN -SYSTEMEN: EEN BELANGRIJK ONDERSCHEID

AI kan op basis van grote hoeveelheden data en rekenkracht analyses maken, patronen herkennen en voorspellingen doen. Hoe beter de data en de training van het model, hoe beter de uitkomsten. In de zorgsector wordt zowel gebruikgemaakt van taalgedreven AI, zoals ChatGPT, waarmee tekst gegenereerd kan worden, als van datagedreven en beeldgedreven AI-modellen. Die laatste worden getraind op medische beelden zoals röntgenfoto's of foto's van melanomen. Het AI-model leert dan patronen en afwijkingen herkennen en kan op basis daarvan zelfs leren om voorspellingen te doen. De modellen ondersteunen het zorgpersoneel in het zorgproces en bij het nemen van beslissingen.

De GPT-modellen achter ChatGPT kwalificeren in beginsel als AI-modellen voor algemene doeleinden onder de AI-verordening. De verordening maakt onderscheid tussen een AI-model voor algemene doeleinden, een AI-model en een AI-systeem. Een AI-model voor algemene doeleinden is breed inzetbaar, kan een groot scala aan taken uitvoeren en kan worden geïntegreerd in allerlei toepassingen. ChatGPT is een systeem dat op zo'n model draait, met een interface en gebruikstoepassingen eromheen. Een AI-model dat specifiek getraind is op het herkennen van afwijkingen op röntgenfoto's, is geen model voor algemene doeleinden, maar wel een AI-model. Zodra het in een systeem wordt geplaatst zodat zorgpersoneel ermee kan werken, wordt het een AI-systeem genoemd. Voor de toepassing van de AI-verordening is dit onderscheid van groot belang, en de verwachting is dat de Europese Commissie hierover nog nadere richtsnoeren zal publiceren.

SLOT

AI helpt al bij een efficiëntieslag in de zorg en bij het opvangen van personeelstekorten. Maar bij de implementatie ervan zijn nog vaak hobbels te nemen, zeker op het gebied van juridische compliance. Door onduidelijkheid over de toepassing van regelgeving zoals de AI-verordening in de praktijk, worden eenmaal ontwikkelde AI-modellen lang niet altijd gebruikt. En andersom: zorgpersoneel blijkt in de praktijk soms AI te gebruiken die niet door de zorgorganisatie is gescreend, goedgekeurd en aangekocht (zogenoemde 'schaduw-AI'). Het is steeds van belang de verplichtingen uit de AI-Verordening helder te hebben en op te volgen, ook omdat er hoge boetes kunnen volgen wanneer dat niet op orde is. De verplichtingen liggen op het terrein van risicobeheer, kwaliteitseisen aan de datasets, menselijke controle, logging, documentatie en transparantie richting gebruikers en patiënten.

HET LECTORAAT KAN U HELPEN

Heeft u behoefte aan een concrete duiding van de eisen die de AI-verordening aan uw AI-toepassing in de zorgsector stelt? Een medewerker van het lectoraat Recht & Digitale Technologie of een afstudeerder van de Juridische Hogeschool Avans & Fontys kan deze eisen voor uw specifieke situatie uiteenzetten. Neem hiervoor gerust contact op met Noortje Lavrijssen, e-mail: n.lavrijssen1@avans.nl.

VOLGENDE IN DEZE REEKS

Lees verder in deel 4: AI in de zorg en de MDR, over wanneer AI een medisch hulpmiddel is en welke verplichtingen daaruit voortvloeien.

[1]N.S. Hekster & P. Jeekel, 'AI Kompas voor nulde- en eerstelijns zorg', aic4nl.nl, 20 maart 2026.

[2]Podcastserie 'AI in de zorg'. Seizoen 1 (2024) en seizoen 2 (vanaf februari 2026).

[3]Verordening (EU) 2024/1689 van het Europees Parlement en de Raad van 13 juni 2024 tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (AI-verordening).

[4]Art. 4 en art. 5 AI-verordening.

[5]Proposal for a Regulation of the European Parliament and of the Council amending Regulations (EU) 2024/1689 and (EU) 2018/1139 as regards the simplification of the implementation of harmonised rules on artificial intelligence ('Digital Omnibus on AI'); Raad van de EU, voorlopig akkoord van 7 mei 2026, ST-9247-2026-INIT.

[6]A. Olesh, ‘De EU AI Omnibus snijdt in deadlines, niet in bureaucratie', ICT&health, 18 mei 2026.

[7] Draft Commission guidelines on the classification of high risk AI-systems, digital-strategy.ec.europa.eu, 19 mei 2026.

[8]Europese Commissie, Commission Guidelines on Prohibited Artificial Intelligence Practices established by Regulation (EU) 2024/1689 (AI Act), februari 2025 (conceptversie).

[9]Op het moment van schrijven zijn deze richtsnoeren door de Europese Commissie goedgekeurd, maar nog niet formeel vastgesteld. Zie ook: A. Olesh, 'Eerste EU AI Act-richtlijnen: wanneer is AI in de zorg verboden?', ICT&health, 11 februari 2025.