De kansen van verantwoorde AI in de gezondheidszorg
Artificiële intelligentie (AI) biedt grote maatschappelijke en economische kansen voor de gezondheidszorg. Deze kansen kunnen echter alleen worden gerealiseerd wanneer ethische, juridische, maatschappelijke en economische (ELSA) aspecten structureel worden geanticipeerd en meegewogen in het ontwerp en de inzet van AI-systemen. In de zorg is dit extra urgent: AI-toepassingen die niet aansluiten bij maatschappelijke verwachtingen worden vaak niet vertrouwd of geaccepteerd door zorgprofessionals en patiënten. Dit kan leiden tot problemen in de zorg, zoals misdiagnoses, vertraagde behandeling en grotere gezondheidsverschillen.
Hoewel de zorgsector wereldwijd het grootste investeringsdomein voor AI is, blijft grootschalige implementatie in de dagelijkse zorgpraktijk achter. Deze kloof tussen technologische belofte en daadwerkelijke toepassing, de zogenoemde AI chasm, vraagt om gerichte, waarde-gedreven oplossingen.
De rol van AI in de medische praktijk
AI speelt een steeds grotere rol in diagnostiek, besluitondersteuning, risicovoorspelling en de organisatie van zorg. Tegelijkertijd wordt medische AI geconfronteerd met een snel veranderend landschap van ethische richtlijnen en juridische kaders, zoals de EU AI Act en nationale beleidsinitiatieven. Hoewel deze kaders belangrijk zijn voor veiligheid en bescherming van fundamentele rechten, ontstaan er in de klinische praktijk fricties.
Het is vaak onduidelijk of regelgeving voldoende aansluit bij de waarden en behoeften van gebruikers, hoe abstracte normen vertaald moeten worden naar concrete handelingsperspectieven en of naleving van wettelijke eisen daadwerkelijk leidt tot acceptatie en gebruik van AI in de zorg. Zonder aandacht voor deze vragen dreigt regelgeving de implementatie van waardevolle medische AI eerder te belemmeren dan te faciliteren.
Over het VAMAI ELSA Lab
Het Value Alignment in Medical AI (VAMAI) ELSA Lab richt zich op het overbruggen van de kloof tussen regelgeving, ethische ambities en de dagelijkse zorgpraktijk. Het lab vertrekt vanuit het uitgangspunt dat veilige AI alleen niet voldoende is: medische AI moet daadwerkelijk waarde toevoegen aan de zorg en daarom afgestemd zijn op menselijke waarden. VAMAI onderzoekt hoe waarden van patiënten en zorgprofessionals kunnen worden geïdentificeerd, geanalyseerd en verankerd in de ontwikkeling, implementatie en evaluatie van medische AI. Daarbij combineert het lab inzichten uit ethiek, recht, sociale wetenschappen en AI-onderzoek, en betrekt het patiënten en zorgverleners structureel in het onderzoeksproces.
Het doel van het VAMAI ELSA Lab is het mogelijk maken van medische AI die niet alleen technisch betrouwbaar en juridisch compliant is, maar ook wordt vertrouwd en gebruikt in de zorgpraktijk doordat deze aantoonbaar aansluit bij de waarden en behoeften van patiënten en zorgprofessionals.
Richting geven aan waarde-afgestemde medische AI
ELSA Lab VAMAI ontwikkelt kennis en praktische handvatten om fricties tussen medische AI, regelgeving en de klinische praktijk te verminderen en zo betekenisvolle implementatie van AI in de zorg mogelijk te maken. Het lab werkt onder andere aan:
- Inzicht in welke waarden voor patiënten en zorgprofessionals centraal staan bij medische AI, en hoe deze samenhangen met persoonlijke waarden, vertrouwen, acceptatie en rechtvaardige zorg.
- Analyse van spanningen tussen bestaande en opkomende regelgeving, zoals de EU AI Act, en de dagelijkse zorgpraktijk, en hoe deze spanningen kunnen worden overbrugd.
- Ontwikkeling van concrete richtlijnen en methoden om abstracte ethische en juridische vereisten te vertalen naar toepasbare ontwerp- en implementatiekeuzes.
- Toepassing en doorontwikkeling van value alignment en explainable AI in realistische medische usecases, op individueel, organisatorisch en maatschappelijk niveau.
Samenwerkingspartners
De uitdagingen rondom value alignment in medische AI vragen om een interdisciplinaire en sector-overstijgende aanpak. Binnen het VAMAI ELSA Lab werken academische onderzoekers, zorgprofessionals, patiëntvertegenwoordigers, technologieontwikkelaars en beleidsmakers samen. Door deze quadruple-helix-samenwerking draagt het lab bij aan medische AI die niet alleen innovatief en compliant is, maar ook daadwerkelijk wordt vertrouwd en gebruikt in de zorgpraktijk. Er zijn veel samenwekringspartners, waarover later meer.
Meer weten of samenwerken?
Neem contact op door een mail te sturen naar Karin Jongsma, principal investigator, via k.r.jongsma@umcutrecht.nl.
