Afgelopen Prinsjesdag klonk het in de troonrede: "Alle razendsnelle ontwikkelingen rond digitalisering en AI moeten in goede en veilige banen worden geleid. Maar de kansen die er liggen zijn enorm." Het kabinet wil daarom een nationale investeringsinstelling en een speciale organisatie voor grensverleggende technologische doorbraken. Mooie ambities, maar wat betekenen ze op een plek waar de druk (al te) groot is, zoals het ziekenhuis, met te weinig handen en steeds meer patiënten? Is AI daar dé oplossing, of zijn de risico's nog te groot? We spraken twee vrouwen, los van elkaar, die dagelijks beslissen wat AI in de zorg wel en niet mag.
Fleur Meijer is net klaar met haar opleiding tot cardioloog en werkt in het OLVG in Amsterdam. Ze koos niet voor een klassiek subspecialisme, maar voor e-health en digitalisering als speerpunt. Ze gebruikt dagelijks AI-tools in haar werk, zit in een werkgroep die AI in de opleiding tot cardioloog moet brengen, en bouwt thuis haar eigen apps met Claude Code.
Sade Krijgsman is klinisch informaticus in het Maasstad Ziekenhuis in Rotterdam en AI-consultant bij Romion Health en werkt al ruim zeven jaar aan de verantwoorde inzet van AI in de zorg. Ze schreef mee aan landelijke leidraden over de kwaliteit en veiligheid van AI in de zorg en staat geregeld op congressen en in panels, vaak als enige vrouw en als jongste.
Welke AI draait er nu al in het ziekenhuis?
Sade: “Grofweg zie je drie soorten toepassingen. De eerste en meest volwassen is AI voor beelddiagnostiek: deep learning-modellen, een vorm van AI die patronen leert herkennen uit heel veel voorbeelden, getraind op beelden waarbij al is aangegeven wat erop te zien is. Meer dan 80 procent van alle medische AI op de commerciële markt is op dit moment bedoeld voor de radiologie. De tweede soort zijn voorspelmodellen, bijvoorbeeld voor de kans dat iemand na een operatie een infectie krijgt. Die gebruiken gegevens uit het elektronisch patiëntendossier, het EPD, zoals bloeddruk, labwaarden en leeftijd. De derde soort kwam rond 2023, met de komst van grote taalmodellen: denk aan informatie samenvatten uit het EPD, een AI-chatbot voor het opzoeken van richtlijnen, of spraakgestuurd rapporteren in de spreekkamer. Voor het eerst kun je AI op grotere schaal met vrije tekst in het dossier laten werken, en je ziet dan ook dat iedereen dit het liefste snel wil invoeren.”
Fleur: “In de cardiologie doen we al veel digitaal: patiënten geven thuis hun gewicht en bloeddruk door via een app, en we geven Fitbits mee waarmee ze bij klachten een hartfilmpje maken. Een Apple Watch herkent zelf al boezemfibrilleren, en dat klopt bijna altijd. Qua AI zie ik vooral de taalmodellen. Sommige zorgverleners werken al met ambient listening: een apparaatje neemt het gesprek met de patiënt op en maakt er direct een notitie van, met een voorstel voor het beleid. En zelf gebruik ik bijna dagelijks Vera Health, een AI-tool die antwoorden onderbouwt met wetenschappelijke literatuur en richtlijnen. “Zie ik geen zeldzame diagnose over het hoofd?” Daar vraag ik naar.
Waarom is vernieuwen in een ziekenhuis zo lastig?
Fleur: “Buiten het ziekenhuis kun je al zoveel met AI, maar binnen zitten we vast aan ons EPD. Zie het als een besturingssysteem, zoals Windows op je computer: alles loopt erdoorheen. Wij werken met Epic, een Amerikaanse partij. Kleine aanpassingen doet onze eigen Epic-afdeling, voor de grote dingen zijn we afhankelijk van Amerika. Een model dat mijn notities klaarzet voor mijn spreekuur, dat kunnen wij niet zelf bouwen. Er zijn veel bedrijven met hartstikke goede ideeën, maar uiteindelijk wil je dat gekoppeld hebben aan het EPD, en daar staat een dikke vette muur met allemaal sloten.”
Wat is Epic?
Epic is een Amerikaans softwarebedrijf dat elektronische patiëntendossiers maakt. In Nederland draait het in 16 procent van de ziekenhuizen, waaronder het OLVG en Amsterdam UMC. ChipSoft zit met HiX in 76 procent. Sinds 2023 bouwt Epic samen met Microsoft AI in het dossier, op basis van de modellen van OpenAI.
Waarom dit ertoe doet: wat de leverancier van het EPD niet zelf bouwt of toelaat, komt moeilijk in het dagelijks werk van een zorgverlener terecht.
Levert AI tijd op?
Sade: “Wat ik nu zie, zeker bij de toepassing van taalmodellen, is dat het niet per se tijd bespaart. En in werkprocessen waar dit wel het geval is, staat dit niet meteen gelijk aan minder FTE in de zorg, zoals de verwachting wel is bij AI als arbeidsbesparende technologie. Dat zie je ook nog niet terug in de wetenschappelijke literatuur.”
Fleur: “Mijn spreekuur voorbereiden kost me veel tijd: Een patiënt van 84 is al bij tal van specialismen geweest, dus ik zit constant te kopiëren en plakken uit andere notities om mijn eigen notitie te maken. Als een model die notitie straks rechtstreeks uit het EPD klaarzet, met een voorstel voor de conclusie en het beleid, zou me dat wel een uur per dag schelen. Nu is het alleen maar ctrl-c, ctrl-v wat ik aan het doen ben.”
Sade: “Wat ik wel zie, is dat het meer werkplezier oplevert. Zorgverleners ervaren minder werkdruk en hebben meer energie aan het eind van de dag. Met spraakgestuurd rapporteren kun je de patiënt weer aankijken in plaats van de hele tijd te typen. Dat telt ook mee, zeker nu het behouden van medewerkers in de hele zorg zo belangrijk is. Noem het geen business case, maar een value case.
Echte efficiëntie verwacht ik pas als AI ook vervolgacties in het EPD ondersteunt, zoals alvast een vervolgafspraak of een labaanvraag klaarzetten. En bij AI-toepassingen die ziektes eerder opsporen, gaat de winst vooral naar de kwaliteit van zorg. Alleen is het daar lastiger een business case voor te maken: de kosten liggen bij één afdeling, terwijl de opbrengst vaak later in de keten zit, of zelfs buiten het ziekenhuis. En zo is onze zorg vaak niet bekostigd.”
“Dat zou me wel een uur per dag schelen. Nu is het alleen maar ctrl-c, ctrl-v.”
Hoe test je of een tool veilig is?
Sade: “Voor een AI-tool die ondersteunt bij spraakgestuurd rapporteren hebben we in mijn ziekenhuis met medisch specialisten van verschillende specialismen getest hoeveel hallucinaties in de concept notities zaten, dus verzonnen informatie, hoeveel omissies, dus ontbrekende informatie, en hoeveel bias. Op die drie punten garandeert de leverancier in ons geval ook een bepaalde prestatie. We vonden onder de 5% hallucinaties en omissies, maar dit waren geen klinisch relevante fouten, en we vonden geen bias, en dat viel binnen de verwachting. Maar dat is een eenmalige test voordat je live gaat. Daarna moet je de kwaliteit ook blijven monitoren en de zorgverlener moet de concept notities controleren voordat deze het EPD in gaan. Dit soort AI-tools voelen heel intuïtief en mensen zijn er tevreden over, maar een tevreden zorgverlener betekent niet dat ook de kwaliteit goed is.”
Werkt een tool voor iedere patiënt even goed?
Sade: “Niet altijd, en dat komt vaak doordat de brondata onvoldoende representatief is. Ontwikkelaars van AI-modellen halen hun trainingsdata uit onderzoek of uit openbare datasets, en die komen meestal uit Westerse landen. Patiëntendata uit Afrikaanse landen zijn daarin bijvoorbeeld minder vertegenwoordigd.
Wij testen subgroepen meestal op leeftijd, gender en subspecialisme. Maar etnische achtergrond wordt meestal niet vastgelegd, en als het al wordt vastgelegd, mag je deze data niet zomaar hergebruiken wegens privacy- en ethische bezwaren.
Ik werk in Rotterdam-Zuid, met een heel diverse patiëntenpopulatie en wij willen als ziekenhuis inclusieve zorg bieden. Daar letten wij dus ook goed op bij de inzet van AI. Als wij Whisper (spraakherkenningmodel van OpenAI) zouden inzetten dan scoort dat minder goed dan een model dat met Nederlandse data is getraind en beter met diverse Nederlandse accenten en dialecten omgaat.”
Fleur: “Medische data is nog steeds vooral data van mannen. Vrouwen doen vaak niet mee aan onderzoek, omdat ze hormonale schommelingen hebben, zwanger zijn of willen worden, of in de overgang zitten. Dat probleem bestond al voor de AI-revolutie. Ook veel medicijnen zijn vooral op mannen getest, terwijl ze bij vrouwen een ander effect kunnen hebben.”
Wie is verantwoordelijk als het misgaat?
Fleur: “Uiteindelijk hebben wij de eindverantwoordelijkheid. Een beslissing nemen met hulp van AI, daar is niks mis mee, maar jij, als zorgverlener, neemt die beslissing. Als een patiënt je voor de tuchtrechter daagt, kun je niet zeggen: ‘Eigenlijk had mijn taalmodel die diagnose gesteld en die heb ik overgenomen.’ Wat mij betreft mag AI dingen klaarzetten, maar niet accorderen.”
Sade: “Leveranciers dekken zich in door expliciet te maken dat de zorgverlener de uitkomst moet controleren. Maar we hebben ook te maken met het risico op ‘automation bias’ (blind vertrouwen op de uitkomst) na verloop van tijd. Persoonlijk vind ik dat er veel te veel verantwoordelijkheid bij de individuele zorgverlener ligt. De leverancier moet goede technologie leveren, die goed is getest en in de gaten wordt gehouden. De organisatie moet een duidelijke visie en beleid op AI hebben. Zij moet de zorgverlener ook de tijd en ruimte geven om te kunnen controleren. En de zorgverlener heeft kennis en vaardigheden nodig voor verantwoord gebruik van AI: AI-geletterdheid en verandervermogen. Mensen moeten echt anders gaan werken, en als daar te weinig tijd voor is, stokt het.”
“Er ligt veel te veel verantwoordelijkheid bij de zorgverlener.”
Wat als de volgende generatie zorgverleners het zelf niet meer leert?
Fleur: “Nu scrolt een cardioloog door de beelden van een echo, meestal zo’n veertig, en beoordeelt hoe goed de linker- en rechterkamer pompen. Daar word je in opgeleid, en hoe vaker je het doet, hoe beter je erin wordt. Er zijn nu tools die een echo automatisch beoordelen. Als AI straks al die beelden beoordeelt en een diagnose klaarzet, en jij hoeft alleen nog te checken, dan krijg je misschien een generatie cardiologen die nooit heeft geleerd hoe je een echo beoordeelt. Qua efficiëntie is dat een enorme winst, maar wat doet het met de kwaliteit?
Ik zit in een werkgroep die het curriculum gaat aanpassen. Er zit nu nog helemaal geen AI in de opleiding geneeskunde, en ook niet in de opleiding tot cardioloog, terwijl de tools al wel worden gebruikt.
Ik typ nu een vraag in en heb meteen het antwoord uit de Europese richtlijn. Maar ik heb de richtlijnen eerst zelf geleerd, dus ik kan het nog steeds dubbelchecken. Als je alleen nog wordt opgeleid met zo’n tool, hoe zelfkritisch kun je dan nog zijn?
Wat ik er wel voor terugkrijg, is meer ruimte in mijn hoofd voor een goed gesprek met de patiënt. Hoe iemand binnenkomt, hoe iemand praat, daar haal je zoveel uit, en dat gaat een taalmodel nooit vangen: die sociale vaardigheden worden ons sterkste punt.”
Sade: “Die zorg hoor ik vaak. Onlangs stond ik voor een groep medisch specialisten en vroeg iemand: hoe zorgen we ervoor dat we niet te afhankelijk worden van deze technologie? Dat voelen we allemaal, niemand in het ziekenhuis zal zeggen dat zij zich daar geen zorgen over maakt. Tegelijkertijd is dit een maatschappelijke kwestie en speelt dit ook buiten de zorg.”
Wat is jullie grootste zorg?
Fleur: “In veel ziekenhuizen wordt het wiel opnieuw uitgevonden, terwijl we zoveel van elkaar kunnen leren. Wat bij de orthopedie werkt, kan bij ons, bij cardiologie, ook goed werken.”
Sade: “Mijn grootste zorg is dat we te veel vanuit de technologie denken en niet vanuit het probleem: Wat is het probleem, is er wel een probleem, en is AI dan de juiste oplossing? Moeten we niet eerst iets aan het proces veranderen? Herkenbare uitspraken zoals “we moeten iets met AI”. Of er wordt gevraagd waarom wij dat voorspelmodel nog niet hebben, terwijl het buurtziekenhuis het al wel heeft.
De implementatie van generatieve AI-tools gaat nu snel. Als die niet goed worden gevalideerd voordat ze grootschalig worden ingezet, kan dat gevolgen hebben voor de patiëntveiligheid. Voor mij begint het bij een basisniveau aan kennis en vaardigheden over AI, en bij kritische vragen durven stellen.”
Onze outside-in take
Het tekort in de zorg is al jaren een probleem, en een groot deel van de tijd van zorgverleners gaat op aan administratie: notities herschrijven, teruglezen en overnemen. Daar ligt een duidelijke kans voor AI, want elk uur dat daar vrijkomt, kan terug naar de patiënt.
Maar laten we niet vergeten waarom Fleur elke ochtend zit te kopiëren en plakken. Dat komt niet door een gebrek aan AI. Het komt doordat specialismen los van elkaar werken, elk met hun eigen notities in het dossier, een EPD dat niet altijd efficiënt werkt, en doordat de zorg via verschillende loketten wordt gefinancierd. Een taalmodel dat al die losse stukken samenvat, helpt wel, maar lost het onderliggende probleem niet op.
Laten we daarom bij alle AI-ambitie altijd starten met één vraag, of deze nu in de zorg of daarbuiten gesteld wordt: is dit eigenlijk wel een AI-probleem? Soms is het antwoord ja, maar soms ligt de oplossing ook in het proces, de systemen of de financiering.
Stel altijd eerst de vraag: Wat is het probleem? Is AI wel de juiste oplossing, of moet (bijvoorbeeld) eerst het proces worden aangepast?
Waar het antwoord volgens ons wél ja is: een Nederlands speech-to-textmodel dat alle accenten verstaat en notities direct in het EPD zet, zodat de zorgverlener de volle aandacht heeft voor de patiënt in plaats van voor het scherm. Wat ons betreft mag dit bovenaan de lijst met use cases voor de nationale investeringsinstelling en de organisatie voor grensverleggende technologische doorbraken die het kabinet op Prinsjesdag aankondigde!
Meer her/ai?
🛠️ Kom naar een van onze hands-on AI-workshops. Op woensdag 14 oktober, woensdag 18 november en woensdag 9 december in Amsterdam, op een prachtige locatie achter de Bijenkorf. Van 09:30 tot 14:30, inclusief lunch. Je leert de frameworks en bouwt daarna iets echts.
Nieuw: Vanaf nu geven we ook online workshops van twee uur: je doet live mee op een vast moment, en achteraf krijg je de opname, zodat je alles in je eigen tijd kunt terugkijken en toepassen. Voor inschrijven en meer informatie klik hier.
🏢 Workshop voor jouw organisatie of team. Wil je met met je collega’s leren wat AI wel en niet kan? We geven workshops op maat, bij jullie op locatie of online. Mail hello@herai.work en we vertellen je graag meer!
🏡 Nieuw: Een AI-weekend in maart. We werken aan een heus her/ai-weekend! Twee dagen ergens lekker weg, met goed eten en samen met andere (ondernemende - en ja dat ben je ook als je loondienst bent!) vrouwen. Je werkt aan een eigen case die voor jou relevant is, en het is vooral bouwen, bouwen, bouwen. We gaan veel dieper in op tools als Lovable en Claude Design, waarmee je zonder code een app of website maakt, en Weavy.ai, voor het maken van content. Samen zetten we grote stappen. Interesse? Mail ons op hello@herai.work.
💛 Word paid subscriber. Steun ons werk en krijg er extra’s bij: korting op onze workshops, gratis 1-op-1-sessies en toegang tot ons archief.