Nieuwe handleiding helpt pathologielabo's met correcte implementatie AI

WETGEVING Kunstmatige intelligentie ontwikkelt zich razendsnel en is tegenwoordig niet meer weg te denken uit ons zorgsysteem. Om de veiligheid voor patiënten te waarborgen, introduceert de Europese Unie de Artificiële Intelligence Act waar ook onze gezondheidsinstellingen aan moeten beantwoorden.

Vanaf augustus 2027 moeten alle Europese ziekenhuizen in regel zijn met de AI-Act. Deze Europese verordening legt een uniform wettelijk kader vast voor het ontwikkelen, gebruiken en opvolgen van AI-systemen binnen de EU. De regels zorgen voor meer veiligheid voor patiënten en meer vertrouwen in nieuwe technologie, en geven ontwikkelaars en ziekenhuizen duidelijke richtlijnen voor een veilige en verantwoorde inzet.

Om collega’s te ondersteunen in de correcte implementatie van AI in laboratoria voor pathologische anatomie, is door patholoog dr. Frederik Deman, in het teken van zijn doctoraat aan de UGent, een paper geschreven die als leidraad kan dienen. Daarin vertaalt hij de verordening over de inzet van AI naar de praktijk.

'Dankzij onze expertise kregen we de afgelopen jaren tientallen vragen over onze ervaring, wat we maar al te graag met collega’s delen met onder andere deze handleiding'
– dr. Frederik Deman

"Ongeveer twee jaar geleden zijn we binnen het labo pathologie van het ZAS begonnen met de invoering van AI", zegt dr. Deman. "We gebruiken het onder andere om digitale biopsiefoto's te analyseren, en kunnen zodoende uitslagen sneller doorsturen naar de aanvragende arts en de patiënt. Omdat veel van ons werk oncologische diagnostiek betreft, is tijd van essentieel belang; patiënten zitten in een onzekere periode en waarderen snelle uitslagen zeer. Dankzij onze expertise kregen we de afgelopen jaren tientallen vragen over onze ervaring, wat we maar al te graag met collega’s delen met onder andere deze handleiding.”

Checklist en praktische case

De handleiding van Deman maakt laboratoria die AI willen gebruiken wegwijs in vijftien pagina’s: welke documentatie moeten ze voorzien, welke acties moeten ze ondernemen en hoe beoordelen ze een leverancier die een product aanbiedt? Omdat hier ook heel wat administratie bij komt kijken, is er ook een checklist ontwikkeld om deze administratie behapbaar te maken en wordt er een praktische case uitgewerkt die als voorbeeld moet dienen.

Om alles juridisch correct te kaderen heeft dr. Deman daarnaast samengewerkt met onder andere Sofia Palmieri, postdoctoraal onderzoeker bij de rechtenfaculteit aan de UGent. “Juridische regels kunnen voor zorgverstrekkers soms complex en niet eenduidig duidelijk lijken. Door de Europese regelgeving samen met juristen te vertalen naar een praktische gids, hopen we AI toegankelijker te maken voor laboratoria in heel Europa”, zegt Deman. De belangrijkste Europese verenigingen voor pathologische anatomie hebben zich inmiddels achter de paper geschaard.

Transparantie AI-systemen

De Europese AI-Act stelt verschillende verplichtingen aan organisaties die kunstmatige intelligentie in hun workflow hebben geïntegreerd. Zo moeten medewerkers voldoende training krijgen en AI-geletterd zijn. Ook moet er een kwaliteitssysteem worden uitgewerkt, waarbinnen AI-systemen kunnen worden gecontroleerd. Daarnaast moeten systemen transparant zijn voor eindgebruikers, bijvoorbeeld door duidelijk te maken op welke data de tool is getraind en welke uitput van de AI afkomstig is en welke van de zorgmedewerker. Als laatste wordt tevens benadrukt dat artsen te allen tijde eindverantwoordelijk moeten blijven.

“De vereiste transparantie van de systemen zorgt voor extra veiligheid voor de patiënt. Als we weten op welke data een tool is getraind, kunnen we beter inschatten of er bijvoorbeeld bias aanwezig is. Stel dat een AI-tool hoofdzakelijk getraind is op data van mensen met een Aziatische achtergrond, dan is het niet vanzelfsprekend dat die tool even goed presteert bij een Europese populatie. Dat kan tot bias leiden of zelfs tot veiligheidsincidenten wanneer de tool verkeerd wordt toegepast”, zegt Deman. “In principe is dat niet onoverkomelijk, veel AI-systemen zijn hier open in, maar het vraagt wél dat we als laboratorium bewust met de data en output van het systeem omgaan. Ook in ons laboratorium merkten we dat het allemaal toch wat complexer was dan we vooraf hadden ingeschat, en dat er werkpunten zaten in de manier waarop we AI hadden geïmplementeerd. En als wij, die er al intensief mee bezig waren, dat ondervonden, dan kun je je voorstellen hoe moeilijk het is voor labo’s die er nog aan moeten beginnen”, besluit Deman.

De handleiding is gepubliceerd in Virchows Archiv, een van de meest voorstaande Europese wetenschappelijke tijdschriften voor pathologische anatomie.