WHO biedt richtlijnen voor artificiële intelligentie in zorg
De Wereldgezondheidsorganisatie (WHO) wil dat overheden geavanceerde AI-modellen evalueren vooraleer ze in de gezondheidszorg worden ingezet. De WHO heeft daarvoor 40 aanbevelingen opgesteld.
Het rapport gaat over large multimodal models (LLMs), een vorm van generatieve artificiële intelligentie die op basis van een input (een 'prompt') teksten, beelden of video's kan produceren. Via chatbots zoals ChatGPT heeft het grote publiek kennis kunnen maken met deze technologie.
LMM's worden ook al ingezet voor gezondheidsgerelateerde doeleinden. Ze kunnen bijvoorbeeld verslagen opstellen, formulieren invullen en ondersteunen bij diagnose en therapie. Maar dat is volgens de WHO niet zonder gevaar. Er zijn gedocumenteerde risico's dat een LLM onjuiste, onnauwkeurige, bevooroordeelde of onvolledige output kan genereren, wat schadelijk kan zijn voor mensen de gezondheidsbeslissingen nemen op basis van die informatie. Het rapport verwijst naar een sterk gemediatiseerd geval van een Belg die zelfdoding gepleegd zou hebben na zes weken van intense gesprekken met een LLM over zijn geestelijke toestand.
Een ander risico is dat LLM's getraind worden met datasets van slechte kwaliteit of met een inherente bias qua ras, etniciteit, afkomst, geslacht, geslachtsidentiteit of leeftijd. Daarom is het essentieel dat de modellen niet alleen data gebruiken uit rijke landen. De ontwikkeling en regulering van LLM's mag niet overgelaten worden aan techbedrijven, zegt de WHO.
40 richtlijnen
De organisatie formuleert 40 richtlijnen voor de ontwikkeling en evaluatie van LLM's in de gezondheidszorg, zoals onafhankelijke audits voor en tijdens het gebruik. Software-ontwikkelaars die werken aan een LLM dat in de gezondheidszorg of wetenschappelijk onderzoek ingezet kunnen worden, zouden dezelfde ethische vorming moeten krijgen als artsen.
"Generatieve AI-technologieën hebben het potentieel om de gezondheidszorg te verbeteren, maar alleen als degenen die deze technologieën ontwikkelen, reguleren en gebruiken de bijbehorende risico's identificeren en er volledig rekening mee houden", zegt Dr Jeremy Farrar, Chief Scientist bij de WHO. "We hebben transparante informatie en beleid nodig om het ontwerp, de ontwikkeling en het gebruik van LMM's te beheren om betere gezondheidsresultaten te bereiken en hardnekkige ongelijkheden in gezondheid te overwinnen."
Het volledige rapport is hier te vinden.