AI-chatbots geven misleidende informatie over medicijnen
Patiënten die AI-chatbots raadplegen om informatie over medicijnen te vinden, krijgen vaak onbetrouwbare en misleidende antwoorden. Dat blijkt uit een studie die verscheen in BMJ Quality & Safety.
Chatbots aangedreven door artificiële intelligentie nemen steeds vaker de rol van traditionele zoekmachines zoals Google over. De AI-chatbots gebruiken data waarmee ze getraind zijn om antwoorden te genereren; sommige chatbots kunnen ook actuelere data opzoeken.
Om na te gaan of chatbots betrouwbare informatie over geneesmiddelen geven, stelden onderzoekers aan de AI-chatbot van Microsoft Bing vragen over de 50 meest voorgeschreven medicijnen in de VS, inclusief vragen over hoe ze in te nemen, bijwerkingen en contra-indicaties.
Voorzichtigheid geboden
Het onderzoek toont aan dat zoekmachines met AI-gestuurde chatbots in bepaalde gevallen accurate antwoorden kunnen geven op veelgestelde vragen over medicijnen. Maar evengoed waren de antwoorden herhaaldelijk onnauwkeurig of onvolledig, en vaak moeilijk te begrijpen, schrijven de onderzoekers in BMJ Quality & Safety.
Niet alle onnauwkeurigheden of ontbrekende informatie vormen een direct of ernstig risico voor de patiëntveiligheid, maar niettemin roepen de auteurs op tot voorzichtigheid. Apothekers en artsen kunnen hun patiënten maar beter aanraden om niet af te gaan op antwoorden van chatbots.
De auteurs erkennen dat er vooruitgang wordt geboekt in AI-ondersteunde zoekmachines. Door de aard waarop deze chatbots werken, zullen deze verbeteringen echter niet volstaan en blijven de risico's voor de patiëntveiligheid vooralsnog bestaan.