AI-chatbots geven misleidende informatie over medicijnen

Patiënten die AI-chatbots raadplegen om informatie over medicijnen te vinden, krijgen vaak onbetrouwbare en misleidende antwoorden. Dat blijkt uit een studie die verscheen in BMJ Quality & Safety.

Chatbots aangedreven door artificiële intelligentie nemen steeds vaker de rol van traditionele zoekmachines zoals Google over. De AI-chatbots gebruiken data waarmee ze getraind zijn om antwoorden te genereren; sommige chatbots kunnen ook actuelere data opzoeken.

Om na te gaan of chatbots betrouwbare informatie over geneesmiddelen geven, stelden onderzoekers aan de AI-chatbot van Microsoft Bing vragen over de 50 meest voorgeschreven medicijnen in de VS, inclusief vragen over hoe ze in te nemen, bijwerkingen en contra-indicaties.

Voorzichtigheid geboden

Het onderzoek toont aan dat zoekmachines met AI-gestuurde chatbots in bepaalde gevallen accurate antwoorden kunnen geven op veelgestelde vragen over medicijnen. Maar evengoed waren de antwoorden herhaaldelijk onnauwkeurig of onvolledig, en vaak moeilijk te begrijpen, schrijven de onderzoekers in BMJ Quality & Safety.

Niet alle onnauwkeurigheden of ontbrekende informatie vormen een direct of ernstig risico voor de patiëntveiligheid, maar niettemin roepen de auteurs op tot voorzichtigheid. Apothekers en artsen kunnen hun patiënten maar beter aanraden om niet af te gaan op antwoorden van chatbots.

De auteurs erkennen dat er vooruitgang wordt geboekt in AI-ondersteunde zoekmachines. Door de aard waarop deze chatbots werken, zullen deze verbeteringen echter niet volstaan en blijven de risico's voor de patiëntveiligheid vooralsnog bestaan.

Gerelateerde artikels

Staking: Kartel wacht af

Het Kartel doet voorlopig geen collectieve stakingsaanzegging. Dat zegt het syndicaat in reactie op de stakingsaanzegging van BVAS. Het betekent volgens het Kartel niet dat er plots grote verdeeldheid heerst tussen artsen.

Domus Medica: “Geen staking, wel overleg”

De algemene vergadering van Domus Medica sprak zich zaterdagvoormiddag unaniem uit tegen een artsenstaking. De huisartsenvereniging kiest ervoor het overleg een kans te geven.

Frank Vandenbroucke reageert op stakingsaanzegging BVAS

In een eerder onderkoelde reactie gaat minister van Sociale Zaken en Volksgezondheid Frank Vandenbroucke (Vooruit) niet echt in op de stakingsaanzegging door BVAS.

Artsenstaking: het ultieme wapen

Ons land geen traditie van artsenstakingen. Toch zijn er enkele stakingen die in het collectief geheugen blijven hangen. De vrees voor ‘staatsgeneeskunde’ is vaak de aanleiding om tot staking over te gaan.