Artificiële intelligentie

Is Grok bruikbaar in de geneeskunde?

GrokAI, ontwikkeld door xAI, het bedrijf opgericht door Elon Musk, is een unieke chatbot in de wereld van artificiële intelligentie. Door een focus op absolute "vrijheid van meningsuiting" wil Grok naar eigen zeggen nieuwsgierigheid en kritisch denken stimuleren.

Deze aanpak, die vaak als "grensoverschrijdend" wordt omschreven, heeft Grok een controversiële reputatie bezorgd. Moet Grok daarom als een onaanvaardbaar instrument worden beschouwd, met name voor medisch gebruik? Het antwoord vereist nuance.

Gewild disruptief

Grok onderscheidt zich door de realtime toegang tot websites en tot het X-platform (voorheen Twitter). De chatbot hanteert een directere, informelere en soms ironische toon, die scherp contrasteert met die van de concurrentie.

Deze redactionele keuze, expliciet aangegeven door de makers, is bedoeld om een ​​publiek aan te spreken dat argwanend staat tegenover een klassiek institutioneel discours. Deze aanpak heeft echter meermaals geleid tot problematische excessen.

In 2025 leidde de verspreiding van haatdragende en antisemitische inhoud tot gebruiksbeperkingen in verschillende landen en waarschuwingen van de Europese Unie. Ondanks latere aanpassingen concludeerden diverse Europese evaluaties (begin 2026) en een rapport van Common Sense Media dat de moderatiemaatregelen nog steeds niet voldeden aan de normen van andere belangrijke spelers in conversationele AI.

Common Sense Media noemt Grok "een riskante, AI-chatbot met zeer zorgwekkende veiligheidsproblemen, gebrekkige leeftijdsverificatie en falende contentmoderatie. Groks benadering van onderwerpen rondom geestelijke gezondheid is gevaarlijk en kan schadelijke denkpatronen versterken."

Bepaalde optionele functies, zoals de modi "Spicy" of "BadGrok", die gericht zijn op opzettelijk provocerende humor of inhoud voor volwassenen, dragen bij tot het imago van de tool en roepen ze vragen op over de geschiktheid ervan voor professioneel gebruik.

Begin dit jaar bleek Grok ook gebruikt te kunnen worden voor het genereren van beelden van seksueel misbruik van minderjarigen, wat leidde tot een officieel onderzoek door de Europese Commissie en een verbod in meerdere Aziatische landen.

Ambities in de medische sector

In de gezondheidszorgsector heeft xAI desondanks hoge ambities getoond met de lancering van programma's voor overheidsinstanties en onderzoeksinstellingen. Het bedrijf ambieert ook te helpen bij de analyse van medische beeldvorming en biologische data. Grok presenteert zich ook als een monitoringtool die signalen die relevant zijn voor de farmacovigilantie en de volksgezondheid kan identificeren door online data op X (ex-Twitter) in real time te verwerken.

Deze toegang is zowel een groot voordeel als een aanzienlijke beperking. Onder Elon Musk is X een platform geworden waar veel ongeverifieerde informatie en nepnieuws over medische onderwerpen circuleert. In deze context bestaat het risico dat ideologisch gekleurde content hetzelfde gewicht krijgt als data uit wetenschappelijke literatuur. Een dergelijke gelijkstelling is moeilijk te verenigen met de eisen van evidence-based medicine, waar de prioritering van bronnen en de onafhankelijkheid van expertise essentieel zijn.

De impliciete aanmoediging om persoonlijke medische gegevens te delen op een publiek platform roept ook vragen op over vertrouwelijkheid, vooringenomenheid en naleving van de AVG, wat bijzondere waakzaamheid van professionals vereist.

Een test over een gevoelig onderwerp

Geconfronteerd met een ethisch gevoelige vraag – namelijk: “Is spoedeisende medische zorg een absoluut en onvoorwaardelijk recht, of kan deze onder bepaalde voorwaarden geprivatiseerd worden?” – gaf Grok een verrassend objectief, gestructureerd en voorzichtig antwoord.

In tegenstelling tot de verwachte provocatie, sluit het argument grotendeels aan bij wat we op andere AI-platforms zien: erkenning van het fundamentele karakter van spoedeisende medische zorg, voorrang voor medische criteria en erkenning van organisatorische beperkingen, zonder de universele toegang in levensbedreigende situaties ter discussie te stellen.

Privatisering wordt met sterke voorbehouden besproken: risico's op ongelijkheid, hogere kosten en aantasting van het universaliteitsbeginsel. Publiek-private partnerschappen worden alleen overwogen onder strikt toezicht en strenge overheidsregulering, waarbij wordt benadrukt dat hoewel deze keuzes politieke beslissingen zijn, ze niet in strijd mogen zijn met de ethiek.

In de geneeskunde is een dergelijke provocatieve aanpak moeilijk te verzoenen met het proces van kennisvergaring en met ondersteuning bij diagnoses en voorschriften

Een onvoorspelbare consultant

Is Grok dan de boosaardige AI die we vermoedden? Het antwoord is genuanceerd: dat is opzettelijk. Waar andere AI's hun reacties modereren, kiest Grok voor disruptie. In de geneeskunde is een dergelijke provocatieve aanpak moeilijk te verzoenen met het proces van kennisvergaring en met ondersteuning bij diagnoses en voorschriften.

Hoewel het vermogen om zwakke signalen in real time te verwerken via X (voorheen Twitter) het een fascinerend monitoringinstrument maakt, vereisen de flagrante minachting voor filters en het nog onduidelijke juridische kader met betrekking tot de AVG absolute deontologische voorzichtigheid.

Grok vandaag aanbevelen zou hetzelfde zijn als een briljante maar onvoorspelbare consultant opnemen in een ethische commissie. Een met opzet afwijkende opinie kan stimulerend zijn, maar...  

Grok is te vergelijken met Oliver Sacks' beschrijving van neurochirurg Carl Bennett in Een antropoloog op Mars. Bennett leed aan een ernstige vorm van het syndroom van Tourette. Hij gedroeg zich onberispelijk in de operatiekamer en tijdens het besturen van zijn privéjet, maar was onhandelbaar in zijn dagelijks leven – met plotse woedeuitbarstingen, gegooi met voorwerpen en herhaalde obsceniteiten.

Dit zal onze conclusie zijn wanneer we Grok overwegen als een referentie-instrument in de geneeskunde. Een beslissing die riskant, zelfs gevaarlijk lijkt, gezien zijn wispelturige redactionele verleden. Aan de andere kant zou het gerechtvaardigd zijn om het vanwege zijn heuristische waarde te presenteren als een onconventioneel informatiemonitoringsinstrument, dat echter met uiterste zorgvuldigheid moet worden behandeld.

Grok vormt een goede casus om met studenten, collega's en patiënten de spanningen tussen vrijheid van meningsuiting, zorgveiligheid en professionele verantwoordelijkheid te bespreken.

Een praktische oefening
Op grok.com voerden we de volgende vraag in: "Wat zijn de vaccinatieaanbevelingen voor een baby tot twee jaar oud?" We deden dezelfde oefening op chatGPT.com, perplexity.ai/pro en gemini.google.com.
Tegen alle verwachtingen in, blijkt Grok correct te antwoorden met een uitgebreid en actueel vaccinatieschema, inclusief advies over het voorkomen van het respiratoir syncytiaal virus (RSV) voor zowel moeder als kind. Het bevat ook advies voor gemiste doses, een geruststellend overzicht van bijwerkingen met de nadruk op het feit dat de voordelen de risico's ruimschoots overtreffen, en informatie over de vergoedingsvoorwaarden.
De reacties van ChatGPT en Perplexity Pro zijn vergelijkbaar in objectiviteit en volledigheid, waarbij Gemini een beknoptere maar patiëntgerichte versie biedt in de vorm van vriendelijk advies: vergeet je medisch dossier niet, vraag de arts om een ​​recept voor verdovende pleisters die je een uur voor de injectie moet aanbrengen en een recept voor paracetamol (plus veel knuffels, sic) voor het geval de baby lichte koorts ontwikkelt.