Wat is de impact van ChatGPT op onze hersenen?

Een team van MIT-onderzoekers onderzocht de hersenactiviteit van drie groepen studenten die gevraagd werd een essay te schrijven met behulp van ChatGPT, Google Search of zonder assistentie.

De observaties laten duidelijke verschillen zien tussen deze groepen wat betreft neuronale connectiviteit en cognitieve functies zoals geheugen en perceptie van werk. De onderzoekers vatten het samen met het concept van "cognitieve schuld".

Tot nu toe bleef de bewering dat "ChatGPT je dom zal maken" op zijn slechtst een voorspelling van technosceptici, en op zijn best een voorgevoel van een aantal bezorgde mensen. Sinds deze week is er echter een wetenschappelijke onderbouwing voor de angst

Een team onderzoekers van het MIT Media Lab onderzocht de cognitieve effecten van herhaald gebruik van ChatGPT bij een schrijfoefening. Het is belangrijk op te merken dat deze studie zich momenteel in het pre-print stadium bevindt en nog door peer review is gegaan.

Met behulp van een protocol dat EEG-metingen, linguïstische analyses en kwalitatieve interviews combineert, onderzocht het team de prestaties en de hersenactiviteit van drie groepen studenten: een groep die exclusief ChatGPT gebruikte, een andere groep die een conventionele zoekmachine gebruikte (Google), en een derde groep die geen enkele tool gebruikte (deze laatste groep werd 'brain-only' genoemd).

De "Brain-only" groep herinnerde zich het geschrevene beter, kon zinnen nauwkeuriger citeren en toonde een betere capaciteit voor semantische integratie.

Voor elke groep deelnemers werden drie sessies uitgevoerd onder deze constante omstandigheden. In een vierde sessie werden de rollen omgedraaid: dit keer moesten de deelnemers in de "AI"-groep schrijven zonder hulpmiddelen, terwijl de voormalige deelnemers in de "brain-only"-groep ChatGPT moesten gebruiken.

Dit was een van de eerste grootschalige pogingen om te kwantificeren wat de auteurs van het onderzoek een "cognitieve schuld" noemen (zie kader) die ontstaat door het uitbesteden van bepaalde mentale functies aan een AI.

Observaties uit het onderzoek

Verslaafd aan ChatGPT?

De belangrijkste observatie van het onderzoek heeft betrekking op de impact van het gebruik van AI op de neuronale connectiviteit, door EEG-signalen te analyseren met behulp van de Dynamic Directed Transfer Function-methode.

Deelnemers in de 'brain-only' groep vertoonden een hoge neuronale connectiviteit, met grotere en sterker verbonden hersennetwerken, vooral in de alfa- en bètabanden, die respectievelijk geassocieerd worden met volgehouden aandacht en hogere cognitieve processen.

Deze connectiviteit nam met elke sessie toe, wat duidt op een geleidelijke cognitieve aanpassing: de hersenen leren meer bronnen te mobiliseren om de taak te volbrengen. Ook bij deze deelnemers waren de meest geactiveerde gebieden de frontale, pariëtale en occipito-pariëtale gebieden, betrokken bij planning, werkgeheugen, visuele integratie en autonome besluitvorming.

De deelnemers in de ChatGPT-groep vertoonden daarentegen over het algemeen zwakkere neuronale connectiviteit en de geactiveerde netwerken waren minder uitgebreid en minder dicht. In de loop van de sessies vertoonde deze groep een stabiele of licht verminderde connectiviteit, wat duidt op een vorm van gewenning of cognitieve automatisering. De hersenen waren minder geëngageerd, waarschijnlijk door het delegeren van inspanning naar het gereedschap.

Activaties in de alfabanden en betabanden waren significant minder uitgesproken, wat duidt op "minder aandachtsinspanning, oppervlakkigere visuele integratie en verminderde cognitieve mobilisatie".

In de vierde sessie was de impact nog steeds voelbaar: voormalige ChatGPT-gebruikers bereikten niet het niveau van neurale connectiviteit van degenen die altijd zonder het hulpmiddel hadden gewerkt. Ze bevonden zich in een intermediaire cognitieve toestand, minder geïntegreerd en minder gemobiliseerd.

Memoriseren en kritisch denken

De resultaten beoordeelden ook de impact van het gebruik van een LLM op het geheugen. De "Brain-only" groep herinnerde zich het geschrevene beter, kon zinnen nauwkeuriger citeren en toonde een betere capaciteit voor semantische integratie. De "AI"-groep daarentegen had grote moeite om passages uit hun essays correct te citeren. Hun semantisch geheugen leek minder gevraagd of minder geconsolideerd.

De onderzoekers stelden ook vast dat de ChatGPT-groep de meeste eigennamen, datums en definities gebruikte. De andere groepen gebruikten aanzienlijk minder (-60% in de Brain-only groep).

ChatGPT-gebruikers herhaalden soortgelijke formuleringen, diversifieerden hun ideeën niet en toonden minder kritische betrokkenheid bij de gegenereerde inhoud. Het gevoel van eigenaarschap van de essays was ook hoger bij deelnemers die zonder hulp hadden geschreven. Het gebruik van een LLM werd geassocieerd met een gevoel van vervreemding van de intellectuele productie.

ChatGPT-gebruikers herhaalden soortgelijke formuleringen, diversifieerden hun ideeën niet en toonden minder kritische betrokkenheid bij de gegenereerde inhoud.

Tot slot vertoonde de brain-only groep een hoge mate van variabiliteit in de manier waarop deelnemers het schrijven benaderden. Daarentegen produceerde de ChatGPT-groep zeer homogene essays, met weinig variatie tussen teksten over hetzelfde onderwerp, wat duidt op een hoge mate van opmaak geïnduceerd door het hulpmiddel. De "zoekmachine"-groep daarentegen leek meer beïnvloed te worden door de algoritmes voor verwijzingen dan door de schrijfinstructies zelf.

Wees voorzichtig met de integratie van LLM's in het onderwijs.

In haar conclusie wijst de studie erop dat, hoewel grote taalmodellen (LLM's) zoals ChatGPT de toegang tot informatie vereenvoudigen, dit gemak een prijs heeft: gebruikers zijn minder geneigd om inhoud in twijfel te trekken, persoonlijke ideeën te formuleren of kritisch na te denken. Ze roept op tot longitudinaal onderzoek naar de effecten van LLM's op het menselijk brein voordat ze concludeert dat ze over het algemeen een positief effect hebben.

Gebruikers van LLM's zijn minder geneigd om inhoud in twijfel te trekken, persoonlijke ideeën te formuleren of kritisch na te denken.

De observaties van de onderzoekers pleiten voor het uitstellen van de introductie van LLM's in onderwijsprocessen, ten gunste van een autonome leerfase die gunstiger is voor de cognitieve autonomie: "We moeten de cognitieve implicaties op lange termijn van het gebruik van AI's begrijpen voordat we ze op grote schaal in onze onderwijspraktijken integreren".

Cognitieve schuld?

Cognitieve schuld", zoals gedefinieerd in het MIT-onderzoek, verwijst naar de cumulatieve en verraderlijke effecten van het regelmatig gebruik van kunstmatige intelligentie assistenten zoals ChatGPT om complexe intellectuele taken uit te voeren.

Op korte termijn lijkt AI de mentale belasting te verlichten: het geeft snelle, goed gestructureerde antwoorden en maakt schrijven en argumenteren makkelijker. Maar deze besparing gaat ten koste van een diepe cognitieve betrokkenheid.

Na verloop van tijd verandert deze onderbenutting van de hersenen belangrijke functies zoals het geheugen, het vermogen om originele redeneringen te formuleren, om kritische gedachten te structureren of om eigen ideeën op te roepen. Gebruikers nemen uiteindelijk automatismen aan die door het hulpmiddel worden gedicteerd, tot op het punt dat ze standaardformuleringen reproduceren of afhankelijk worden van een exogene manier van redeneren.

De impact van deze schuld is niet onmiddellijk zichtbaar: de prestaties lijken hoog genoeg. Maar de studie onthult minder hersenactiviteit in gebieden die te maken hebben met geheugen, aandacht of planning. Kortom, de cognitieve schuld weerspiegelt een geleidelijke verarming van interne intellectuele processen, die de gebruiker 'terugbetaalt' door geleidelijk de controle over zijn mentale capaciteiten te verliezen in het voordeel van gedelegeerd redeneren.

F.H.