3 jaar ChatGPT: Over echogeiten, gekke koeien en centauren

 Als een razende gek heeft ChatGPT een plaats in ons leven gevonden en lijkt het alsof sommigen niet meer zonder kunnen. Het is dan ook verbazingwekkend dat dit stukje vernuft ‘slechts’ drie jaar geleden op de mensheid werd losgelaten. In het begin was het al ‘Oooh’ en ‘Aaah’ wat de klok sloeg, maar door de jaren heen, zijn ook de mindere kanten aan het licht gekomen. Het is niet allemaal rozengeur en maneschijn.

De vraag van vandaag is: worden we nu met z'n allen dommer? Dat lijkt een vreemde kronkel in een wereld die bol staat van AI. Staat de I niet voor intelligentie? Er zit echter wel een redenering achter de vraag.

Er bestaat namelijk zoiets als automation bias, een effect dat optreedt zodra de mens geconfronteerd wordt met nieuwe technologie. De basisvaardigheden die je nodig hebt om de technologie goed te kunnen gebruiken, worden vervangen door de technologie zelf. We hebben dit al meegemaakt met de rekenmachine (en hoofdrekenen), de GPS (en kaartlezen) en ga zo maar door.

Het gevolg hiervan is dat er deskilling ontstaat, het verlies van deze basiscompetenties. In mijn onderwijsopdracht pleit ik dan ook voor het behoud van de – laten we ze even omschrijven als – analoge competenties, die we nog steeds aan studenten moeten blijven bijbrengen, om daarna op digitale wijze de technologie correct te kunnen inzetten.

Meer nog, we moeten ons ernstig de vraag stellen of we niet leven in een tijdperk van never-skilling. ‘Deskilling’ gaat er namelijk vanuit dat de basisskills ooit aanwezig waren. Maar hoe gaan we om met een hele generatie die opgroeit met een technologie die op alles een antwoord klaar heeft, letterlijk, en onmiddellijk. We moeten dus ook – tot spijt van wie het benijdt – blijven inzetten om die analoge skills aan te brengen. Zoniet riskeren we echogeiten te worden.

Die term verwijst naar één van mijn favoriete scenes uit een Disneyfilm, met name Brother Bear, waarin twee berggeiten staan te roepen naar een niet bestaande tegenpartij, niet wetende dat het antwoord hun eigen echo is. En dat dreigt ook te gebeuren in een wereld met AI.

Generatieve AI is gevoed met onze input, onze kennis, onze data en bouwt daar nu – het moet gezegd op indrukwekkende wijze – nieuwe output mee. Maar is die wel zo nieuw? Of zijn we echokamers aan het creëren en reeds bestaande kennis aan het herkauwen?

Door AI gegenereerde teksten gebruiken als nieuw trainingsmateriaal voor AI, leidt tot digitale gekkekoeienziekte.

We moeten er bovendien vanuit gaan dat heel wat van de teksten die nu geproduceerd worden, gemaakt zijn met behulp van (of zelfs volledig door) GenAI, wat kan leiden tot 'inteelt' in het materiaal. Door AI gegenereerde teksten gebruiken als nieuw trainingsmateriaal voor AI, leidt tot digitale gekkekoeienziekte. Die ziekte ontstond namelijk ook doordat koeien voedsel kregen gemaakt van andere besmette dieren. De theorie van het dode internet ligt op de loer.

Maar hoe geraken we eruit? Hoe vermijden we dat onze kinderen opgroeien als echogeiten of gekke koeien? Hoe vermijden we deskilling of never-skilling? Het is een vraag die menig academicus en onderwijsspecialist bezig houdt.

Voor mij ligt het antwoord in de Griekse mythologie. Centauren, half mens, half paard. Deze – bij gebrek aan een beter woord - organismen combineerden het beste uit de twee wezens en kregen zo mythische proporties.

AI is goed in het doorstruinen van grote datasets, in het maken van complexe berekeningen, rekening houdend met gigantisch veel parameters. De mens is goed in het stellen van hypotheses en kritische reflectie,… Als we die kunnen combineren, geraken we vooruit.

Maar dat vereist dat wij als mens leren om te begrijpen hoe AI werkt, waar het goed in is, en waar het nog hulp nodig heeft. We moeten leren AI te coachen om ons te helpen op onze zwakke punten, niet proberen automatiseren waar we goed in zijn. Is het schrijven van een e-mail nu echt de beste use-case die we kunnen bedenken?

Centaur-AI is niet iets nieuw. Toen Kasparov in de jaren ’90 verloor van schaakcomputer DeepBlue, was de lol er wel af. Dus bedacht hij iets anders, advanced chess. Daarin speelde een mens samen met de machine, als centauren. De conclusie? Het was niet de beste menselijke schaker die won, maar wel een team goed bedoelende amateurschakers, die er in slaagden om technologie op de meest optimale manier in te zetten, om hen te ondersteunen.

Begrijp me niet verkeerd. AI is meer dan een fase, een rage of gewoon een stukje technologie. Op zichzelf is het ook maar technologie, maar het dwingt ons als mens tot het stellen van nieuwe vragen, vervelende vragen. Vragen van de bestuurskamer tot de individuele medewerker.

Als mensen zijn we niet gemaakt om te kunnen omgaan met exponentiële groei; we zijn lineaire wezens. Het is onze morele plicht om optimistisch te zijn. Stop echter met de 'AI is goed nieuws'-show en denk zelf na over hoe AI jou kan ondersteunen. Stop met mensen te vervangen door AI, in een niet aflatende productiviteitsrace, die een illusie blijkt, maar zoek naar samenwerking. Uw toekomstige zelf zal u dankbaar zijn.

 Over de auteur

Tom Braekeleirs is een innovatieleider op het gebied van digitale gezondheid. Hij is professor Digitale Medische Technologie en AI aan de UGent. Daarvoor was hij 8 jaar CEO van het BlueHealth Innovation Center, na een 17-jarige carrière bij internationale technologiebedrijven.

Hij is ook een veelgevraagd spreker bij nexxworks, adviseur, podcaster en columnist over de impact van technologie op mensen.