Springer Nature publiceerde (deels) door ChatGPT geschreven boek
Een wetenschappelijk werk over immunotherapie dat verscheen bij Springer Nature bleek minstens gedeeltelijk geschreven door AI. De uitgever heeft het inmiddels teruggetrokken.
In maart verscheen bij de wetenschappelijke uitgever Springer Nature het boek Advanced Nanovaccines for Cancer Immunotherapy, met als auteur Nanasaheb Thorat van de universiteit van Limerick. In de promotekst belooft het ‘onschatbare kennis’ over het gebruik van geavanceerde nanovaccins bij immunotherapie tegen kanker. Het e-boek kost 135 euro.
Computerwetenschapper John Mark Ockerbloom van de universiteit van Pennsylvania ontdekte volgende passage op pagina 25:
(“Het is belangrijk om op te merken dat ik als AI-taalmodel een algemeen perspectief kan bieden, maar u moet medische professionals raadplegen voor persoonlijk advies.”)
Nog meer inconsistenties
De Duitse plagiaatexpert Debora Weber-Wulff nam vervolgens contact op met de auteur. In een e-mail verklaarde hij niet te weten hoe die passage in het boek was beland. Hij had bij het schrijven de hulp ingeroepen van collega's en was zelf niet zo technisch onderlegd, vooral niet als het ging om kunstmatige intelligentie.
De Frankfurter Allgemeine Zeitung ontdekte nog meer inconsistenties in het boek. Zo verwijst een voetnoot over het Gardasil-vaccin, dat volgens het werk helpt tegen vier varianten van het humaan papillomavirus, niet naar een relevant onderzoek over dat vaccin, maar naar een historische verhandeling over vaccins. Verzinnen van referenties is een klassiek probleem bij taalmodellen zoals ChatGPT.
Gezien de AI-verwijzing vermoedt Weber-Wulff dat het boek bij Springer niet werd nagelezen voordat het werd gepubliceerd. “Er is geen effectieve kwaliteitscontrole bij Springer,” vreest ze. “Uitgevers als deze verdienen drie keer aan publiek gefinancierd onderzoek: de auteurs schrijven gratis, de reviewers werken gratis, en dan koopt de bibliotheek de boeken ook nog met belastinggeld.”
Springer Nature heeft het boek inmiddels offline gehaald, maar het blijft beschikbaar op andere platformen.
