'Deepfakes' van artsen verkopen kwalzalverij
Sociale media worden overspoeld door 'deepfakes' - vervalste video's -van bekende artsen die wondermiddeltjes aanprijzen. Dat melden het British Medical Journal (BMJ) en Le Quotidien du Médecin.
Facebook en Instagram worden overspoeld door "deepfake" video's die misbruik maken van digitaal gecreëerde gelijkenissen van bekende artsen. Via artificiële intelligentie (AI) is het kinderspel om op basis van bestaand beeldmateriaal personen woorden in de mond te leggen die ze nooit hebben uitgesproken.
De video's gebruiken bekende artsen ondermeer om reclame te maken voor 'natuurlijke' geneeskrachtige siropen tegen diabetes, maar ook om te beweren dat het eerstelijnsmedicijn metformine "dodelijk kan zijn" voor patiënten.
De AI-video's richten zich meestal op een ouder publiek door de identiteit te faken van artsen die regelmatig op dagtelevisie verschijnen, zegt AI-expert Henry Ajder.
De Franse arts Michel Cymes, die vaak op de Franse televisie als expert mag optreden, vertelde AFP dat hij juridische stappen ondernam tegen Facebook-eigenaar Meta vanwege "oplichtingspraktijken" waarbij zijn beeltenis werd gebruikt.
De Britse arts Hilary Jones heeft zelfs een detective ingehuurd om deepfakes met zijn beeltenis op te sporen. Op een van de deepfake-video's prees 'Jones' een vals medicijn tegen hoge bloeddruk en cannabispillen aan.
Kat-en-muisspel
Recente vooruitgang in AI heeft de kwaliteit van deepfake afbeeldingen, audio en video veel overtuigender gemaakt, zegt de Franse academicus en AI-expert Frederic Jurie uit aan AFP. "We hebben toegang tot miljarden beelden en beschikken over 'generatieve AI': algoritmes die alles wat in die beelden verschijnt kunnen modelleren en regenereren.
Het blijkt bijzonder lastig om op te treden tegen deze video's. "Het is een kat-en-muisspel," zei Jurie. Zelfs als ze offline gehaald worden, duiken ze na een dag op een andere account weer op.
De oplossing ligt volgens Jurie bij technologie die "kan garanderen dat inhoud niet is gewijzigd, zoals voor berichten, dankzij software die digitale handtekeningen produceert zoals een certificaat", zei hij.