Pattie Maes : « Nous introduisons l’IA beaucoup trop vite »
La professeure du MIT met en garde contre les conséquences sur les capacités cognitives et le bien-être mental
L’utilisation de l’IA n’est pas sans risque pour les capacités cognitives et le bien-être mental, prévient l’informaticienne et chercheuse belge Pattie Maes. « Nous introduisons cette technologie trop rapidement, sans en connaître toutes les conséquences », explique-t-elle dans un entretien accordé au Journal du médecin.
Pattie Maes figurait parmi les intervenants d’un symposium sur l’IA en médecine organisé par la Koninklijke Academie voor Geneeskunde*. Elle y a mis en garde contre l’adoption sans esprit critique de cette technologie. « Il existe des domaines spécialisés ou des tâches dans lesquels l’IA est plus performante. Dans le secteur de la santé, je pense au travail administratif, comme remplir des formulaires destinés aux assurances. Mais nous devons rester prudents lorsqu’il s’agit du diagnostic, du traitement et de l’interaction avec le patient. Nous ne devons pas compter sur l’IA pour prendre en charge ces tâches essentielles », explique-t-elle.
Erreurs et préjugés
Son scepticisme tient en partie aux limites de l’IA elle-même. Les grands modèles de langage (LLM, pour large language models), comme ChatGPT et Claude, restent sujets à des « hallucinations » : ils produisent alors des informations ou des analyses erronées de manière très convaincante.
« De plus, nous ignorons généralement sur quelles données un modèle a été entraîné et si ces données comportent des biais », prévient Pattie Maes. « Dans une étude, nous avons demandé à un agent d’IA de sélectionner les meilleurs candidats parmi une pile de CV. Résultat : cet agent privilégiait les personnes portant un nom de famille connu, comme Kennedy ou Gates. Un CV identique, mais associé à un nom moins connu, obtenait un classement inférieur. Les systèmes d’IA regorgent de biais de ce type, dont nous n’avons pas conscience, mais qui déterminent pourtant si une personne décroche un emploi. »
Le problème se pose également en médecine : les données utilisées proviennent souvent d’une population majoritairement masculine, blanche et issue de milieux favorisés. Le diagnostic ou la proposition de traitement de l’IA risque donc de reproduire les biais présents dans ces données. « Malheureusement, nous nous sentons aussi moins responsables lorsque l’IA agit en notre nom », ajoute-t-elle. « Les gens disent alors : c’est l’IA qui s’est trompée, ou qui a pris cette décision biaisée ; ce n’est pas moi. »
Une dépendance prolongée à l’IA peut entraîner une perte de compétences.
L’IA nous rend moins intelligents
Lors de sa conférence au symposium, Pattie Maes a cité plusieurs études montrant que l’utilisation régulière de l’IA nuit aux capacités cognitives. Les assistants conversationnels comme ChatGPT ont mis l’IA à la portée de tous. Par facilité, les utilisateurs lui délèguent dès lors leur réflexion critique et leur jugement. « Nous voulons tous gagner du temps. Il est donc tentant d’interroger l’IA sans réfléchir d’abord par soi-même. »
Celui qui ne réfléchit pas d’abord par lui-même aura davantage tendance à reprendre sans recul la réponse d’une IA. Ce phénomène porte le nom de « biais d’automatisation ». Une étude a montré que, même lorsque l’IA commet des erreurs manifestes, les utilisateurs acceptent une réponse erronée dans 80 % des cas.
Pattie Maes évoque également une solution à ce problème. Une étude menée à Stanford a montré qu’il existe de bonnes et de mauvaises façons de travailler avec un système d’IA pour établir un diagnostic. La bonne approche consiste, pour le médecin, à formuler d’abord sa propre hypothèse et à demander au système d’IA de faire de même, de manière indépendante, à partir des symptômes. Cette démarche s’apparente à celle de collègues qui comparent des diagnostics établis séparément.
Il est déconseillé de faire évaluer son propre diagnostic par l’IA, car ces systèmes ont naturellement tendance à donner raison à l’utilisateur. C’est le problème de la complaisance, ou « sycophantie », développé plus loin. Il faut également éviter que le médecin évalue la réponse de l’IA sans avoir d’abord réfléchi par lui-même, en raison du biais d’automatisation déjà évoqué.
Une dépendance prolongée à l’IA peut également entraîner une perte de compétences. Selon une étude publiée dans The Lancet, des médecins qui utilisaient l’IA pour détecter des cancers sur des images médicales ont vu leurs propres performances diminuer au fil du temps lorsqu’ils devaient se passer de cet outil.
L’IA présente également des risques pour la motivation. Les personnes qui l’utilisent abandonnent plus rapidement face à un problème difficile qu’elles doivent résoudre sans son aide. Leur persévérance diminue, car l’IA les conditionne à attendre des réponses immédiates.
L’IA peut conduire à la solitude
L’IA a également un impact négatif sur les compétences sociales et le bien-être mental. Le MIT Media Lab a mené une étude longitudinale auprès d’un millier de personnes. Celle-ci a mis en évidence un lien négatif entre une utilisation prolongée de l’IA et la santé mentale. Plus les participants utilisaient fréquemment l’IA au quotidien, plus leur santé mentale se détériorait et plus ils finissaient par se sentir seuls.
« Le problème tient surtout à la complaisance de ces systèmes : ils abondent dans votre sens et vous donnent presque toujours raison », explique Pattie Maes. Selon une étude de Stanford, les personnes qui demandent conseil à ChatGPT pour des problèmes personnels trouvent les relations humaines moins satisfaisantes. Les humains osent en effet parfois vous contredire, tandis que l’IA se montre toujours d’accord avec vous.
Pattie Maes s’inquiète particulièrement des conséquences sur la santé mentale des jeunes. Aux États-Unis, 72 % des adolescents discutent régulièrement avec une IA. Parmi les filles membres du mouvement scout américain, 65 % considèrent leur IA comme « une amie ». Il est vrai que l’IA constitue un interlocuteur séduisant, reconnaît-elle. Elle reste toujours disponible, ne vous donne jamais tort et ne cherche jamais à parler de ses propres problèmes. La tendance des entreprises à intégrer leurs modèles d’IA dans des accessoires que l’on porte en permanence sur soi, comme le « Muse Charm » de Meta, lui semble donc préoccupante.
Pattie Maes évoque également un nouveau trouble psychique : la psychose induite par l’IA. Celle-ci peut apparaître lorsque les réponses systématiquement approbatrices de l’IA enferment progressivement l’utilisateur dans une autre réalité. « J’ai tout un dossier d’e-mails de personnes qui me contactent au sujet d’une découverte qu’elles auraient faite, ou qui croient que leur IA a développé une conscience. Elles sont allées trop loin dans leurs interactions avec l’IA et se sont retrouvées prises dans une spirale. »
Le bilan de son intervention donne à réfléchir. Nous sous-estimons l’impact de l’IA sur le bien-être et le cerveau humains. « L’IA accroît les risques de désinformation et de manipulation, de perte de compréhension et d’esprit critique, de diminution de la curiosité et de perte de compétences, de troubles psychiques et d’idées délirantes, de perte de sens et de fierté au travail, ainsi que d’un recul des compétences sociales et des liens entre les personnes. » Un avertissement sanitaire concernant l’IA se justifie donc, estime-t-elle (voir encadré).
Un label sanitaire pour les modèles d’IA
Le MIT Media Lab lance un label indiquant les effets potentiels d’un modèle d’IA sur son utilisateur. Pattie Maes le compare à une « étiquette nutritionnelle » pour l’IA.
Les évaluations de référence existantes mesurent principalement les capacités et les performances des modèles. Jusqu’à présent, aucune ne s’intéressait aux effets de ces systèmes sur les êtres humains, explique-t-elle. « C’est précisément ce que nous lançons cette semaine, en étroite collaboration avec des experts en santé mentale et dans d’autres disciplines. »
« Nous voulons recenser tous les scénarios et évaluer dans quelle mesure un modèle est bénéfique pour l’utilisateur. Nous examinons, par exemple, s’il se montre complaisant, transmet des informations dangereuses ou cherche à retenir l’utilisateur en prolongeant la conversation alors que sa demande initiale a déjà trouvé une réponse. »
« L’objectif est d’aider les utilisateurs à choisir un modèle et de les sensibiliser aux conséquences de l’utilisation de l’IA. Et, bien sûr, nous voulons également faire pression sur les entreprises du secteur pour qu’elles développent des modèles plus sûrs. »
Qui est Pattie Maes ?
Pattie Maes est professeure en arts et sciences des médias au Media Lab du prestigieux Massachusetts Institute of Technology (MIT). Elle a étudié l’informatique à la Vrije Universiteit Brussel et mène, depuis les années 1990, des recherches sur les interactions entre l’humain et l’ordinateur. Elle compte parmi les pionniers du concept d’« agent logiciel », précurseur des agents d’IA actuels.
*L’Académie royale de médecine des Pays-Bas et l’Académie royale de médecine de Belgique préparent un avis commun sur l’IA en médecine. Une version provisoire a été présentée lors du symposium.