Assises de l'e-Santé, épisode 3
IA en médecine : quel rôle pour l’AVIQ au coeur de l'Europe ?
Jean De Meyere, juriste à la cellule eSanté de l’AViQ, explique le rôle de « l’INAMI wallon » face à l’intelligence artificielle en santé. Et détaille la lasagne belgo-européenne en matière d'IA, depuis l'IA Act jusqu'à l'Autorité de protection des données en passant par le RGPD et le SPF BOSA... Accrochez-vous.
« Je vais peut-être vous décevoir d’emblée : l’AViQ ne sera pas la principale institution en la matière. Elle ne sera pas pionnière au niveau réglementaire. Ce sont plutôt des institutions fédérales ou européennes qui encadreront l’intelligence artificielle en Belgique. »
Cela ne signifie pas que l’AViQ restera absente. « Nous tenons évidemment à être présents et à jouer un rôle actif dans le développement des nouvelles technologies, surtout au sein de la cellule eSanté de l’AViQ, qui suit ces matières. »
Le fonctionnaire distinque deux grands aspects.
Le premier concerne l’utilisation d’intelligences artificielles qui ne sont pas directement destinées à la santé. Il pense notamment aux IA généralistes comme ChatGPT, auxquelles tout le monde peut avoir accès, qu’il s’agisse du professionnel dans sa pratique ou du patient lui-même.
Ce point est d’importance car le patient peut lui aussi se poser des questions sur l’utilisation de l’IA dans un contexte médical.
IA directement liée à la santé
Le second aspect concerne les usages de l’IA directement liés à la santé : aux urgences, en imagerie médicale ou dans beaucoup d’autres domaines. « J’ai eu l’occasion de travailler sur des projets mêlant intelligence artificielle et robotique, par exemple pour des patients dont les cycles du sommeil étaient régulés grâce à l’IA. »
Les usages sont donc très variés. On peut avoir des IA généralistes, capables d’avoir une vision globale de la santé du patient, mais aussi des IA plus spécifiques, centrées sur une problématique particulière.
De Meyere a listé les défis de l’IA et, premièrement, les hallucinations. « Ce sont ces phénomènes qui se produisent lorsqu’une IA, un peu perdue, tente absolument de satisfaire son utilisateur en lui fournissant une réponse qu’elle invente de toutes pièces. Cela peut poser problème tant pour le médecin que pour le patient. Le patient peut arriver chez son médecin convaincu d’avoir une maladie imaginaire. Je ne suis pas médecin, donc je ne sais pas si certains d’entre vous ont déjà rencontré ce type de situation. Mais ma compagne, qui est avocate, reçoit régulièrement des clients qui lui demandent d’invoquer des jurisprudences qui n’existent pas. »
« Je pense au patient qui sera persuadé que ChatGPT lui dit la vérité et qui préférera croire l’outil plutôt que son médecin. »
Un autre enjeu majeur concerne le respect de la vie privée. « L’arrivée de l’IA ne signifie évidemment pas que les règles du règlement général sur la protection des données ne s’appliquent plus. Utiliser comme input des données privées d’un patient sans le prévenir et sans son accord peut constituer une faute à cet égard. »
Il y a aussi un risque de perte de confiance entre le médecin et le patient. « Je pense notamment au patient qui sera persuadé que ChatGPT lui dit la vérité et qui préférera croire l’outil plutôt que son médecin. »
Ce problème n’est pas spécifique à l’IA. Il existe depuis la popularisation d’Internet et "Dr Google". Doctissimo existait déjà avant. Mais, comme beaucoup de problèmes, l’IA peut l’amplifier.
Dernier point important : la fracture numérique. « Tous les patients, et même tous les médecins, n’ont pas le même accès à la formation ni aux outils numériques. On risque donc de voir se creuser un écart entre ceux qui ont accès à ces outils et ceux qui n’y ont pas accès. »
IA Act
L’AI Act constitue la pierre angulaire de la régulation de l’intelligence artificielle. « Cela ne signifie pas que les autres réglementations, européennes, nationales ou régionales, cessent de s’appliquer. »
Le RGPD continue à fixer les règles relatives à la protection des données. Le règlement sur les dispositifs médicaux reste essentiel pour les questions médicales et est directement lié à l’AI Act lorsqu’il s’agit de classifier les risques posés par un système d’intelligence artificielle.
La loi qualité et la loi relative aux droits du patient restent également applicables, précise De Meyere. Elles imposent notamment l’information et le consentement du patient, ainsi qu’une prise en charge correcte du dossier médical.
Enfin, les différents codes de déontologie qui s’appliquent aux médecins restent en vigueur, qu’ils utilisent ou non des outils automatisés.
L’AI Act, déjà présenté, constitue une grande nouveauté au niveau mondial. Il s’agit du premier règlement destiné à encadrer l’intelligence artificielle. Il a été publié en 2024 par la Commission européenne. « Il se concentre principalement sur les fournisseurs et les déployeurs de systèmes d’intelligence artificielle. Le médecin ou l’hôpital sera plutôt considéré comme un déployeur, dans la mesure où il utilise un système déjà produit et le met à disposition du patient ou de ses employés. L’AI Act prévoit un système d’obligations gradué en fonction du niveau de risque. On distingue quatre niveaux : les risques inacceptables, les risques élevés, les risques limités et les risques minimaux. Une grande partie des dispositifs médicaux entrera directement dans la catégorie des systèmes à haut risque. »
Commission européenne
Les IA générales constituent une nouvelle catégorie. A priori, elles ne sont pas encore spécifiquement liées à la médecine, mais elles pourraient le devenir. « Ce sont des IA qui se veulent complètes et qui présentent également des obligations spécifiques, notamment en matière de transparence et de sécurité. »
Au niveau institutionnel, plusieurs acteurs encadrent l’AI Act et les autres réglementations.
Au sommet, on trouve la Commission européenne. Elle est chargée de mettre en place les règles spécifiques d’implémentation et les règles techniques autour de l’AI Act. Le travail législatif n’est pas terminé. Des réunions rassemblent régulièrement les 27 États membres sur des sujets très variés, avec pour objectif de mettre ces règles en pratique. Tout cela s’inscrit dans l’Espace européen des données de santé. L’AI Office est aussi une institution européenne appelée à gérer la partie relative à l’intelligence artificielle.
En Belgique, siège d’une lasagne institutionnelle, l’autorité de surveillance du marché en matière d’IA devrait principalement rester entre les mains du SPF Économie, selon le spécialiste de l’AViQ. « Il existe aussi différentes structures, comme AI for Belgium, un consortium visant à développer l’IA sous la supervision du SPF BOSA (NDLR : Service public fédéral Stratégie et Appui. C’est un service fédéral belge qui soutient l’administration fédérale dans plusieurs domaines : IT, ressources humaines, gestion de l’organisation, politique d’intégrité, budget, comptabilité et marchés publics. » »
Autorité de protection des données
Le Centre (belge) pour la cybersécurité reste, lui aussi, un acteur primordial pour toutes les questions de cybersécurité. En matière de RGPD, et notamment en cas de sanctions, l’autorité compétente reste l’Autorité de protection des données.
« La question de savoir si la Belgique disposera, à l’avenir, d’une autorité spécifique pour l’intelligence artificielle reste ouverte. Je ne suis pas en mesure de vous donner une réponse définitive aujourd’hui. »
Au niveau régional, deux pôles sont pertinents.
D’un côté, l’Agence du Numérique, qui est davantage responsable de l’implémentation des projets. De l’autre, l’AViQ, qui conserve plutôt un rôle de support, de formation et de contact, que ce soit avec la première ligne, la seconde ligne ou directement avec les patients.
« L’arrivée massive de l’intelligence artificielle dans le domaine de la médecine constitue pour nous un point d’attention important. Nous essayons de nous y concentrer, tout en restant dans notre rôle de sensibilisation, d’information et de support. Cela passe notamment par la littératie en e-santé et en santé numérique, que nous développons en continu avec nos partenaires."