Conformite IA dans la sante : guide pour hopitaux et cliniques

Le secteur de la sante est l'un des domaines les plus impactes par l'EU AI Act. Les systemes d'IA utilises pour le diagnostic, le traitement ou la gestion des patients sont systematiquement classes haut risque, ce qui implique des obligations strictes de conformite.

Pourquoi la sante est-elle particulierement concernee ?

L'Annexe III du reglement identifie explicitement les systemes d'IA en sante parmi les cas d'usage haut risque. Cela couvre l'imagerie diagnostique (radiologie, dermatologie), les systemes d'aide a la decision clinique, la gestion des flux de patients, et le tri automatise des urgences.

La raison est simple : une erreur d'un systeme d'IA en sante peut avoir des consequences directes sur la vie et la sante des personnes. Le legislateur europeen a donc impose les obligations les plus strictes pour ces usages.

Les obligations pour les etablissements de sante

Les hopitaux et cliniques qui deploient des systemes d'IA doivent respecter plusieurs obligations. La documentation technique doit decrire precisement le fonctionnement du systeme, ses donnees d'entrainement et ses performances mesurees. Un systeme de gestion des risques doit etre mis en place tout au long du cycle de vie du systeme.

La supervision humaine est obligatoire : un professionnel de sante qualifie doit pouvoir comprendre, interpreter et, si necessaire, contester les resultats du systeme. La tracabilite complete des decisions est requise via des logs automatiques.

Le cas specifique de l'imagerie medicale

Les systemes d'IA d'imagerie diagnostique (radiologie, pathologie numerique, ophtalmologie) sont soumis a une double reglementation : l'EU AI Act et le reglement dispositifs medicaux (MDR). Les etablissements doivent s'assurer que leurs systemes sont conformes aux deux cadres reglementaires.

Cela implique une validation clinique rigoureuse, une documentation des performances par population et par pathologie, et une surveillance post-commercialisation continue.

AIPD : une obligation specifique pour les deployers

L'article 27 de l'EU AI Act impose aux deployers de systemes haut risque de realiser une Analyse d'Impact relative à la Protection des Droits fondamentaux (AIPD). Pour les hopitaux, cela signifie evaluer l'impact de chaque systeme d'IA sur les droits fondamentaux des patients : non-discrimination, protection des donnees, dignite humaine, acces aux soins.

Se preparer avec une approche sectorielle

La conformite en sante ne peut pas etre traitee avec un modele generique. Chaque type de systeme (imagerie, aide a la decision, gestion de flux) a ses propres specificites reglementaires. MaConformite propose un parcours dedie au secteur sante, avec des checklists adaptees, des modeles de documentation pre-remplis et un suivi des echeances specifiques aux dispositifs medicaux.

Questions fréquentes — IA et conformité santé

Un logiciel d'aide au diagnostic médical est-il systématiquement à haut risque sous l'AI Act ?

Oui. Les systèmes d'IA destinés à influencer les décisions cliniques (aide au diagnostic, analyse d'images médicales, prédiction de risques patients) sont classés à haut risque dans l'Annexe III, point 5 du règlement. Ils requièrent une Annexe IV technique complète, un registre, et une validation continue par des professionnels de santé.

Quelle est la différence entre l'AI Act et le règlement sur les dispositifs médicaux (MDR) ?

Les deux réglementations s'appliquent en parallèle et se cumulent. Le MDR (2017/745) régit les dispositifs médicaux incluant les logiciels de diagnostic (classification selon risque clinique). L'AI Act ajoute une couche de gouvernance IA : transparence, supervision humaine, documentation technique et enregistrement dans la base de données EUDAMED. Un logiciel de diagnostic IA doit satisfaire aux deux règlements.

Les hôpitaux publics sont-ils soumis à l'EU AI Act au même titre que les cliniques privées ?

Oui. L'EU AI Act s'applique aux déployeurs publics comme privés. Les hôpitaux qui utilisent des systèmes d'IA pour la gestion des patients, la planification des soins, ou l'aide au diagnostic ont les mêmes obligations que les cliniques privées, avec des adaptations pour les marchés publics.

Quels systèmes d'IA sont interdits dans le secteur de la santé ?

Sont interdits : la catégorisation biométrique des patients selon leur origine ethnique, les opinions politiques ou la religion à des fins discriminantes, l'évaluation émotionnelle des patients sans raisons médicales ou de sécurité strictes, et tout système qui exploite des vulnérabilités psychologiques pour influencer des décisions médicales.

Comment gérer le consentement des patients pour l'utilisation de l'IA en clinique ?

Le RGPD et l'AI Act se combinent : le patient doit être informé que des systèmes automatisés participent à son parcours de soins (article 50, transparence), et les décisions à fort impact sur sa prise en charge ne peuvent pas être entièrement automatisées sans intervention humaine. La mention doit figurer dans les formulaires de consentement.