Conformité IA dans la santé : guide pour hôpitaux et cliniques

Le secteur de la santé est l'un des domaines les plus impactes par l'EU AI Act. Les systèmes d'IA utilisés pour le diagnostic, le traitement ou la gestion des patients sont systématiquement classes haut risque, ce qui implique des obligations strictes de conformité.

Pourquoi la santé est-elle particulierement concernée ?

L'Annexe III du règlement identifie explicitement les systèmes d'IA en santé parmi les cas d'usage haut risque. Cela couvre l'imagerie diagnostique (radiologie, dermatologie), les systèmes d'aide a la décision clinique, la gestion des flux de patients, et le tri automatise des urgences.

La raison est simple : une erreur d'un système d'IA en santé peut avoir des conséquences directes sur la vie et la santé des personnes. Le legislateur européen a donc impose les obligations les plus strictes pour ces usages.

Les obligations pour les établissements de santé

Les hôpitaux et cliniques qui deploient des systèmes d'IA doivent respecter plusieurs obligations. La documentation technique doit decrire précisément le fonctionnement du système, ses données d'entrainement et ses performances mesurees. Un système de gestion des risques doit être mis en place tout au long du cycle de vie du système.

La supervision humaine est obligatoire : un professionnel de santé qualifie doit pouvoir comprendre, interpreter et, si nécessaire, contester les résultats du système. La traçabilité complète des décisions est requise via des logs automatiques.

Le cas spécifique de l'imagerie médicale

Les systèmes d'IA d'imagerie diagnostique (radiologie, pathologie numérique, ophtalmologie) sont soumis à une double reglementation : l'EU AI Act et le règlement dispositifs médicaux (MDR). Les établissements doivent s'assurer que leurs systèmes sont conformes aux deux cadres réglementaires.

Cela implique une validation clinique rigoureuse, une documentation des performances par population et par pathologie, et une surveillance post-commercialisation continue.

AIPD : une obligation spécifique pour les deployers

L'article 27 de l'EU AI Act impose aux deployers de systèmes haut risque de réaliser une Analyse d'Impact relative à la Protection des Droits fondamentaux (AIPD). Pour les hôpitaux, cela signifie évaluer l'impact de chaque système d'IA sur les droits fondamentaux des patients : non-discrimination, protection des données, dignite humaine, accès aux soins.

Se preparer avec une approche sectorielle

La conformité en santé ne peut pas être traitee avec un modèle generique. Chaque type de système (imagerie, aide à la décision, gestion de flux) a ses propres spécificités réglementaires. MaConformite propose un parcours dédié au secteur santé, avec des checklists adaptees, des modèles de documentation pre-remplis et un suivi des échéances spécifiques aux dispositifs médicaux.

Questions fréquentes — IA et conformité santé

Un logiciel d'aide au diagnostic médical est-il systématiquement à haut risque sous l'AI Act ?

Oui. Les systèmes d'IA destinés à influencer les décisions cliniques (aide au diagnostic, analyse d'images médicales, prédiction de risques patients) sont classés à haut risque dans l'Annexe III, point 5 du règlement. Ils requièrent une Annexe IV technique complète, un registre, et une validation continue par des professionnels de santé.

Quelle est la différence entre l'AI Act et le règlement sur les dispositifs médicaux (MDR) ?

Les deux réglementations s'appliquent en parallèle et se cumulent. Le MDR (2017/745) régit les dispositifs médicaux incluant les logiciels de diagnostic (classification selon risque clinique). L'AI Act ajoute une couche de gouvernance IA : transparence, supervision humaine, documentation technique et enregistrement dans la base de données EUDAMED. Un logiciel de diagnostic IA doit satisfaire aux deux règlements.

Les hôpitaux publics sont-ils soumis à l'EU AI Act au même titre que les cliniques privées ?

Oui. L'EU AI Act s'applique aux déployeurs publics comme privés. Les hôpitaux qui utilisent des systèmes d'IA pour la gestion des patients, la planification des soins, ou l'aide au diagnostic ont les mêmes obligations que les cliniques privées, avec des adaptations pour les marchés publics.

Quels systèmes d'IA sont interdits dans le secteur de la santé ?

Sont interdits : la catégorisation biométrique des patients selon leur origine ethnique, les opinions politiques ou la religion à des fins discriminantes, l'évaluation émotionnelle des patients sans raisons médicales ou de sécurité strictes, et tout système qui exploite des vulnérabilités psychologiques pour influencer des décisions médicales.

Comment gérer le consentement des patients pour l'utilisation de l'IA en clinique ?

Le RGPD et l'AI Act se combinent : le patient doit être informé que des systèmes automatisés participent à son parcours de soins (article 50, transparence), et les décisions à fort impact sur sa prise en charge ne peuvent pas être entièrement automatisées sans intervention humaine. La mention doit figurer dans les formulaires de consentement.