Construire collectivement un cadre éthique pour l’intelligence artificielle en santé
L’Agence du Numérique en Santé (ANS), en lien avec la cellule éthique de la Délégation au numérique en santé (DNS), lance une concertation publique sur l’éthique de l’intelligence artificielle (IA) en santé.
L'objectif : co-construire un guide d’implémentation d’un système d’IA en santé éthique, destiné à l’ensemble de l’écosystème. Ce document vise à favoriser un déploiement responsable, sécurisé et respectueux des valeurs humaines, au service des professionnels et des usagers.
Cette initiative s’inscrit dans la stratégie nationale en santé numérique, amorcée en 2019, et poursuivie avec la publication en 2022 du guide « Éthique by design » (pdf).
Un guide de référence en cours d’élaboration
Face à l’essor des usages de l’IA en santé (prévention, diagnostic, coordination des soins…), un cadre structurant, partagé et opérationnel est nécessaire. Le guide en cours de concertation propose des critères pratiques à chaque étape du cycle de vie d’un système d’IA (SIA), fondés sur les principes clés du cadre de l’éthique du numérique en santé (CENS) : bienfaisance, non-malfaisance, autonomie, justice et écoresponsabilité.
Les critères sont organisés autour des 7 grandes étapes d’un projet de développement d’un SIA :
- cadrage ;
- collecte et préparation des données ;
- conception du SIA ;
- conception des interfaces ;
- évaluation du SIA ;
- déploiement, formation et utilisation du SIA ;
- suivi, mise à jour et amélioration continue.
Une démarche ancrée dans un cadre réglementaire exigeant
Ce travail s’inscrit dans un environnement réglementaire en pleine structuration, aux échelles nationale et internationale :
- Règlement Général sur la Protection des Données (RGPD) ;
- Principes de l’OCDE sur l’IA (2019) ;
- Recommandations de l'UNESCO sur l’éthique de l’IA (2021) ;
- Medical Device Regulation (MDR) (2021) ;
- Règlement européen sur l’IA (RIA) (2024).
Le guide aborde notamment des enjeux éthiques propres aux SIA en santé, peu ou pas couverts par le RIA. Il ne sera pas opposable en tant que tel, mais ses critères pourraient alimenter des référentiels sectoriels (comme ce qui a été fait par exemple pour le référentiel de téléconsultation).
Une concertation ouverte à tous les acteurs
Cette consultation s’adresse à l’ensemble de l’écosystème concerné par le développement ou l’usage de l’IA en santé :
- Entreprises du Numérique en Santé, start-up, industriels ;
- professionnels de santé et établissements ;
- représentants des usagers et patients ;
- institutions, chercheurs, experts éthique.
Contribuez à un avenir numérique plus éthique
Vos retours permettront d’enrichir un document de référence qui accompagnera les projets d’IA vers des solutions plus utiles, robustes et respectueuses des personnes.
Ne manquez pas cette occasion de participer à l’émergence d’un cadre partagé pour une IA en santé éthique et durable.