Des pistes face aux enjeux éthiques

Traitements personnalisés grâce au recoupement des données (big data), suivi des patients à distance, interventions chirurgicales assistées, prothèses connectées, aide au diagnostic… le champ de l’intelligence artificielle (IA) en santé est vaste. L’innovation liée au numérique se déploie rapidement dans le monde. Dans ce domaine, le système juridique français est l’un des plus protecteurs. « Le risque éthique principal serait de bloquer l’accès aux innovations que permet l’IA dans le domaine de la santé. Pour l’éviter, il faut limiter la surréglementation. C’est l’un des points importants que nous avons mis en évidence dans un rapport (1) sur le numérique et l’IA en santé qui irrigue l’avis 129 (2) du Comité consultatif national d’éthique (CCNE) », indique David Gruson, directeur du programme santé du groupe Jouve et codirecteur avec Claude Kirchner des travaux du CCNE (volet éthique de l’IA en santé) pour la préparation de la révision de la loi de bioéthique.

Respecter la vie privée et le secret médical

Les questions d’éthique liées à l’IA en santé se posent à tous niveaux et pour tous : patients, professionnels de santé, chercheurs… Lorsqu’une personne est atteinte d’une maladie rare, par exemple, elle peut communiquer ses données personnelles à des fins de recherche et d’amélioration des traitements. Mais ces données sont sensibles : le patient peut alors hésiter à les fournir. De fait, s’il accepte, il contribue à l’avancée des connaissances scientifiques mais il risque aussi d’entamer le respect de sa vie privée. Par ailleurs, sa décision – certes personnelle – affecte, in fine, l’ensemble des personnes touchées par la même maladie.

Autre exemple : les médecins utilisent parfois Gmail et Dropbox pour échanger des informations concernant les patients. Ces outils pratiques leur permettent de transmettre rapidement les donnés de santé. Mais, dans la mesure où ils ne sont pas sécurisés, la quête d’une certaine commodité risque de violer le respect du secret médical.

Décision médicale : l’humain prime sur l’IA

Le numérique et la médecine algorithmique s’appuient sur des données massives qui font la preuve de leur efficacité en termes de qualité des soins et d’efficience. Les médecins peuvent ainsi se faire aider numériquement dans leur diagnostic ou le choix du traitement. Dans ce cas, le risque serait de suivre à la lettre les recommandations émises par le système numérique. Et donc, de déléguer la décision médicale à une machine au lieu de la fonder sur la formation, l’expérience et l’interaction avec le patient. Ce risque vaut également pour le patient qui déléguerait son consentement éclairé à l’IA. « La décision finale doit rester celle de l’être humain. La garantie d’une intervention humaine est indispensable : il faut laisser l’IA sous supervision des professionnels de santé et des patients, dans le cadre d’un véritable processus qualité. Ce principe de garantie humaine est porté par l’article 11 du projet de loi de bioéthique », souligne David Gruson.

Pour favoriser l’éthique et la régulation positive de l’IA, médecins et paramédicaux devront se former à ces problématiques. « Une réflexion est menée sous l’égide de la conférence des doyens des facultés de médecine pour que ces notions soient intégrées à la formation initiale des médecins, indique le spécialiste. Des travaux sont également commencés (en région Auvergne Rhône-Alpes, par exemple) pour intégrer l’IA aux formations paramédicales ».

(1) Numérique et Santé. Quels enjeux éthiques pour quelles régulations ? Rapport du groupe de travail commandé par le CNNE avec le concours de la commission de réflexion sur l’éthique de la recherche en sciences et technologies du numérique d’Allistene (Cerna), 19 novembre 2018 

(2) Avis 129. Contribution du Comité consultatif national d’éthique à la révision de la loi de bioéthique 2018-2019. 18 septembre 2018