Prise de position de l’AMM sur l’utilisation de l’intelligence augmentée dans les soins médicaux

Adoptée par la 70^ème Assemblée Générale, Tbilissi, Géorgie, octobre 2019

PRÉAMBULE

L’intelligence artificielle (IA) est la possibilité pour une machine de simuler un comportement intelligent, une caractéristique qui lui permet de fonctionner de manière appropriée et avec anticipation dans son environnement. Le terme « intelligence artificielle » recouvre tout un éventail de méthodes, de techniques et de systèmes. Parmi les exemples courants de systèmes d’intelligence artificielle, on trouve le traitement automatique du langage naturel (TALN), la vision par ordinateur et l’apprentissage automatique. Dans les soins de santé comme en d’autres domaines, les solutions d’intelligence artificielle mettent en œuvre une combinaison de ces systèmes et méthodes.

(Note : un glossaire figure en annexe de cette prise de position).

Dans le domaine des soins de santé, le terme le plus adapté est « intelligence augmentée », une autre conceptualisation qui reflète plus exactement l’objectif de ces systèmes, qui est de coexister avec la prise de décision humaine (1). Dès lors, dans cette prise de position, IA se réfère à l’intelligence augmentée.

Un système d’intelligence artificielle utilisant l’apprentissage automatique emploie un algorithme programmé pour apprendre (« algorithme d’apprentissage ») à partir de données appelées « données d’apprentissage ». L’algorithme d’apprentissage ajuste ensuite automatiquement le modèle d’apprentissage automatique sur la base des données d’apprentissage qu’il a reçues. Un système d’apprentissage automatique non supervisé met à jour le modèle sans intervention humaine à mesure qu’il reçoit de nouvelles données, alors que l’apprentissage automatique supervisé ne met pas à jour le modèle en traitant automatiquement de nouvelles données. Dans les soins de santé, il est important de savoir si l’algorithme d’apprentissage est supervisé ou non, c’est-à-dire s’il continue à apprendre une fois intégré à la pratique clinique afin d’évaluer la qualité, la sécurité ou les biais du système. Il est essentiel d’être capable de remonter à la source des données d’apprentissage pour comprendre le risque associé à l’intégration de systèmes d’intelligence augmentée dans les soins de santé pour des personnes dont les caractéristiques sont significativement différentes de celles qui sont présentes dans les données d’apprentissage.

L’intelligence augmentée dans les soins de santé désigne généralement des méthodes, des outils et des solutions appliquées aux établissements de soins de santé et aux soins aux patients. Outre les applications cliniques, il existe de nombreuses autres applications de l’intelligence augmentée aux soins de santé : activités commerciales, recherche, administration des soins de santé et santé de la population.

Les concepts d’intelligence augmentée et d’apprentissage automatique ont très tôt intéressé les prestataires de soins de santé, mais la terminologie se rapportant à ces concepts n’est souvent pas très établie. D’aucuns voient en l’intelligence augmentée la panacée technique, mais la réalisation des promesses de l’intelligence augmentée pourrait réserver des difficultés, qu’elles soient dues à la nécessité de faire évoluer la supervision règlementaire pour assurer la sécurité et l’efficacité clinique, le manque de normes communément acceptées, les questions de responsabilité, la nécessité de définir des lois et règlementations claires eu égard à l’utilisation des données et l’absence de terminologie et de définitions communément établies.

Parmi les usages les plus prometteurs de l’intelligence augmentée dans le domaine des soins de santé, on peut citer l’analyse prédictive, la médecine de précision et le soutien aux décisions cliniques. Ces domaines connaissent des progrès et les investissements dans l’intelligence augmentée sont en hausse depuis plusieurs années [1]. Actuellement les systèmes d’intelligence augmentée appliqués aux soins de santé ont commencé à produire des résultats intéressants dans les domaines de la reconnaissance de formes, le TALN et l’apprentissage en profondeur (« deep learning »). Les systèmes d’apprentissage automatique sont conçus pour identifier les données douteuses et éviter de se fonder sur ces données. Toutefois, les systèmes d’intelligence augmentée ne sauraient remplacer la relation entre médecin et patient. Ces systèmes doivent améliorer les soins médicaux prodigués par le médecin et non remplacer ce dernier.

Les systèmes d’intelligence augmentée doivent être transparents, reproductibles et fiables, à la fois aux yeux des soignants et à ceux des patients. Les systèmes doivent être centrés sur les besoins des usagers. Leur facilité d’emploi et leur efficacité doivent être évaluées par des participants qui soient représentatifs des usagers finaux. Les médecins seront plus enclins à recourir à des systèmes d’intelligence augmentée flexibles qui peuvent être intégrés à leurs pratiques et les perfectionner, tout en améliorant les soins dispensés aux patients.

Perspectives

L’intelligence augmentée appliquée aux soins de santé peut offrir un ensemble d’outils transformationnels aux médecins et aux patients et pourrait rendre les soins de santé plus sûrs et plus efficaces. L’automatisation de processus hospitaliers et administratifs pourrait accroître la productivité des médecins. L’exploration de données pour extraire des données exactes et utiles au bon moment pourrait permettre d’améliorer les dossiers médicaux électroniques et l’accès aux informations utiles concernant le patient. Les résultats de l’exploration de données pourraient en outre permettre de mettre au jour des tendances qui serviraient à informer l’attribution de ressources et les décisions relatives à leur utilisation. L’analyse de toutes les données connues sur un patient pourrait permettre un meilleur diagnostic et un traitement plus adapté ou plus commode. L’expérience du patient, sa sécurité et son adhésion au traitement pourraient également s’en trouver améliorées.

Les applications de l’intelligence augmentée dans la formation des futurs médecins sont multiples et comprennent la formation continue, la simulation de situations, l’assistance à l’apprentissage et l’accompagnement des étudiants et des internes ainsi que la mise à disposition d’outils objectifs d’évaluation des compétences. De telles applications pourraient contribuer à personnaliser l’enseignement médical et à faciliter l’apprentissage autonome, individuel ou en groupe.

Outre les médecins, nombre d’acteurs et de décideurs participent à influencer l’évolution de l’intelligence artificielle dans le domaine des soins de santé, par exemple les associations médicales, les entreprises, les gouvernements et le secteur des technologies de pointe. Les médecins disposent d’une occasion exceptionnelle d’informer et d’influencer de manière positive les discussions et les débats ayant actuellement cours au sujet de l’intelligence augmentée. Ils ont tout intérêt à intervenir dans ces discussions pour assurer que leurs points de vue soient entendus et pris en compte dans ces technologies en plein essor.

Écueils

Les développeurs des systèmes d’intelligence augmentée appliquée aux soins de santé et les autorités de règlementation doivent assurer l’information en bonne et due forme des parties concernées et déterminer les avantages, les limites et la juste portée de ces systèmes.  Les médecins, eux ont besoin de comprendre les méthodes et systèmes d’intelligence augmentée afin de se fonder sur des recommandations cliniques. Les étudiants en médecine et les médecins en activité doivent être formés aux possibilités et aux limites des systèmes d’intelligence augmentée dans le cadre des soins de santé, leur implication étant essentielle à la bonne évolution du secteur. Les systèmes d’intelligence augmentée doivent toujours être conformes aux valeurs professionnelles et aux règles déontologiques ayant cours dans la profession médicale.

La protection de la confidentialité des données du patient, leur maîtrise et leur possession est au fondement de la relation de confiance qui unit le patient à son médecin. L’anonymisation des données ne protège pas suffisamment les informations relatives à un patient dans la mesure où il suffit de trois points de données aux algorithmes d’apprentissage automatique pour identifier une personne dans d’immenses corpus de données complexes. Il convient de répondre aux attentes actuelles des patients en matière de confidentialité de leurs données personnelles et à cette fin élaborer de nouveaux modèles de bonne gestion des données et du consentement.  On recherche actuellement des solutions techniques viables pour limiter les risques afférents à ces systèmes. Elles sont indispensables si les systèmes d’intelligence augmentée sont appelés à se généraliser dans les soins de santé.

La structure et l’intégrité des données sont aujourd’hui les points faibles auxquels il convient de remédier dès la conception des systèmes d’intelligence augmentée. Les ensembles de données sur lesquels sont entraînés les systèmes d’apprentissage automatique sont créés par des humains et sont susceptibles de refléter leurs préjugés et leurs erreurs. C’est pourquoi ces systèmes peuvent normaliser des erreurs et des biais présents dans leur corpus de données. Les minorités peuvent s’en trouver désavantagées : il existe en effet moins de données sur les populations minoritaires. Il convient également d’examiner la manière dont sera évaluée l’exactitude d’un modèle et donc d’analyser minutieusement les ensembles de données d’entraînement et les relations qui les lient aux ensembles de données utilisées pour évaluer les algorithmes.

La généralisation des systèmes d’intelligence augmentée se heurte en outre à des questions de responsabilité. À mesure que des modèles de supervision existants et nouveaux se constituent au sein des systèmes d’intelligence artificielle, les meilleurs connaisseurs de ces systèmes et donc les mieux placés pour en atténuer les risques seront ceux qui les ont développés. Les développeurs des systèmes d’intelligence augmentée appliqués aux soins de santé et ceux qui ont commandé de tels systèmes doivent être comptables des évènements néfastes qui résulteraient d’un mauvais fonctionnement ou de résultats inexacts. Les médecins trouvent souvent les dossiers médicaux électroniques peu ergonomiques. Des systèmes conçus pour permettre les soins en équipe et d’autres types de déroulement des tâches se révèlent souvent inadaptés. Outre les facteurs humains, la conception et le développement des systèmes d’intelligence augmentée dans les soins de santé doivent sérieusement prendre en compte le déploiement approprié de tels systèmes. Tous les systèmes ne sont pas exploitables partout, du fait des variations des sources de données.

Des travaux sont en cours pour faire progresser la législation relative aux systèmes d’intelligence augmentée appliquée aux soins de santé et leur supervision, notamment dans les domaines des normes relatives aux soins médicaux, des droits de propriété intellectuelle, des procédures de certification ou des règlementations gouvernementales et des considérations éthiques et légales.

RECOMMANDATIONS

L’AMM devrait :

• reconnaître le potentiel des systèmes d’intelligence augmentée appliquée aux soins de santé en matière d’amélioration de l’état de santé des patients et de satisfaction professionnelle des médecins, à condition que ces systèmes soient conformes aux principes d’éthique médicale, de confidentialité des données relatives aux patients et de non-discrimination ;
• soutenir le processus de fixation de priorités des systèmes d’intelligence augmentée appliqués aux soins de santé ;
• encourager les possibilités de formation des patients, médecins, étudiants en médecine, administrateurs de santé et tous les autres professionnels de santé pour promouvoir une meilleure compréhension des nombreux aspects, positifs et négatifs de l’intelligence augmentée dans les soins de santé.

L’AMM invite instamment ses organisations membres à :

• trouver des occasions de faire connaître les points de vue des médecins sur l’élaboration, la conception, la validation et la mise en œuvre de l’intelligence augmentée dans les soins de santé ;
• défendre l’implication directe des médecins dans le développement et la gestion des systèmes d’intelligence augmentée appliquée aux soins de santé et une supervision institutionnelle et professionnelle appropriée aux fins de produits et services d’intelligence augmentée sûrs, efficaces, équitables, éthiques et accessibles ;
• défendre la transparence, la reproductibilité et la fiabilité de tous les systèmes d’intelligence augmentée en matière de soins de santé tant pour les soignants que pour les patients.
• défendre la primauté de la relation entre médecin et patient dans le développement et la mise en œuvre de systèmes d’intelligence augmentée appliqués aux soins de santé.

(1) Aux fins de la présente prise de position, le terme « intelligence augmentée dans les soins de santé » fait référence à un système qui enrichit le travail des cliniciens mais ne s’y substitue pas.

ANNEXE: GLOSSAIRE DES TERMES RELATIFS À L’INTELLIGENCE AUGMENTÉE DANS LE DOMAINE DES SOINS DE SANTÉ

Algorithme : ensemble d’instructions détaillées et ordonnées qui sont suivies par un ordinateur pour résoudre un problème mathématique ou réaliser un processus informatique.

Intelligence artificielle : ensemble de méthodes informatiques utilisées pour produire des systèmes qui réalisent des tâches témoignant d’un comportement intelligent indistinct d’un comportement humain.

Intelligence augmentée (IA) : conceptualisation de l’intelligence artificielle centrée sur le rôle d’assistance de cette dernière et conçue pour concourir à l’intelligence humaine plutôt que pour la remplacer.

Vision informatique : champ scientifique interdisciplinaire traitant de la manière dont des ordinateurs peuvent permettre une compréhension fine des images ou vidéos numériques et visant à automatiser des tâches dont est capable l’organe visuel humain.

Exploration de données : sous-champ interdisciplinaire de l’informatique et de la statistique dont le but général est d’extraire des informations (en utilisant des méthodes intelligentes) d’un corpus de données et de les transformer en une structure compréhensible pour un usage ultérieur.

Apprentissage automatique : étude scientifique d’algorithmes et de modèles statistiques utilisés par des systèmes informatiques afin de réaliser des tâches spécifiques de manière efficace avec le minimum d’intervention humaine et sans instruction précise, en apprenant des données et de l’identification de formes.

Traitement automatique du langage naturel (TALN) : sous champ de l’informatique, de l’ingénierie de l’information et de l’intelligence artificielle étudiant les interactions entre les langages informatiques et humains, notamment la manière de programmer des ordinateurs pour traiter et analyser de grandes quantités de données relatives au langage naturel.

Données d’entraînement : ensemble de données utilisées pour former un algorithme. Il s’agit généralement d’un certain pourcentage d’un corpus de données accompagné d’un dispositif de test. De manière générale, meilleures sont les données d’entraînement, plus l’algorithme est performant. Une fois l’algorithme entraîné, il est généralement évalué grâce au dispositif de test. L’ensemble du système d’entraînement doit être étiqueté ou enrichi pour accroître la fiabilité et l’exactitude de l’algorithme.

Référence

[1] CB Insights, The Race for AI: Google, Baidu, Intel, Apple in a Rush to Grab Artificial Intelligence Startups. https://www.cbinsights.com/research/top-acquirers-ai-startups-ma-timeline/ (en anglais).