Declaración de la AMM sobre Inteligencia aumentada en la atención médica

Adoptada por la 70ª Asamblea General de la AMM, Tiflis, Georgia, Octubre 2019

INTRODUCCION 

La inteligencia artificial (IA) es la capacidad que tiene una máquina para simular un comportamiento inteligente, calidad que permite que una entidad funcione apropiadamente y con anticipación en consideración de su entorno. El término AI cubre una gama de métodos, técnicas y sistemas. Los ejemplos comunes de sistemas de IA incluyen, entre otros, el procesamiento de lenguaje natural (PNL), la visión artificial y el aprendizaje automático. En la atención médica, como en otros sectores, las soluciones de IA pueden incluir una combinación de estos sistemas y métodos.

(Nota: un glosario de términos aparece como un apéndice a esta declaración).

En salud, el término más apropiado es “inteligencia aumentada”, concepto alternativo que refleja con mayor precisión el propósito de tales sistemas porque están destinados a coexistir con la toma de decisiones humana [1]. En consecuencia, lo que continúa en esta declaración IA se refiere a inteligencia aumentada.

Un sistema de IA que utiliza el aprendizaje automático emplea un algoritmo programado para aprender («algoritmo de aprendizaje») a partir de los datos denominados «datos de capacitación». El algoritmo de aprendizaje luego ajustará automáticamente el modelo de aprendizaje automático basado en los datos de capacitación. Un «sistema de aprendizaje continuo» actualiza el modelo sin supervisión humana a medida que se presentan nuevos datos, mientras que los «aprendices bloqueados» no actualizarán automáticamente el modelo con datos nuevos. En la atención médica, es importante saber si el algoritmo de aprendizaje está finalmente bloqueado o si continúa aprendiendo una vez implementado en la práctica clínica para evaluar la calidad, la seguridad y el sesgo de los sistemas. Es fundamental ser capaz de rastrear la fuente de los datos de capacitación para comprender el riesgo asociado con la aplicación de un sistema de IA de atención médica a personas cuyas características personales son significativamente diferentes a las del conjunto de datos de capacitación.

La IA de atención médica generalmente describe métodos, herramientas y soluciones cuyas aplicaciones se centran en entornos de atención médica y atención al paciente. Además de las aplicaciones clínicas, existen muchas otras aplicaciones de los sistemas de IA en la atención médica, incluidas las operaciones comerciales, la investigación, la administración de la atención médica y la salud de la población.

Los conceptos de inteligencia artificial y aprendizaje automático han interesado rápidamente a las organizaciones de salud, pero a menudo no existe una definición clara de la terminología utilizada. Muchos consideran la IA como una panacea tecnológica, sin embargo, la realización de sus promesas puede presentar desafíos, debido a la supervisión regulatoria en desarrollo para garantizar la seguridad y la eficacia clínica, la falta de estándares ampliamente aceptados, los problemas de responsabilidad, la necesidad de leyes y regulaciones claras que rijan el uso de datos y la falta de comprensión compartida de la terminología y las definiciones.

Algunos de los usos más prometedores de los sistemas de inteligencia artificial para la salud incluyen un análisis predictivo, medicina de precisión, diagnóstico por imágenes de enfermedades y apoyo a las decisiones clínicas. Los avances en estas áreas están en marcha y la inversión en IA ha aumentado en los últimos años [2]. En la actualidad, los sistemas de IA para la salud comienzan a proporcionar valor en el reconocimiento de patrones, procesamiento de lenguaje natural y aprendizaje en profundidad. Los sistemas de aprendizaje automático están diseñados para identificar errores de datos sin perpetuarlos. Sin embargo, los sistemas de IA para la salud no reemplazan la necesidad de la relación médico-paciente. Tales sistemas aumentan la atención médica proporcionada por el médico y no la reemplazan.

Los sistemas de IA para la salud deben ser transparentes, reproducibles y generar confianza entre el personal de salud y los pacientes. Los sistemas se deben enfocar en las necesidades de los usuarios. La facilidad de empleo y su eficacia deben ser evaluados por participantes que reflejan necesidades similares y patrones de práctica de los usuarios finales y los sistemas deben funcionar de manera eficaz con las personas. Los médicos estarán más dispuestos a aceptar sistemas de IA si pueden ser integrados o mejorar sus esquemas de prácticas y también mejorar la atención de los pacientes.

Oportunidades

La IA para la salud puede ofrecer un conjunto de herramientas de transformación a los médicos y los pacientes y tiene el potencial de que la atención médica sea más segura y más eficaz. La automatización de los procesos hospitalarios y administrativos podría mejorar la productividad de los médicos. El uso de la extracción de datos para producir información útil y exacta en el momento adecuado puede mejorar los registros de salud electrónicos y el acceso a la información pertinente del paciente. Los resultados de la extracción de datos también puede entregar evidencia para las tendencias que pueden servir para informar sobre la asignación de recursos y las decisiones de utilización. Puede haber mejores diagnósticos y tratamientos si se analiza toda la información conocida de un paciente. También existe el potencial de mejorar la experiencia del paciente, la seguridad del paciente y el cumplimiento del tratamiento.

Las aplicaciones de la IA para la salud en la educación médica incluyen la educación médica continua, simulaciones de capacitación, asistencia al aprendizaje el acompañamiento de los estudiantes de medicina y residentes y puede proporcionar herramientas de evaluación objetiva de las competencias. Estas aplicaciones ayudarían a personalizar la educación médica y facilitar el aprendizaje independiente individual o grupal.

A parte de los médicos, hay varios interesados y responsables de políticas que participan en la evolución de la IA en la atención médica. Esto incluye a las asociaciones médicas, empresas, gobiernos y la industria tecnológica. Los médicos tienen una oportunidad sin precedentes de informar e influir de manera positiva en los debates que se dan actualmente sobre la IA. Los médicos deben involucrarse de forma dinámica en estos intercambios para asegurar que sus opiniones sean escuchadas e incorporadas a esta tecnología de rápido desarrollo.

Desafíos

Los desarrolladores y reguladores de los sistemas de inteligencia artificial para la salud deben garantizar la divulgación adecuada y tener en cuenta los beneficios, las limitaciones y el alcance del uso apropiado de dichos sistemas. A su vez, los médicos tendrán que comprender los métodos y sistemas para basarse en la recomendación clínica. Los estudiantes de medicina y los médicos en ejercicio deben ser informados sobre las posibilidades y limitaciones de los sistemas de IA para la salud, ya que su participación es esencial para la buena evolución del sector. Los sistemas de IA siempre deben ser conformes a los valores profesionales y a la ética de la profesión médica.

La protección de la confidencialidad, control y propiedad de los datos del paciente es fundamental en la relación médico-paciente. El anonimato de los datos no proporciona una protección suficiente a la información del paciente cuando es suficiente tres puntos de información, que pueden poner en riesgo la privacidad de los datos del paciente, a los algoritmos de aprendizaje por las máquinas para identificar a una persona en un inmenso y complejo conjunto de información. Las expectativas actuales de los pacientes en cuanto a la confidencialidad de su información personal deben abordarse y desarrollar nuevos modelos que incluyan el consentimiento y la gestión de datos. Se exploran soluciones técnicas viables para mitigar estos riesgos, que serán importantísimas para adoptar el uso de sistemas de IA para la salud.

La estructura y la integridad de la información son los mayores desafíos que deben enfrentarse cuando se diseñen los sistemas de IA para la salud. El conjunto de información en el que los sistemas de aprendizaje automático se basan es creado por humanos y puede ser sesgado y tener errores. Es por eso que estos conjuntos de información normalizarán errores y las predisposiciones inherentes a su constitución. Las minorías se pueden encontrar en desventaja porque hay menos información disponible sobre las poblaciones minoritarias. Otra consideración en el diseño es cómo se evaluará un modelo en su exactitud, lo que incluye un análisis muy cuidadoso de la información y su relación con el conjunto de datos usados para evaluar los algoritmos.

La generalización de los sistemas de IA presenta importantes desafíos sobre cuestiones de responsabilidad. A medida que los modelos de supervisión nuevos y existentes desarrollan sistemas de IA para la salud, los desarrolladores de tales sistemas generalmente tendrán el mayor conocimiento de los riesgos y estarán mejor posicionados para mitigar el riesgo. Como resultado, los desarrolladores de sistemas de IA para la salud y aquellos que exigen el uso de dichos sistemas deben ser responsables de los eventos adversos que resulten de un mal funcionamiento o una imprecisión en la producción. Los médicos a menudo se ven frustrados con el uso de registros de salud electrónicos. Los sistemas diseñados para respaldar la atención médica prestada en equipo y los modelos sobre el flujo de tareas. Además de los factores humanos en el diseño y desarrollo de los sistemas de IA para la salud, se debe dar una consideración significativa al despliegue apropiado del sistema. No todos los sistemas se pueden implementar en todas las configuraciones, debido a las variaciones de la fuente de datos.

Ya se trabaja para avanzar en la prestación y la supervisión de la atención médica con utilización de IA, incluidas las normas de atención, los derechos de propiedad intelectual, los procedimientos de certificación o las regulaciones gubernamentales y los aspectos éticos y jurídicos.

RECOMENDACIONES

1. Que la AMM:

• Reconozca el potencial para mejorar los resultados de los pacientes y la satisfacción profesional de los médicos mediante el uso de IA para la salud, siempre que se ajusten a los principios de la ética médica, la confidencialidad de los datos de los pacientes y la no discriminación.
• Apoye el proceso de establecer prioridades para la IA para la salud.
• Inste a la revisión del currículo médico y a tener oportunidades educacionales para los pacientes, médicos, estudiantes de medicina, administradores de salud y otros profesionales de salud, a fin de promover una mayor comprensión de los diversos aspectos, positivos y negativos, de la IA para la salud.

2. La AMM insta a sus organizaciones miembros a:

• Encontrar oportunidades para incluir la perspectiva del médico en ejercicio en el desarrollo, diseño, validación e implementación de la IA para la salud.
• Abogar por la participación directa del médico en el desarrollo y gestión de la IA para la salud y por una supervisión apropiada gubernamental y profesional de los productos y servicios de la IA para que sean seguros, eficaces, equitativos, éticos y accesibles.
• Abogar por que todos los sistemas de IA para la salud sean transparentes, reproducibles y sean confiables por el personal de salud y los pacientes.
• Abogar por la primacía de la relación médico-paciente cuando se desarrollan e implementan sistemas de AI para la salud.

APENDICE

GLOSARIO DE TERMINOS UTILIZADOS EN LA INTELIGENCIA AUMENTADA PARA LA SALUD

El algoritmo es un conjunto de instrucciones detalladas y ordenadas que son seguidas por un computador para resolver un problema matemático o para completar un proceso informático.

La inteligencia artificial consiste en una serie de métodos computacionales utilizados para producir sistemas que realizan tareas que muestran un comportamiento inteligente que no se puede distinguir del comportamiento humano.

La inteligencia aumentada (IA) es una conceptualización de la inteligencia artificial que se centra en el papel de asistencia de la inteligencia artificial, y enfatiza que su diseño mejora la inteligencia humana en lugar de reemplazarla.

La visión computacional es un campo científico interdisciplinario que trata sobre cómo se puede hacer que los computadores obtengan un alto nivel de comprensión a partir de imágenes digitales o videos y busque automatizar las tareas que puede realizar el sistema visual humano.

La extracción de datos es un subcampo interdisciplinario de informática y estadística cuyo objetivo general es extraer información (con métodos inteligentes) de un conjunto de datos y transformar la información en una estructura comprensible para su uso posterior

El aprendizaje automático (AA) es el estudio científico de algoritmos y modelos estadísticos que utilizan los sistemas informáticos para realizar con eficacia tareas específicas con una mínima interacción humana y sin usar instrucciones explícitas, mediante el aprendizaje de datos e identificación de patrones.

El procesamiento del lenguaje natural (PLN) es un subcampo de ciencias de la computación, ingeniería de la información e inteligencia artificial relacionada con las interacciones entre las computadoras y los lenguajes humanos (naturales), en particular, cómo programar los computadores para procesar y analizar grandes cantidades de datos en lenguaje natural.

Los datos de capacitación se utilizan para formar un algoritmo; generalmente consiste en un cierto porcentaje de un conjunto de datos general junto con un conjunto de pruebas. Como regla general, cuanto mejor sean los datos de capacitación, mejor será el rendimiento del algoritmo. Una vez que un algoritmo es formado en un conjunto de capacitación, generalmente se evalúa en un conjunto de prueba. El conjunto de capacitación debe estar etiquetado o enriquecido para aumentar la confianza y precisión de un algoritmo.

[1] Para fines de esta Declaración, el término «IA de atención médica» se refiere a los sistemas que enriquecen el trabajo de los médicos, pero no lo reemplazan.

[2] CB Insights. The Race for AI: Google, Baidu, Intel, Apple in a Rush to Grab Artificial Intelligence Startups. https://www.cbinsights.com/research/top-acquirers-ai-startups-ma-timeline/.