Principio 6: Inteligencia artificial

Resumen

Uno de los ocho principios rectores para la transformación digital del sector de la salud promovidos por la Organización Panamericana de la Salud (OPS) es la inteligencia artificial (IA). Esta sinopsis de políticas presenta conceptos clave, líneas de acción recomendadas e indicadores para su monitoreo con el objetivo de avanzar en la IA.

De acuerdo con la definición de la OPS, este principio rector se propone participar en la cooperación mundial sobre IA y cualquier tecnología emergente. “La cooperación mundial en inteligencia artificial implica comprender la dimensión individual y social en una realidad globalizada e interconectada que pertenece a la condición humana. Dicha cooperación, así como el trabajo en redes multisectoriales e interdisciplinarias, es vital a la hora de diseñar y adoptar soluciones de inteligencia artificial que promuevan los enfoques de equidad, género y diversidad cultural con algoritmos seguros, confiables y abiertos” ¹⁾.

La IA es la ciencia que desarrolla máquinas para hacer tareas que requerirían inteligencia humana, lo cual incluye múltiples áreas diferentes de aplicación. En salud existen ejemplos exitosos de su utilización en salud poblacional, investigación, procesos de cuidado, soluciones para los pacientes y optimización de operaciones en salud. A su vez, la IA tiene potencial para ayudar a superar los crecientes desafíos de salud, incluidos el aumento de los costos, los cambios demográficos y epidemiológicos, las necesidades de salud no satisfechas relacionadas con la doble carga de las enfermedades infecciosas y no transmisibles, y una escasez significativa de profesionales de la salud capacitados.

El desarrollo de estrategias de IA en la salud plantea, en general, grandes desafíos técnicos, éticos, políticos, regulatorios y de recursos humanos. En particular en la Región de las Américas, la elaboración de políticas de Estado sostenidas y la creación de ecosistemas de innovación que atraigan inversiones para el desarrollo de estas tecnologías pueden ser desafíos difíciles de sortear.

En este documento se explora el principio rector número seis, la IA, y su aplicación dentro de los sistemas de salud. Se comienza con una definición conceptual de la IA y de su situación actual. Luego, se profundiza en los obstáculos para su implementación y en las recomendaciones para superarlos. Por último, se proponen indicadores que permitan monitorear el progreso en la implementación y unas recomendaciones generales.

Introducción

La inteligencia artificial (IA) facilita la transformación hacia sistemas de salud más proactivos, predictivos y preventivos. Clásicamente, se la ha definido como la ciencia que desarrolla máquinas para hacer tareas que requerirían inteligencia humana ²⁾. Esta definición engloba todos los métodos que permiten ejecutar tareas para las que se necesitaría inteligencia humana, tanto los que buscan representar el conocimiento humano (IA simbólica) como los que utilizan datos para generar el conocimiento (IA basada en aprendizaje automático). A su vez, la definición incluye múltiples áreas de aplicación diferentes, como el procesamiento del lenguaje natural, la visión artificial o la visión por computadora, la robótica o el procesamiento de la voz, entre otras. En un contexto en el que existen múltiples experiencias exitosas de uso de la IA vinculadas a la salud poblacional, la investigación, los procesos de cuidado, las soluciones para el paciente y la optimización de operaciones en salud, los países de ingresos bajos y medianos son los más susceptibles a ganar o perder con la implementación de estrategias basadas en la IA, ya que si logran alinear las estrategias sanitarias incluyendo procesos de transformación digital e IA, pueden obtener importantes mejoras en los procesos de cuidado a nivel poblacional e individual, como las que se mencionaron previamente. Por otro lado, si no logran aprovechar estas nuevas herramientas, profundizarán aún más la brecha existente con los países de ingresos altos.

La cooperación mundial sobre IA y cualquier tecnología emergente permitirá que los distintos países alcancen su potencial en cuanto al desarrollo de tecnologías de la información y comunicación en salud y la gestión de la información, cuestiones jerarquizadas a partir de la pandemia de la enfermedad por el coronavirus del 2019 (COVID-19).

Aspectos como el aumento de la capacidad de cómputo, el creciente volumen de datos generados diariamente y los grandes avances logrados en los últimos años en distintos algoritmos de IA fomentan y retroalimentan las medidas de transformación digital promoviendo el acceso igualitario a una atención de la salud oportuna.

En el contexto actual, en el que los gobiernos suelen priorizar otras inversiones, es probable que se amplíen las inequidades en salud existentes en sus poblaciones. Por ello, la creación de capacidad en los órdenes técnicos, políticos, regulatorios y de recursos humanos es central para que los países alcancen una madurez en el uso de IA.

Por último, el rol del Estado como promotor de alianzas estratégicas y generador de políticas y regulaciones que definan estándares mínimos y buenas prácticas es indispensable para el desarrollo integral, coherente y sostenido de estrategias de IA en salud pública.

Estado actual e identificación de brechas

La IA tiene el potencial de ayudar a superar los crecientes desafíos de salud, incluidos el aumento de los costos, los cambios demográficos y epidemiológicos, las necesidades de salud insatisfechas relacionadas con la doble carga de las enfermedades infecciosas y no transmisibles, y una escasez significativa de profesionales de la salud capacitados. Sin embargo, el desarrollo de estrategias de IA en la salud plantea grandes desafíos técnicos, éticos, políticos, regulatorios y de recursos humanos.

Existen numerosos ejemplos de sesgos en el desarrollo de la IA aplicada a la salud a partir de fallas en el proceso de construcción de algoritmos, que puede dar lugar a prácticas discriminatorias. En este aspecto, la Organización Mundial de la Salud (OMS) identifica tres maneras en las que la IA se encuentra asociada a sesgos algorítmicos y discriminación: 1) los sesgos en los conjuntos de datos, 2) los sesgos vinculados a quien desarrolla la IA y el origen de los conjuntos de datos sobre los que la IA es entrenada, y 3) los sesgos en la puesta en producción de la IA.

Además, los países en mayor situación de vulnerabilidad se enfrentan a desafíos a la hora de generar modelos de negocio que den lugar a una IA sostenible con efectos reales en la salud pública y que habiliten las innovaciones que puedan insertarse en el marco regulatorio, las demandas del sistema de salud y sus prioridades. En los países de ingresos bajos y medios, la escasez de recursos y la falta de un ecosistema integrado de financiación constituye una barrera para la adquisición de herramientas de IA, y esto se ve agravado por la complejidad de los procesos de adquisición y compra de herramientas de IA por parte de los gobiernos.

Sumado al aspecto del financiamiento, existen desafíos a la hora de establecer políticas regulatorias abarcativas, persistentes y coherentes que permitan que el uso de la IA escale en los distintos entornos jurisdiccionales. La falta de transparencia en los procesos de adquisición, transformación y explotación de datos y la necesidad de establecer normativas para el uso clínico y extrahospitalario de la información adquirida para pacientes, personal médico y profesionales de otras disciplinas, son retos complejos que deben abordarse para garantizar una IA en materia de salud que respete los derechos de las personas.

A su vez, es necesario incrementar la vinculación entre el sector privado y las iniciativas de formación de grado y posgrado. Si bien existen múltiples experiencias en cursos, charlas y participación en el diseño de programas, debe fomentarse la contribución y cooperación entre el sector privado y las oportunidades de formación, así como la retroalimentación de iniciativas entre el sector público y privado. También, la falta de oportunidades de enseñanza académica y formaciones multidisciplinarias en IA y salud digital se expresa a través de una serie de limitaciones vinculadas a la educación formal, los cursos de formación, el desarrollo de personal calificado y la gestión del cambio. Entre ellas, la Comisión de la Banda Ancha para el Desarrollo Sostenible menciona la falta de priorización de las ciencias de la computación y la IA en la educación formal, la ausencia de entrenamientos certificados en IA aplicada a la salud, una fuerza de trabajo que no es ágil, la escasez de personal calificado y la resistencia al cambio motivada por la tecnología.

Otra cuestión que hay que considerar es que la falta de evidencia sobre la aplicación de los sistemas de IA en el campo de la salud supone un dilema ético y, al mismo tiempo, es uno de los factores que contribuye a crear desconfianza hacia la IA. No existe una definición de criterios de funcionamiento, precisión o resultados con la que comparar los productos de IA. Por otro lado, el funcionamiento puede variar según el objetivo de la IA: desde sistemas más precisos a otros con un margen de error un poco más amplio. Aunque uno de los principios puede el del juramento hipocrático de no hacer daño, la ausencia de experiencia y de evidencia de la aplicación de estrategias de IA en la salud en los países menos desarrollados hace difícil diferenciar los productos que pueden ser dañinos de los que resultan beneficiosos.

Líneas de acción

A continuación, se presentan las líneas de acción propuestas por la OPS en su documento Ocho principios rectores de la transformación digital del sector de la salud ³⁾, con una serie de recomendaciones para concretar ese llamado a la acción, junto con otras líneas de acción que pueden complementar la implementación de este principio. También se incluyen recomendaciones provistas por expertos consultados.¹⁾

1. A la hora de desplegar la inteligencia artificial en el campo de la salud, asegurar el doble papel del estado como garante de los derechos humanos y promotor del goce de esos derechos

Para ello, se recomienda fundamentalmente fomentar políticas y regulaciones para el uso y el avance de las nuevas tecnologías de la información y comunicación en salud que garanticen la seguridad y privacidad de las personas. Esto suele ser una limitación importante, sobre todo en sistemas en los que el desarrollo de legislaciones y regulaciones requieren tiempos prolongados.

2. Establecer mecanismos de coordinación formal que promuevan y aseguren el entendimiento cooperativo y constructivo entre segmentos públicos y privados, de gobernanza, universidad, industria y ciudadanía, a nivel regional y global

Para ello, se recomienda facilitar el acceso y la gobernanza de datos, de modo que permitan implementar estrategias de IA en el campo de la salud. Esto depende en gran medida del desarrollo de redes de sistemas de información en salud (SIS) sólidas, así como de políticas y regulaciones que faciliten la accesibilidad a los datos, garantizando su seguridad y privacidad. En esta línea, el Gobierno de Singapur publicó en el 2019 un documento —actualizado en el 2020— ⁴⁾ en el que se ofrecen una serie de recomendaciones sobre los aspectos de gobernanza involucrados, roles y responsabilidades, buscando promover la colaboración entre el sector público y privado.

3. Promover fondos de inversión multinacionales para que los países en situaciones más vulnerables no se vean privados de los beneficios de las tecnologías emergentes y la inteligencia artificial en el campo de la salud pública

Para ello, se recomienda:

• Estimular y respaldar la búsqueda de financiamiento multinacional basado en propuestas colaborativas de interés regional y escalables a otras regiones ⁵⁾.
• Focalizar el financiamiento en estrategias sustentables que potencien el desarrollo de recursos humanos con capacidad de replicar conocimiento en el desarrollo de la infraestructura, arquitectura e implementación de estrategias de salud pública basadas en la IA.
• Fortalecer la relación con instituciones, organizaciones y expertos dedicados a la IA de la Región que puedan respaldar e involucrarse en los proyectos de estrategias basadas en IA potencialmente financiables.

4. Construir un sistema de innovación en inteligencia artificial que sea abierto y cooperativo, promoviendo el desarrollo de códigos de acceso abierto a algoritmos y aplicaciones

Para ello, se recomienda:

• Garantizar la privacidad y seguridad de la información. Este es otro de los grandes desafíos a la hora de manejar y utilizar datos sensibles de personas, que debe acompañarse del desarrollo de políticas y regulaciones claras.
• Creación de conjuntos de datos abiertos que disminuyan la barrera de acceso a la información que suele ser una de las principales dificultades para iniciar un proyecto. En los últimos años se han consolidado conjuntos de datos que resultaron en hitos para el desarrollo de herramientas basadas en la IA como ImageNet, MS COCO Dataset y Google Open Images Dataset. Específicamente, durante la pandemia de COVID-19, afloraron conjuntos de datos que permitieron el seguimiento en tiempo real de casos para la toma de decisiones, como Our World in Data ⁶⁾, y de la aparición de nuevas variantes del virus que permitieron avances científicos, como la iniciativa GISAID ⁷⁾. En el campo de la salud, la generación de estos conjuntos de datos abiertos suele enfrentarse a la reticencia a abrirlos por cuestiones de privacidad de los datos. Sin embargo, existen ejemplos como la base de datos clínicos MIMIC-III cuyos aportes han sido enormes y que se utilizan como base para el desarrollo de diferentes proyectos de IA, como modelos predictivos, de clasificación de imágenes y de tareas de procesamiento del lenguaje natural, entre otros.
• Estimular el desarrollo de infraestructura y arquitectura para el manejo y análisis de datos. Estas son áreas de inversión prioritarias para los sistemas de salud que prioricen estrategias de IA.

5. Prevenir sesgos algorítmicos y garantizar la inclusión social desde el diseño de los sistemas de inteligencia artificial hasta su potencial aplicación en todos los niveles económicos, sociales y geopolíticos de los países de la región

La digitalización de la información del sistema sanitario no es el único aspecto importante. Además, debe existir interoperabilidad entre los distintos sistemas de información para asegurar tanto la cantidad como la calidad de los datos que se van a utilizar en el diseño de IA. El diseño de sistemas de información debe estar orientado, por un lado, a los datos, para poder identificar rápidamente errores o inconsistencias y corregirlos y por otro, en establecer sistemas amigables para el usuario a fin de que la recolección de datos sea limpia y lo menos ruidosa posible.

En este sentido, se recomienda:

• Estimular el desarrollo de SIS integrados mediante políticas y regulaciones que faciliten la implementación de SIS de alta calidad en las redes nacionales de salud. Para regiones con implementaciones incipientes y heterogéneas de los SIS, las experiencias de otros países con años de desarrollo, así como la conformación de estándares de interoperabilidad y terminología sólidos permiten avanzar con implementaciones sobre bases más fértiles.
• Fortalecer la calidad de datos, ya que esto dicta la precisión de los productos de IA. Los factores que

determinan esta calidad del dato son su precisión, completitud, consistencia, integridad, oportunidad y unicidad. La calidad de los datos en salud depende en gran medida del desarrollo y madurez de los SIS.

6. Acelerar los marcos ético-legales, la capacitación y el encuentro de talento de inteligencia artificial de alto nivel. construir una disciplina académica de inteligencia artificial mediante la formación de equipos multidisciplinarios

Para ello, se recomienda:

• Estimular la investigación de los problemas éticos que conlleva la implementación de estrategias basadas en la IA. Estas plantean nuevos interrogantes respecto al uso de datos personales, sus costos para el sistema de salud, la equidad respecto a los potenciales beneficiarios y la replicación de sesgos presentes en los datos.
• Fortalecer la educación y la formación de los recursos humanos especializados en IA en salud. El desarrollo de habilidades técnicas, el conocimiento temático y los equipos de trabajo interdisciplinarios para la implementación de estrategias de IA en el campo de la salud es un desafío muy importante que evidencia un mercado laboral muy competitivo, con gran demanda de especialistas y necesidad del desarrollo de estrategias formativas.

7. Generar evidencia sobre la aplicación de sistemas de inteligencia artificial

Para ello, se recomienda:

• Promover el desarrollo de metodologías estándar de evaluación ⁸⁾ y comunicación ⁹⁾ del funcionamiento de las herramientas basadas en IA.
• Fomentar la evaluación y el monitoreo del impacto sobre la cadena de valor en salud de estas herramientas en los ámbitos en las que se implementen.
• Impulsar la investigación del impacto de implementar estrategias basadas en la IA. Este es otro aspecto vital que se debe tener en cuenta, ya que es un campo de la ciencia relativamente reciente, en el que la evidencia y las experiencias de implementaciones que asistan la toma de decisiones en salud a diferentes niveles son limitadas. Por otro lado, cada nuevo desarrollo de IA tiene que poder demostrar su eficacia y sus beneficios frente a otras estrategias.

Indicadores de monitoreo

Con el objetivo de avanzar en el desarrollo y la implementación de la IA en salud, se proponen los siguientes indicadores. Es importante aclarar que no se trata de un listado exhaustivo, sino que cada país o región puede incorporar otros indicadores, definir el nivel de desagregación necesario y la frecuencia de medición.

Indicadores transversales a los 8 principios rectores para la transformación digital en salud

• Existencia de una estrategia nacional de salud digital establecida mediante un marco normativo.
• Existencia de una estructura organizativa gubernamental que lidere la estrategia de transformación digital en salud.
• Existencia de un presupuesto destinado a una agenda digital que contemple recursos humanos y tecnología necesaria.

Indicadores específicos de Inteligencia Artificial

1. A la hora de desplegar la inteligencia artificial en el campo de la salud, asegurar el doble papel del Estado como garante de los derechos humanos y promotor del disfrute de esos derechos.
   • Promover y modernizar las regulaciones y políticas para el uso y el avance de las nuevas tecnologías de la información y la comunicación en salud que garanticen la seguridad y la privacidad de las personas.
2. Establecer mecanismos de coordinación formal que promuevan el entendimiento cooperativo público-privado de gobernanza, universidad, industria y ciudadanía, y a nivel regional y global.
   • Incluir las ciencias de datos y la inteligencia artificial en los planes de estudio de instituciones educativas nacionales y subnacionales.
   • Crear un comité público-privado y con funcionamiento regular para definir y monitorear el acceso y la gobernanza de datos para implementar estrategias de IA en salud.
3. Promover fondos de inversiones multinacionales para los países más vulnerables.
   • Definir una estrategia y un presupuesto nacional para el desarrollo de sistemas basados en la IA que tengan efecto en la salud de la población.
   • Implementar acuerdos nacionales público-privados para la implementación de proyectos de IA en salud.
   • Establecer acuerdos de colaboración con instituciones, organizaciones y expertos regionales dedicados a la IA.
4. Construir un sistema de innovación en inteligencia artificial que sea abierto y cooperativo, promoviendo el desarrollo de códigos de acceso abierto a algoritmos y aplicaciones.
   • Creación de conjuntos de datos abiertos.
   • Existencia de infraestructura y arquitectura para el manejo y análisis de datos.
5. Prevenir sesgos algorítmicos y garantizar la inclusión social.
   • Existencia de estrategias que promuevan crear conjuntos de datos inclusivos que incorporen información de poblaciones provenientes de diferentes instituciones gubernamentales y no gubernamentales.
   • Acelerar los marcos ético-legales, la capacitación y el encuentro de talento de alto nivel. Construir una disciplina académica mediante la formación de equipos interdisciplinarios.
   • Existencia de expertos en bioética en los equipos de trabajo y comités relacionados con la IA y la salud.
   • Establecer acuerdos de intercambio de los equipos nacionales con expertos en IA y salud a nivel regional y mundial.
   • Número de espacios de formación para el desarrollo de habilidades técnicas sobre IA y salud.
6. Generar evidencia sobre la inteligencia artificial.
   • Número de investigaciones realizadas que analicen la efectividad y seguridad de la implementación de estrategias basadas en IA.
   • Número de publicaciones sobre los resultados de la implementación de proyectos o programas de IA en salud.
   • Número de eventos de divulgación sobre experiencias e impacto de la IA en la salud.

Recomendaciones generales

En términos generales, las herramientas y procesos basados en IA deben considerarse como cualquier otra herramienta disponible para el sistema de salud y su personal. Por lo tanto, deben desarrollarse, evaluarse, implementarse y monitorearse siguiendo los mismos estándares tecnológicos y éticos que para cualquier otra herramienta que utilice el sistema de salud. En particular, es importante hacer hincapié en las siguientes recomendaciones:

1. Asegurarse de que estas herramientas sean un medio para lograr mayor accesibilidad e inclusión, evitando la generación de nuevas brechas de inequidades. Hay que salvaguardar los aspectos de privacidad, confidencialidad y seguridad de los datos de los pacientes y evitar que los sesgos propios de la sociedad, representados en los datos que son insumo para estas herramientas, terminen aumentando las brechas actuales y queden reflejados en los algoritmos.
2. Procurar evaluar la eficacia de estas herramientas siguiendo los mismos métodos de evaluación ya disponibles (ensayos clínicos aleatorizados, estudios observacionales, entre otros), tanto en situaciones ideales como del mundo real, asegurándose de que agreguen valor en los procesos del sistema de salud y que no pierdan de vista el impacto en el primer nivel de atención.
3. Fortalecer los SIS que son la base para el desarrollo de sistemas basados en IA.
4. Fomentar el desarrollo de un ecosistema sostenible para la innovación abierta en IA y sus aplicaciones en salud.
5. Adecuar los marcos jurídicos para una implementación segura y responsable de la IA en el ámbito de la salud pública.
6. El uso de la IA en la salud pública debe guiarse por consideraciones técnicas y éticas a fin de mitigar el riesgo ético en la salud pública y las intervenciones de política conexas. Esas consideraciones se reflejan en los siguientes principios:

Centrada en las personas. Las acciones y soluciones deben estar centradas en las personas y no usarse como un fin en sí mismas. Como una de las muchas tecnologías para facilitar el trabajo en el ámbito de la salud pública, la IA debe respetar los derechos de la persona.

Fundamentada en la ética. Los debates, el desarrollo y la aplicación deben basarse en los principios éticos acordados a escala mundial de dignidad humana, beneficencia, no maleficencia, autonomía y justicia. Transparente. Siempre deben usarse enfoques transparentes, que deben comunicarse al desarrollar algoritmos de IA.

Protección de los datos. La privacidad, la confidencialidad y la seguridad en el uso de datos deben ser fundamentales para toda IA que se desarrolle.

Integridad científica. Las intervenciones de IA deben ceñirse a prácticas científicas óptimas: deben ser confiables, reproducibles, justas y honestas y posibilitar la rendición de cuentas.

Abierta y compartible. Todo debe ser lo más abierto y compartible posible. Las herramientas y el concepto subyacente de apertura deben ser una característica y un factor de éxito crucial de toda IA que se desarrolle.

No discriminatoria. La justicia, la igualdad y la inclusión en el impacto y el diseño deben constituir siempre la base de toda iniciativa de IA para la salud pública.

Tecnología controlada por seres humanos. Es obligatorio que haya procesos formales de control y revisión por seres humanos de las decisiones automatizadas.

Referencias

Bibliografía

Organización Mundial de la Salud. Ethics and governance of artificial intelligence for health: WHO guidance. Ginebra: OMS; 2021. Disponible en: https://www.who.int/publications/i/item/9789240029200. Organización Panamericana de la Salud. Hoja de ruta para la transformación digital del sector de la salud en la Región de las Américas [resolución CD59/6]. 59.o Consejo Directivo de la OPS, 73.a Sesión del Comité Regional de la OMS para las Américas; 20 al 24 de septiembre del 2021. Washington, D.C.: OPS; 2021. Disponible en: https://www.paho.org/es/documentos/cd596-hoja- ruta-para-transformacion-digital- sector-salud-region-americas.

Organización Panamericana de la Salud. Plan de Acción para el fortalecimiento de los sistemas de información para la salud 2019-2023 [resolución CD57/9]. 57.o Consejo Directivo de la OPS, 71.a Sesión del Comité Regional de la OMS para las Américas; 30 de septiembre al 4 de octubre del 2019 Washington, D.C.: OPS; 2019. Disponible en: https://www3.paho.org/hq/index.php?option=com_docman&view=download&alias=49676-cd57-9-s-pda-sistemas-informacion&category_slug=cd57-es&Itemid=270&lang=es.

Fuente: OPS/EIH/IS/23-0003
© Organización Panamericana de la Salud, 2023.
Algunos derechos reservados. Esta obra está disponible en virtud de la licencia CC BY-NC-SA 3.0 IGO.

Descargar: Prinicipio 6: Inteligencia artificial