Retos de la Inteligencia Artificial Aplicada a la Salud

La Inteligencia Artificial (IA) es un área de las ciencias computacionales que combina las matemáticas, biología, lógica, informática, entre otras disciplinas, y que utiliza las computadoras para simular comportamientos y actividades humanas inteligentes [1]. El progreso de tecnologías como la computación en la nube, robótica, internet de las cosas o big data, nos han permitido llevar los avances en IA de la investigación a aplicaciones en casos reales. Las capacidades y beneficios de la IA son cada día más tangibles, y la salud es uno de los sectores en donde más se ha explorado su potencial. Sin embargo, este sector también presenta grandes retos éticos, técnicos y estratégicos que deben tomarse en cuenta. El propósito de este artículo es presentar algunos de los principales aspectos a considerar al integrar la IA en los sistemas de salud.

Los sistemas expertos basados en reglas de decisión fueron la etapa temprana de la IA en salud en la década de 1980. Estos sistemas tienen un alto costo de desarrollo, y poco a poco han sido reemplazados por algoritmos de aprendizaje automático y aprendizaje profundo, capaces de manejar problemas más complejos [2]. Los algoritmos de visión por computadora son una de las aplicaciones más prometedoras y se utilizan principalmente para evaluar imágenes radiológicas; incluso se ha demostrado una mejor precisión en la detección de cáncer de mama en comparación con radiólogos expertos [3]. Asimismo, gracias al procesamiento de lenguaje natural, se han desarrollado chatbots inteligentes. Un ejemplo de lo anterior es Babylon Health, elaborado por el Sistema Nacional de Salud del Reino Unido y que brinda servicios de agendamiento de consultas y orientación médica para su población [4]. Ante la creciente tendencia de integrar IA a los procesos de salud y la inminente necesidad de establecer un marco regulatorio, la Organización Mundial de la Salud compartió en el 2021 una guía con los seis principios para desarrollar soluciones con IA en salud (consulta nuestra infografía).

Aumentar la brecha de inequidad social al transferir los sesgos del mundo real a los modelos de aprendizaje automático, es uno de los principales riesgos de esta tecnología. Ozaydin B. et al, mencionan que reconocer la existencia de estos sesgos nos permite tomar acción, proponen métodos para su impacto sobre los algoritmos y resaltan que es fundamental la participación del personal clínico en el diseño y desarrollo de soluciones con IA [5]. De la misma forma, sin importar la eficiencia que logre alcanzar un algoritmo, es indudable que eventualmente estos sistemas van a equivocarse. Por lo que es de suma importancia establecer mecanismos que faciliten la rendición de cuentas y compensación para los grupos o individuos que se vean afectados por las decisiones basadas en sistemas con IA [6].

La calidad de atención mejorará en la medida en que se vayan reemplazando las tareas clínicas rutinarias y repetitivas, disminuyendo el desgaste del personal y los errores médicos. Por tanto, el rol de los profesionales de la salud tendrá que ir evolucionando para adaptarse e integrar estas nuevas tecnologías a sus procesos de atención. Es entonces que la capacitación y educación del personal de salud es un aspecto crítico para lograr una IA sostenible y con capacidad de responder ante lo impredecible del mundo real [2]. Finalmente, aunque estos modelos puedan ser superiores a los humanos en algunas tareas, comprender e interpretar el proceso para llegar a la decisión final no siempre es claro y transparente. Esto, aunado a las cuestiones de privacidad y seguridad de los datos, genera desconfianza en los pacientes y en el personal de salud; imponiendo una barrera que dificulta la adopción de estas herramientas innovadoras.

En países como Corea e Inglaterra se han hecho esfuerzos por explorar la percepción del personal de salud en relación con la aplicación y potencial de la IA en la salud [7, 8]. En ambos casos, se mostró una falta de conocimiento general sobre la IA por parte del personal de salud; a pesar de esto, la mayoría de los doctores expresaron que no están preocupados por ser reemplazados en su trabajo. Además, en Corea, casi la mitad de los participantes respondieron que, ante algún error clínico, el médico es el primer responsable, seguido de los pacientes y por último la empresa que desarrollo el software.

Son claras las ventajas de aplicar esta tecnología a los procesos de calidad clínica y operaciones hospitalarias, brindando herramientas que ayudan a los médicos en la toma de decisiones para dar una mejor atención a los pacientes. Es fundamental continuar con los esfuerzos por concientizar y promover el apego a los estándares, principios y marcos regulatorios para asegurar un correcto desarrollo e implementación de la IA en la salud.

[1]        C. Zhang and Y. Lu, “Study on artificial intelligence: The state of the art and future prospects,” J Ind Inf Integr, vol. 23, Sep. 2021, doi: 10.1016/j.jii.2021.100224.

[2]        K. H. Yu, A. L. Beam, and I. S. Kohane, “Artificial intelligence in healthcare,” Nature Biomedical Engineering, vol. 2, no. 10, pp. 719–731, Oct. 2018, doi: 10.1038/s41551-018-0305-z.

[3]        S. M. McKinney et al., “International evaluation of an AI system for breast cancer screening,” Nature, vol. 577, no. 7788, pp. 89–94, Jan. 2020, doi: 10.1038/s41586-019-1799-6.

[4]        “Babylon Health.” https://www.babylonhealth.com/en-gb/ (accessed Jun. 26, 2022).

[5]        B. Ozaydin, E. S. Berner, and J. J. Cimino, “Appropriate use of machine learning in healthcare,” Intelligence-Based Medicine, vol. 5, p. 100041, 2021, doi: 10.1016/j.ibmed.2021.100041.

[6]        T. Davenport and R. Kalakota, “The potential for artificial intelligence in healthcare,” Future Healthcare Journal, vol. 6, no. 2, pp. 94–102, 2019.

[7]        S. Castagno and M. Khalifa, “Perceptions of Artificial Intelligence Among Healthcare Staff: A Qualitative Survey Study,” Frontiers in Artificial Intelligence, vol. 3, Oct. 2020, doi: 10.3389/frai.2020.578983.

[8]        S. Oh, J. H. Kim, S. W. Choi, H. J. Lee, J. Hong, and S. H. Kwon, “Physician confidence in artificial intelligence: An online mobile survey,” Journal of Medical Internet Research, vol. 21, no. 3, Mar. 2019, doi: 10.2196/12422.

MSc. Edgar Alejandro Tamez Berrún