La IA en la atención médica necesita un diseño centrado en el ser humano

Superar las barreras para la adopción de la IA  

Los problemas relacionados con la gestión de datos y la interoperabilidad a menudo se describen como los principales cuellos de botella para una adopción más amplia de la IA, y con razón. Pero en la agitada y estresante realidad del día a día de los profesionales médicos, también hay otros factores en juego. Factores humanos.

 

Los médicos a menudo trabajan con horarios ajustados, confiando en rutinas desarrolladas durante años de experiencia. Si la IA no encaja perfectamente en sus flujos de trabajo, o peor aún, si crea una complejidad adicional, los médicos tendrán dificultades para adoptarla. Y en un entorno de alto riesgo como el de la atención médica, donde los médicos tienen que tomar decisiones en una fracción de segundo con consecuencias de gran alcance, confiar en las nuevas tecnologías puede ser difícil. ¿Confiaría en la recomendación de un algoritmo cuando la vida de un paciente está en sus manos? Se ha demostrado que tanto el ajuste deficiente del flujo de trabajo como la falta de confianza dificultan la asimilación de la IA [1, 2].

 

Las innovaciones de atención médica anteriores se enfrentaron a los mismos desafíos de adopción. Basta pensar en la historia clínica electrónica (HCE). Originalmente publicitado como el futuro de la atención médica, ahora se reconoce ampliamente que las HCE no se diseñaron lo suficiente teniendo en cuenta las necesidades y experiencias de los médicos, y los médicos lamentan estar "atrapados detrás de sus pantallas" [3, 4]. Esta vez, con la IA impulsando la próxima ola de innovación digital, debemos aprender de los errores del pasado y adoptar un enfoque radicalmente diferente. Uno que pone a las personas al frente y en el centro. No como una ocurrencia tardía, sino desde el principio.

Médicos e IA: el nuevo equipo reforzado

Lo que la atención médica necesita es IA centrada en el ser humano: inteligencia artificial que no solo esté impulsada por lo que técnicamente pueda conseguir, sino, ante todo, por lo que el ser humano desee. Esto significa que debemos combinar la ciencia de datos y la experiencia técnica con una sólida comprensión del contexto clínico en el que operan los médicos, así como las demandas cognitivas y emocionales de su realidad diaria.

 

Pensar en los médicos y la IA como un sistema colaborativo es esencial aquí. Si bien la IA puede superar cada vez más a los médicos en tareas específicas, la IA y el conocimiento clínico profundo deben ir de la mano porque ambos tienen sus fortalezas y limitaciones. Lo que finalmente determinará la adopción y el impacto de la IA en la atención médica es lograr que esta relación complementaria sea la correcta.

Lo que es técnicamente posible puede ser que no sea lo que se necesita realmente

 

En primer lugar, debemos preguntarnos: ¿qué tipo de IA sería útil? Esto parece una pregunta obvia, pero las aplicaciones de la IA a menudo no se pueden llevar a la práctica clínica precisamente porque la necesidad subyacente o el punto de dolor no están bien definidos.

 

Por ejemplo, si un algoritmo de análisis de imágenes simplemente puede identificar anomalías que un radiólogo puede detectar de un vistazo, no aporta mucho valor añadido a pesar de su desempeño técnico. O digamos que tiene un algoritmo que ayuda a medir el tamaño del tumor: puede ser un poco más preciso que el ojo humano, pero si la diferencia es tan pequeña que prácticamente no afecta las decisiones de tratamiento, no hay un beneficio real para el paciente.

 

En cambio, si adoptamos una visión de pensamiento sistémico, comenzando por las necesidades del radiólogo y otras partes interesadas en el flujo de trabajo de radiología, incluido el paciente y el técnico que realiza el examen, podemos identificar oportunidades en las que la IA tendrá mayor valor agregado. Pueden estar en cualquier etapa del flujo de trabajo.

La IA debería ser una parte integral del flujo de trabajo

 

Si bien definir el valor añadido previsto de la IA es un punto de partida vital, es la forma en que la IA encaja en el flujo de trabajo y, en última instancia, puede ayudar a simplificarlo, lo que hará o deshará la adopción en la práctica clínica.

 

Si hay algo que hemos aprendido a través de nuestras colaboraciones con socios de radiología, es que lo que puede parecer una aplicación útil en papel, en realidad puede ser una carga para el radiólogo si lo siente como "añadir otra cosa más" a su flujo de trabajo. Los radiólogos trabajan en un entorno complejo y con la presión del tiempo, ejecutando diferentes aplicaciones de software en paralelo en múltiples pantallas. Por eso es realmente importante que integremos aplicaciones de inteligencia artificial en sus soluciones informáticas y de imágenes existentes, haciendo que la información esté fácilmente disponible, en lugar de agregar un mosaico de soluciones puntuales.

La IA debe infundir la confianza adecuada que coincida con sus capacidades

 

Otro desafío de diseño planteado por la IA, al que aludí antes, es lograr que los médicos confíen en sus resultados y recomendaciones. Con el auge del aprendizaje profundo, los sistemas de inteligencia artificial se han vuelto mucho más precisos y poderosos, pero también se han vuelto cada vez más difíciles de interpretar, lo que exige un acto de fe por parte del usuario. La confianza es fundamental para la adopción, pero es difícil de ganar. La confianza también se pierde fácilmente cuando el sistema de inteligencia artificial da algunas recomendaciones erróneas, incluso si tiene un rendimiento medio muy preciso.

 

Y lo complicado es que cuando se trata de confianza, también puede haber demasiadas cosas buenas. No deseas que un radiólogo se quede satisfecho con los hallazgos de un algoritmo cuando el algoritmo a veces no detecta una enfermedad. Lo que deseas es una confianza adecuada que coincida con las capacidades de la IA.

 

Esto significa navegar por una delgada línea entre la confianza y la confianza excesiva.

 

La falta de confianza ocurre cuando la confianza no alcanza las capacidades reales de la IA. Varios estudios han demostrado cómo los radiólogos pasaron por alto los cánceres pequeños identificados por la IA [5,6]. En el otro extremo, la confianza excesiva conduce a una dependencia excesiva de la IA, lo que hace que los radiólogos pasen por alto cánceres que la IA no pudo identificar [7].

Poniendo a las personas en primer lugar

Por supuesto, las percepciones de los médicos sobre la IA seguirán evolucionando a medida que maduren sus posibilidades. Al igual que un médico residente que se une por primera vez a un equipo, la IA debe demostrar su valor añadido y ganarse la confianza con el tiempo.

 

Con la IA como un colaborador de confianza que se integra perfectamente en el flujo de trabajo, los radiólogos se liberarán de las tareas cotidianas y podrán dedicar más tiempo a casos complejos, aumentando su impacto en la toma de decisiones clínicas. Los profesionales de la salud en otras áreas de la medicina también se beneficiarán cada vez más de la asistencia de IA, ya sea en patología digital, cuidados intensivos, terapia guiada por imágenes o manejo de enfermedades crónicas. Creo firmemente que hará que su trabajo sea más valioso y gratificante.

 

Pero, como esperaba mostrar, ese futuro no sucederá por sí solo. Solo sucederá gracias al diseño.

 

Los diseñadores deben asumir un papel activo desde el comienzo del desarrollo de la IA, trabajando junto con científicos de datos, ingenieros y expertos clínicos para crear experiencias habilitadas por IA que marquen una diferencia positiva tanto para los profesionales sanitarios como para los pacientes.

 

Solo entonces veremos que la inteligencia artificial en el ámbito sanitario cumple plenamente su promesa; si ponemos a las personas, no a la tecnología, en primer lugar.

 

Note

[i] e/MTIC o Eindhoven MedTech Innovation Center es un estudio de colaboración entre el Eindhoven University of Technology, Hospital Catharina, Maxima Medical Center, Kempenhaeghe Epilepsy and Sleep Center, y Philips.

 

References

 

[1] Christopher J. Kelly, Alan Karthikesalingam, Mustafa Suleyman, Greg Corrado, and Dominic King. 2019. Key challenges for delivering clinical impact with artificial intelligence. BMC Medicine 17, 1: 195. https://doi.org/10.1186/s12916-019-1426-2

 

[2] Lea Strohm, Charisma Hehakaya, Erik R. Ranschaert, Wouter P. C. Boon, and Ellen H. M. Moors. 2020. Implementation of artificial intelligence (AI) applications in radiology: hindering and facilitating factors. European Radiology. https://doi.org/10.1007/s00330-020-06946-y

 

[3] Atul Gawande. 2018. Why doctors hate their computers. New Yorker. https://www.newyorker.com/magazine/2018/11/12/why-doctors-hate-their-computers

 

[4] Robert M. Wachter. 2015. The digital doctor: hope, hype, and harm at the dawn of medicine’s computer age.

 

[5] D. W. De Boo, M. Prokop, M. Uffmann, B. van Ginneken, and C. M. Schaefer-Prokop. 2009. Computer-aided detection (CAD) of lung nodules and small tumours on chest radiographs. European Journal of Radiology 72, 2: 218–225.  https://doi.org/10.1016/j.ejrad.2009.05.062

 

[6] Robert M. Nishikawa, Alexandra Edwards, Robert A. Schmidt, John Papaioannou, and Michael N. Linver. 2006. Can radiologists recognize that a computer has identified cancers that they have overlooked? In Medical Imaging 2006: Image Perception, Observer Performance, and Technology Assessment, 614601. https://doi.org/10.1117/12.656351

 

[7] W. Jorritsma, F. Cnossen, and P. M. A. van Ooijen. 2015. Improving the radiologist–CAD interaction: designing for appropriate trust. Clinical Radiology 70, 2: 115–122. https://doi.org/10.1016/j.crad.2014.09.017

 

[8] John D. Lee and Katrina A. See. 2004. Trust in automation: designing for appropriate reliance. Human Factors 46, 1: 50-80. https://doi.org/10.1518/hfes.46.1.50_30392