El crecimiento del desarrollo de sistemas de Inteligencia Artificial (IA) y modelos de aprendizaje automático aplicados en entornos clínicos también ha generado desafíos en su adopción.
Investigadores han desarrollado análisis cualitativos por medio de entrevistas, para medir las dificultades en la adopción de modelos de aprendizaje automático y también la percepción de los médicos sobre estos modelos. En este sentido, a pesar de la falta de comprensión especializada del aprendizaje automático, los médicos han generado confianza con sistemas de aprendizaje automático por medio de la experiencia.
El aprendizaje automático o machine learning tiene el potencial de mejorar los sistemas de soporte de decisiones clínicas. No obstante, el impacto de estas herramientas depende de que los mismos médicos las apliquen y las consulten. El integrar herramientas de machine learning al flujo de trabajo de los médicos normalmente presenta desafíos en contextos clínicos, sobre todo en aquellos que cuentan con limitaciones de tiempo y los médicos deben evaluar rápidamente las recomendaciones.
Los dos obstáculos principales para la adopción de estos modelos son: La dificultad que se les presenta a los especialistas para generar confianza en modelos de machine learning. Y que muchos especialistas ven la falta de experiencia humana a estos sistemas y cuestionan su valor clínico.
Un análisis cualitativo realizado por investigadores médicos de diversas universidades y facultades de medicina en Estados Unidos, mostró un análisis por medio de entrevistas codificadas a médicos que utilizan un modelo de aprendizaje automático para sepsis. El estudio buscó comprender el papel que los médicos perciben sobre el aprendizaje automático en la atención clínica aguda y comprender las barreras para generar confianza con recomendaciones clínicas basadas en aprendizaje automático.
Por medio de entrevistas a personal médico y de enfermería el estudio exploró estas situaciones en contextos clínicos basados en aprendizaje automático. Uno de los primeros hallazgos del estudio fue que los médicos reconocían las mejoras presentadas gracias a sistemas de aprendizaje automático con respecto a otros sistemas de apoyo clínico, sin embargo, no diferenciaban entre los sistemas convencionales y los basados en aprendizaje automático.
El segundo hallazgo fue que “Los médicos percibían que los sistemas basados en ML desempeñaban un papel de apoyo tanto en el diagnóstico como más allá. Independientemente de su comprensión del aprendizaje automático detrás del sistema, los médicos generalmente respondieron a sus alertas y las integraron en su proceso de diagnóstico. Sin embargo, se vieron a sí mismos manteniendo la responsabilidad final de las decisiones de diagnóstico y tratamiento”, explica el análisis.
El tercer tema identificado fueron los mecanismos utilizados por los profesionales de la salud para generar confianza en el sistema, a pesar de no entender completamente los modelos detrás del sistema. “Para los médicos, creo que solo entender [que] esta es una herramienta de aprendizaje automático y hace minería de datos, creo que será más que suficiente”, explicó uno de los médicos entrevistados.
El cuarto tema estuvo relacionado con el entusiasmo de los profesionales con el potencial de los sistemas basados en IA y aprendizaje automático para mejorar la atención del paciente, asimismo, también señalaron la posibilidad de una dependencia excesiva de esta clase de sistemas automatizados.
Consulta más sobre este análisis en el siguiente enlace: