Estudio evalúa el impacto de la información adicional en la toma de decisiones de los médicos y el efecto de las explicaciones de modelos de IA.
La integración de la inteligencia artificial (IA) en la toma de decisiones clínicas ha generado tomando mayor fuerza e interés en la comunidad médica y científica. Los sistemas de apoyo basados en IA tienen el potencial de transformar radicalmente la práctica médica al proporcionar análisis de datos complejos, diagnósticos precisos y recomendaciones terapéuticas personalizadas según las necesidades de los pacientes. En particular, los sistemas de apoyo a la decisión clínica basados en IA se muestran como herramientas clave para mejorar la precisión y eficiencia en la atención médica.
Sin embargo, la aceptación y adopción de estas recomendaciones de IA por parte de los profesionales de la salud ha generado desafíos importantes. Es decir, la confianza en la tecnología, la comprensión de los resultados generados por la IA y la influencia de las recomendaciones en las decisiones clínicas son aspectos que necesitan una comprensión con mayor profundidad. En este contexto, es necesario explicar cómo funciona la IA y demostrar su capacidad de explicar los razonamientos detrás de las recomendaciones de que realiza.
En este sentido, un equipo multidisciplinario de Imperial College London realizó una investigación, que explora cómo las recomendaciones de IA afectan el comportamiento de los médicos al tomar decisiones de prescripción. El estudio destaca la importancia de comprender cómo los médicos perciben, evalúan y utilizan la información proporcionada por sistemas de IA, lo cual puede impulsar mejoras a estos sistemas para su mejor integración a entornos clínicos reales. Además, el estudio también examina cómo la información adicional, proveniente ya sea tanto de fuentes humanas como de IA, junto con la presencia o ausencia de explicaciones de IA, influye en las decisiones clínicas.
El estudio se basa en un diseño entre sujetos modificados en el cual 86 médicos de cuidados intensivos evaluaron 24 pacientes en 16 escenarios distintos, prescribiendo dos medicamentos. Cuatro escenarios fueron utilizados: control, información de colegas humanos, sugerencia de IA y sugerencia de IA con explicación.
Los resultados mostraron que la información adicional (colegas, IA o explicaciones de IA) influyó significativamente en las prescripciones, especialmente la IA. Sin embargo, las explicaciones de IA no tuvieron un impacto mayor que la IA sola. Además, no el estudio no encontró una correlación entre las actitudes hacia la IA o la experiencia clínica en las decisiones apoyadas por IA.
De esta manera, el estudio proporciona hallazgos importantes sobre cómo las decisiones de prescripción pueden ser influenciadas por las recomendaciones de sistemas de apoyo basados en IA. Por ejemplo, que la presencia de información adicional, independientemente de su origen, juega un papel crucial en las decisiones clínicas. Aunque las explicaciones de IA se consideran esenciales para mejorar la comprensión y confianza en las recomendaciones de esta clase de modelos, el estudio sugiere que las explicaciones simples no tuvieron un impacto significativo en comparación con las recomendaciones de IA sin explicaciones.
Además, los autores observaron una falta de correlación entre las actitudes de los médicos hacia la IA y la influencia de la IA en sus decisiones. Esto quiere decir que la aceptación de la IA en expertos clínicos podría no se ve influenciada por la experiencia o las actitudes preexistentes hacia la tecnología.
A pesar sus limitaciones, el estudio destacan la importancia de comprender estos aspectos para mejorar los sistemas de apoyo a la decisión clínica basados en IA, con el objetivo final de mejorar los resultados para los pacientes. Asimismo, los hallazgos plantean preguntas sobre el diseño y la implementación de sistemas de IA en entornos clínicos, destacando la necesidad de investigaciones futuras que exploren en mayor profundidad el impacto de las explicaciones de IA más complejas y cómo la experiencia del usuario puede afectar la aceptación de la IA en entornos médicos.
