Estudio evalúa el impacto de la información adicional en la toma de decisiones de los médicos y el efecto de las explicaciones de modelos de AI.
La integración de la artificial intelligence (AI) en la toma de decisiones clínicas ha generado tomando mayor fuerza e interés en la comunidad médica y científica. Los sistemas de apoyo basados en AI tienen el potencial de transformar radicalmente la práctica médica al proporcionar análisis de datos complejos, diagnósticos precisos y recomendaciones terapéuticas personalizadas según las necesidades de los pacientes. En particular, los sistemas de apoyo a la decisión clínica basados en AI se muestran como herramientas clave para mejorar la precisión y eficiencia en la atención médica.
Sin embargo, la aceptación y adopción de estas recomendaciones de AI por parte de los profesionales de la salud ha generado desafíos importantes. Es decir, la confianza en la tecnología, la comprensión de los resultados generados por la AI y la influencia de las recomendaciones en las decisiones clínicas son aspectos que necesitan una comprensión con mayor profundidad. En este contexto, es necesario explicar cómo funciona la AI y demostrar su capacidad de explicar los razonamientos detrás de las recomendaciones de que realiza.
En este sentido, un equipo multidisciplinario de Imperial College London realizó una investigación, que explora cómo las recomendaciones de AI afectan el comportamiento de los médicos al tomar decisiones de prescripción. El estudio destaca la importancia de comprender cómo los médicos perciben, evalúan y utilizan la información proporcionada por sistemas de AI, lo cual puede impulsar mejoras a estos sistemas para su mejor integración a entornos clínicos reales. Además, el estudio también examina cómo la información adicional, proveniente ya sea tanto de fuentes humanas como de AI, junto con la presencia o ausencia de explicaciones de AI, influye en las decisiones clínicas.
El estudio se basa en un diseño entre sujetos modificados en el cual 86 médicos de cuidados intensivos evaluaron 24 pacientes en 16 escenarios distintos, prescribiendo dos medicamentos. Cuatro escenarios fueron utilizados: control, información de colegas humanos, sugerencia de AI y sugerencia de AI con explicación.
Los resultados mostraron que la información adicional (colegas, AI o explicaciones de AI) influyó significativamente en las prescripciones, especialmente la AI. Sin embargo, las explicaciones de AI no tuvieron un impacto mayor que la AI sola. Además, no el estudio no encontró una correlación entre las actitudes hacia la AI o la experiencia clínica en las decisiones apoyadas por AI.
De esta manera, el estudio proporciona hallazgos importantes sobre cómo las decisiones de prescripción pueden ser influenciadas por las recomendaciones de sistemas de apoyo basados en AI. Por ejemplo, que la presencia de información adicional, independientemente de su origen, juega un papel crucial en las decisiones clínicas. Aunque las explicaciones de AI se consideran esenciales para mejorar la comprensión y confianza en las recomendaciones de esta clase de modelos, el estudio sugiere que las explicaciones simples no tuvieron un impacto significativo en comparación con las recomendaciones de AI sin explicaciones.
Además, los autores observaron una falta de correlación entre las actitudes de los médicos hacia la AI y la influencia de la AI en sus decisiones. Esto quiere decir que la aceptación de la AI en expertos clínicos podría no se ve influenciada por la experiencia o las actitudes preexistentes hacia la tecnología.
A pesar sus limitaciones, el estudio destacan la importancia de comprender estos aspectos para mejorar los sistemas de apoyo a la decisión clínica basados en AI, con el objetivo final de mejorar los resultados para los pacientes. Asimismo, los hallazgos plantean preguntas sobre el diseño y la implementación de sistemas de AI en entornos clínicos, destacando la necesidad de investigaciones futuras que exploren en mayor profundidad el impacto de las explicaciones de AI más complejas y cómo la experiencia del usuario puede afectar la aceptación de la AI en entornos médicos.
