Un estudio publicado en el JAMIA destaca la necesidad de diseñar sistemas de IA centrados en el humano para evitar sesgos, pérdida de habilidades clínicas y errores de interpretación.
La inteligencia artificial (IA) tiene el potencial de revolucionar la medicina al mejorar la precisión diagnóstica, reducir errores clínicos y optimizar los flujos de trabajo. Sin embargo, su integración efectiva en los entornos médicos requiere abordar una serie de retos éticos, cognitivos y operativos relacionados con la interacción entre médicos y sistemas automatizados.
Un artículo reciente publicado en el Journal of the American Medical Informatics Association (JAMIA) plantea cinco preguntas fundamentales que deberían guiar las futuras investigaciones en informática médica e interacción humano-computadora (HCI, en inglés), con el fin de garantizar una colaboración segura y efectiva entre humanos y sistemas de IA.
Los autores señalan que, si bien las herramientas basadas en IA, como los algoritmos de visión computacional para imágenes médicas o el procesamiento de lenguaje natural aplicado a los expedientes clínicos electrónicos, han demostrado potencial para reducir errores perceptuales e interpretativos, su efectividad depende de cuándo y cómo se presentan las recomendaciones al personal médico.
El estudio advierte que la presentación inmediata de alertas o sugerencias puede generar dependencia excesiva o “sesgo de automatización”, mientras que ofrecer información de forma diferida o bajo demanda puede mejorar la atención y el juicio clínico. Asimismo, los investigadores destacan que la IA explicable (XAI), aunque busca ofrecer transparencia, también puede influir inadvertidamente en las decisiones del médico.
Entre los riesgos más destacados se encuentra la pérdida progresiva de habilidades diagnósticas debido a la dependencia prolongada de los sistemas de IA, un problema que podría afectar especialmente a médicos en formación y a especialidades donde las enfermedades son poco frecuentes.
El artículo propone cinco preguntas para orientar la investigación futura:
- ¿Qué tipo y formato de información debe proporcionar la IA al médico?
- ¿En qué momento del proceso clínico debe presentarse esa información?
- ¿Cómo influye la IA explicable en las decisiones diagnósticas?
- ¿De qué manera la IA afecta el sesgo de automatización y la complacencia?
- ¿Qué riesgos existen de deterioro de las habilidades médicas por dependencia tecnológica?
Los autores concluyen que la adopción exitosa de la inteligencia artificial en el diagnóstico médico requiere un diseño centrado en el ser humano, evaluaciones posteriores a su implementación, formación continua del personal médico y una supervisión clínica constante. “La IA debe complementar, no reemplazar, la experiencia humana”, señala el estudio. “Solo así podrá integrarse de manera segura, equitativa y sostenible en la toma de decisiones clínicas”.
