Este innovador enfoque fue presentado por Google para entender los modelos de IA en imágenes médicas mediante revisiones interdisciplinares.
Google ha desarrollado un marco utilizando Inteligencia Artificial (IA) generativa para mejorar la comprensión de los modelos de aprendizaje automático o machine learning en imágenes médicas. Este enfoque, detallado en un estudio reciente publicado en The Lancet eBioMedicine, busca interpretar las señales visuales asociadas con las predicciones de los modelos, combinando técnicas avanzadas de IA y revisiones de expertos interdisciplinarios.
El machine learning tiene un gran potencial en la transformación la atención médica, desde reducir la carga de trabajo hasta descubrir nuevos biomarcadores. Sin embargo, para aprovechar estos beneficios de manera responsable, científicos de Google detallan que, es crucial entender cómo los modelos de machine learning hacen sus predicciones. Las técnicas actuales de explicabilidad, que destacan regiones importantes de la imagen, no suelen explicar cómo los cambios visuales específicos influyen en las decisiones del modelo. Aquí es donde entra en juego la visualización de estos cambios, denominados “atributos”, para detectar sesgos no evidentes a través de métricas cuantitativas.
En el estudio “Uso de IA generativa para investigar modelos y conjuntos de datos de imágenes médicas”, los investigadores de Google desarrollaron un enfoque basado en el método StylEx, que genera explicaciones visuales de clasificadores. Este método fue probado en tres modalidades de imágenes: fotografías externas del ojo, fotos del fondo del ojo y radiografías de tórax, abarcando ocho tareas de predicción. Estas pruebas incluyeron tareas clínicas establecidas y otras para las que los profesionales no están entrenados.
El marco propuesto se divide en cuatro etapas clave:
- Entrenamiento del clasificador: Se entrena un modelo de machine learning para realizar una tarea específica de imágenes médicas.
- Entrenamiento de StylEx: Se entrena un modelo generativo StylEx, que incluye un generador de imágenes basado en StyleGAN-v2 con pérdidas adicionales para asegurar que las imágenes generadas sean realistas y mantengan las predicciones del clasificador.
- Selección automática de atributos: El modelo StylEx genera visualizaciones contrafactuales para un conjunto de imágenes, modificando un atributo a la vez. Estos atributos se filtran y clasifican según su influencia en las decisiones del clasificador.
- Revisión por panel de expertos: Un panel interdisciplinario de expertos analiza los atributos identificados, interpretándolos dentro de sus contextos médicos y sociales.
Los resultados del estudio incluyeron la identificación de atributos conocidos, como las opacidades radiales para la predicción de cataratas y la dilatación de venas retinianas para el estado de fumador. También se descubrieron señales novedosas y confusas, como la correlación entre el grosor del delineador de ojos y los niveles de hemoglobina, resaltando la importancia de considerar los sesgos del conjunto de datos.
Este estudio demuestra el potencial de los modelos de IA generativos para mejorar la explicabilidad de los modelos de machine learning en imágenes médicas y promover su uso y adopción. Según explican los autores, al combinar avances técnicos con experiencia interdisciplinaria, es posible utilizar la IA de manera responsable para descubrir nuevos conocimientos, mejorar el diagnóstico médico y abordar sesgos en la atención médica. Finalmente, los autores animan a realizar más investigaciones en esta área y subrayan la importancia de la colaboración entre investigadores de machine learning, profesionales de la salud y científicos sociales.
