El marco FUTURE-AI está estructurado en torno a seis principios rectores: equidad, universalidad, trazabilidad, usabilidad, robustez y explicabilidad.
En un esfuerzo por asegurar que la inteligencia artificial (IA) en el ámbito médico sea ética, segura y funcional, un consorcio internacional de expertos ha publicado las directrices FUTURE-AI. Este marco, presentado en The BMJ, reúne a 117 especialistas de 50 países y propone 30 recomendaciones para desarrollar, implementar y monitorear herramientas de IA confiables en el cuidado de la salud.
“Este documento aborda una importante brecha en el campo de la IA en el cuidado de la salud al ofrecer la primera guía estructurada y holística para una IA confiable y ética en el cuidado de la salud, establecida a través de un amplio consenso internacional y que cubre todo el ciclo de vida de la IA”, explican los autores.
La guía nace como respuesta a desafíos emergentes relacionados con la IA. A pesar de los avances tecnológicos en IA médica, su adopción en la práctica clínica sigue siendo limitada, lo cual se debe a problemas como la falta de transparencia, sesgos en los algoritmos, amenazas a la privacidad de los datos y una débil gobernanza técnica y ética. Para abordar estos desafíos, la iniciativa FUTURE-AI establece un conjunto de principios fundamentales que toda herramienta de IA en salud debe cumplir: equidad, universalidad, trazabilidad, usabilidad, robustez y explicabilidad.
El documento aboga por un enfoque holístico que contempla todo el ciclo de vida de las herramientas de IA, desde el diseño y desarrollo hasta su validación, regulación, implementación clínica y vigilancia posterior. Por ejemplo, se recomienda entrenar los modelos con datos representativos y diversos, garantizar mecanismos de auditoría continua, involucrar a múltiples actores, incluidos los pacientes, y evaluar la utilidad clínica y la experiencia de uso de cada tecnología.
Asimismo, el marco incluye 30 recomendaciones detalladas cuyo propósito es ayudar a construir sistemas de IA confiables e implementables, siempre enfatizando la colaboración entre las partes interesadas. Cabe destacar que FUTURE-AI es un marco dinámico que evolucionará de manera progresiva con los avances tecnológicos del momento y los comentarios de las partes interesadas.
Uno de los aportes más relevantes de FUTURE-AI es su énfasis en el trabajo interdisciplinario. A lo largo de dos años, expertos en ciencia de datos, ética médica, medicina clínica, derecho y ciencias sociales trabajaron de manera colaborativa mediante encuestas, revisiones y reuniones virtuales para consensuar este marco. Además, diseñaron una guía práctica para que los desarrolladores, investigadores y autoridades sanitarias puedan aplicar estas recomendaciones según si las herramientas están en fase experimental o listas para su despliegue clínico.
FUTURE-AI también promueve la rendición de cuentas, la gobernanza institucional y la adaptación a normas legales vigentes, como el Reglamento de IA de la Unión Europea. Se prevé que el marco evolucione con el tiempo gracias al aporte continuo de expertos y usuarios, consolidándose como una referencia internacional para el desarrollo de tecnologías sanitarias basadas en IA.
