El proyecto, financiado por la Innovative Health Initiative, desarrollará navegadores de guías para personal de salud y pacientes en cuatro enfermedades crónicas, con el criterio clínico como eje central.
GUIDE-AI es un proyecto financiado a través de la Innovative Health Initiative (IHI) que desarrollará navegadores de guías clínicas basados en inteligencia artificial (IA), dirigidos tanto a profesionales de la salud como a pacientes. Su objetivo es facilitar el acceso a recomendaciones basadas en evidencia sin desplazar el juicio clínico ni el contexto de cada paciente.
Las guías de práctica clínica existen para apoyar la toma de decisiones basada en evidencia, pero suelen ser documentos extensos, publicados en formatos que no están pensados para sistemas de apoyo basados en IA y sujetos a actualizaciones frecuentes. Ante ese escenario, el proyecto busca caracterizar el papel que pueden desempeñar los modelos de lenguaje junto al personal de salud, ayudándolo a encontrar y aplicar la orientación adecuada para el paciente adecuado en el momento clínico oportuno. La iniciativa abarca cuatro áreas de enfermedad crónica: insuficiencia cardiaca, enfermedad renal crónica, enfermedad pulmonar obstructiva crónica (EPOC) y asma.
Los responsables del proyecto parten de que la confianza debe construirse y no darse por supuesta. Los profesionales han visto herramientas de apoyo a la decisión que prometieron más de lo que cumplieron, y los pacientes han leído sobre sesgos algorítmicos y uso indebido de datos. A ello se suma que los grandes modelos de lenguaje (LLM, en inglés) responden con fluidez y seguridad incluso cuando se equivocan, lo que dificulta detectar sus limitaciones.
En este sentido, un estudio reciente, denominado NOHARM (Numerous Options Harm Assessment for Risk in Medicine), evaluó LLMs de uso general y herramientas de IA clínica de uso extendido con casos de consulta entre atención primaria y especialistas. Sus resultados indican que la aplicación directa de las recomendaciones de estos sistemas podía implicar riesgo de daño grave en hasta una cuarta parte de los casos, y que los errores de omisión explicaron la gran mayoría de los más serios.
Con ese antecedente, GUIDE-AI plantea sus herramientas como navegadores que conducen al profesional por las rutas de decisión de una guía, a partir de los datos de cada paciente. Cuando no existe evidencia y la decisión es ambigua, esta queda en manos del criterio clínico y no de la IA. Los navegadores mantendrán al médico dentro del proceso para evitar la pérdida de habilidades y no emitirán recomendaciones detalladas de dosificación. El proyecto sostiene que su función es facilitar el acceso a la evidencia correcta, no sustituir a quien la consulta.
La necesidad surgió de clínicos e investigadores que enfrentan a diario guías largas, dispersas entre disciplinas médicas y actualizadas con mayor rapidez de lo que un profesional puede asimilar. Dos organizaciones de representantes de pacientes participan en cada etapa, definen junto con los socios clínicos qué significa que la herramienta sea útil y segura, y tendrán la última palabra sobre si cumple su propósito. El consorcio toma sus decisiones de forma conjunta, a partir del contexto asistencial y con quienes prestan y reciben la atención.
El proyecto se desarrolla para dos públicos de manera simultánea. Habrá una versión para profesionales de la salud en las cuatro áreas de enfermedad y otra para pacientes, diseñada con organizaciones de pacientes y redactada en un lenguaje que puedan utilizar. Cada versión tendrá su propio alcance y límites de conocimiento explícitos, dado que el profesional y el paciente parten de saberes distintos y tienen intereses diferentes. Ambas se apoyarán en la misma tecnología y en la misma base de conocimiento basada en evidencia, con la intención de fomentar la relación entre médico y paciente y no de añadir una capa de separación entre ambos.
En cuanto al diseño, GUIDE-AI emplea una arquitectura modular que permite examinar, probar y reemplazar cada componente sin tratar el sistema como una caja negra y sin quedar atado a un entorno tecnológico que cambia con rapidez. Los resultados pueden rastrearse hasta los pasajes de la guía de origen, de modo que cualquier profesional pueda verificar la recomendación en lugar de aceptar la paráfrasis del sistema. Esto cobra relevancia en el manejo de enfermedades crónicas, donde el personal de salud consulta guías de forma repetida, durante años y con pacientes cuyas circunstancias rara vez encajan en un solo párrafo.
El proyecto es un consorcio europeo financiado por la IHI, gobernado mediante una alianza público-privada que reúne a actores académicos, clínicos, organizaciones de pacientes, pequeñas y medianas empresas e industria, y desarrollado dentro de las normas europeas de protección de datos. Los organizadores señalan que las instituciones sanitarias de Europa se han mostrado más cautelosas con las herramientas comerciales de IA de origen estadounidense, en parte por la soberanía de los datos y en parte por las diferencias en los requisitos de adquisición y gobernanza.
En el plano regulatorio, GUIDE-AI opera en el territorio compartido por el Reglamento europeo de Productos Sanitarios y la Ley de IA de la Unión Europea. El consorcio estableció un marco regulatorio dinámico, con puntos de decisión, evaluaciones de impacto y una declaración de uso previsto que se actualiza, para mantener abiertas sus opciones mientras ambos regímenes evolucionan. Los responsables precisan que el cumplimiento normativo funciona como respaldo de un sistema confiable y no como el mecanismo que lo hace confiable, y que ese tema se abordará con mayor profundidad cuando se defina la ruta regulatoria del proyecto. Mientras tanto, la prioridad es demostrar, función por función, que un sistema de IA surgido de una necesidad médica puede apoyar el juicio clínico sin reemplazarlo.
