La reciente aprobación de la Ley de IA en la Unión Europea plantea preguntas acerca de su impacto en la Salud Digital.
El 13 de marzo de 2024, el Parlamento de la Unión Europea aprobó la Ley de inteligencia artificial (IA), una legislación que establecerá nuevos requisitos para los desarrolladores y usuarios de herramientas de Salud Digital habilitadas por IA (DHTs, en inglés). A pesar de que el texto de la ley ya está disponible, todavía existen cuestionamientos sobre cómo afectará no sólo al panorama de la Salud Digital sino a nivel general tanto en la Unión Europea (UE) como a nivel global, al ser la primera ley en su tipo en todo el mundo.
El 21 de mayo de 2024, esta ley finalmente obtuvo luz verde por parte del Consejo Europeo, por lo que será publicada en el Diario Oficial de la UE en la semana del 10 de junio de 2024. Sin embargo, las normativas entrarán en vigor hasta 2026.
La Ley de IA se aplicará a los desarrolladores y usuarios de sistemas de IA de propósito general en 12 meses, a los sistemas de IA incluyendo DHTs en 24 meses y a los sistemas de IA de alto riesgo, incluyendo DHTs, en 36 meses. Además, esta ley introduce numerosas responsabilidades para desarrolladores, usuarios y organismos reguladores, incluyendo la nueva Oficina de IA de la UE y la Comisión Europea. Estas responsabilidades van desde la observación de principios de transparencia, privacidad y capacidad técnica, hasta la consideración de los riesgos para la salud, la seguridad y los derechos fundamentales.
Uno de los aspectos más destacados de la ley es la obligación de que los sistemas de IA sean transparentes y rastreables, permitiendo que los humanos sean conscientes de cuándo interactúan con un sistema de IA. De igual forma, los desarrolladores deben garantizar que los datos utilizados sean lo más completos posible y libres de errores, y que los sistemas de IA cuenten con medidas de supervisión que permitan la intervención humana cuando sea necesario.
Según explica Stephen Gilbert, especialista en Salud Digital en la Universidad Tecnológica de Dresden, la Ley de IA se enfrenta al desafío de coexistir con la legislación sectorial preexistente, como la Regulación de Dispositivos Médicos (MDR, en inglés) y la Regulación de Dispositivos de Diagnóstico In Vitro (IVDR, en inglés). Estas regulaciones seguirán aplicándose a las herramientas de Salud Digital junto con la nueva Ley de IA, lo que genera dudas e incertidumbre entre la comunidad científica y las empresas tecnológicas, sobre conflictos en su implementación práctica.
Implicaciones en la Salud Digital
Gilbert, explica en un artículo publicado en npj Digital Medicine journal, que la implementación de la Ley de IA en el campo de la medicina digital plantea preguntas significativas. Por ejemplo, cómo se coordinarán las nuevas responsabilidades con las regulaciones existentes y cómo se gestionarán los “sandboxes regulatorios” descritos en la ley. Estos sandboxes permiten a los proveedores desarrollar, validar y probar sistemas de IA en condiciones controladas, lo que podría ser clave para la innovación continua en la salud digital.
A pesar de los desafíos, la ley tiene el potencial de establecer un marco sólido para el desarrollo de IA confiable y centrada en las personas, promoviendo de manera simultánea la innovación. Sin embargo, esto sólo será posible si las estructuras de gobernanza de la ley, como la Comisión Europea y la Oficina de IA de la UE, actúan de manera flexible para resolver los problemas emergentes.
De esta forma, esta nueva ley de la UE representa un paso significativo hacia la regulación de la IA en la Salud Digital, así como en otros sectores e industrias. En cuanto a salud, esta ley debe proteger los derechos fundamentales y la salud de las personas, mientras se promueve la innovación. No obstante, como mencionan los especialistas, la verdadera prueba de su eficacia se conocerá cuando comience su implementación práctica y en la respuesta y la capacidad de las autoridades para adaptarse a los desafíos que surjan.
