La reciente aprobación de la Ley de AI en la Unión Europea plantea preguntas acerca de su impacto en la Digital Health.
El 13 de marzo de 2024, el Parlamento de la Unión Europea aprobó la Ley de inteligencia artificial (AI), una legislación que establecerá nuevos requisitos para los desarrolladores y usuarios de herramientas de Digital Health habilitadas por AI (DHTs, en inglés). A pesar de que el texto de la ley ya está disponible, todavía existen cuestionamientos sobre cómo afectará no sólo al panorama de la Digital Health sino a nivel general tanto en la Unión Europea (UE) como a nivel global, al ser la primera ley en su tipo en todo el mundo.
El 21 de mayo de 2024, esta ley finalmente obtuvo luz verde por parte del Consejo Europeo, por lo que será publicada en el Diario Oficial de la UE en la semana del 10 de junio de 2024. Sin embargo, las normativas entrarán en vigor hasta 2026.
La Ley de AI se aplicará a los desarrolladores y usuarios de sistemas de AI de propósito general en 12 meses, a los sistemas de AI incluyendo DHTs en 24 meses y a los sistemas de AI de alto riesgo, incluyendo DHTs, en 36 meses. Además, esta ley introduce numerosas responsabilidades para desarrolladores, usuarios y organismos reguladores, incluyendo la nueva Oficina de AI de la UE y la Comisión Europea. Estas responsabilidades van desde la observación de principios de transparencia, privacidad y capacidad técnica, hasta la consideración de los riesgos para la salud, la seguridad y los derechos fundamentales.
Uno de los aspectos más destacados de la ley es la obligación de que los sistemas de AI sean transparentes y rastreables, permitiendo que los humanos sean conscientes de cuándo interactúan con un sistema de AI. De igual forma, los desarrolladores deben garantizar que los datos utilizados sean lo más completos posible y libres de errores, y que los sistemas de AI cuenten con medidas de supervisión que permitan la intervención humana cuando sea necesario.
Según explica Stephen Gilbert, especialista en Digital Health en la Universidad Tecnológica de Dresden, la Ley de AI se enfrenta al desafío de coexistir con la legislación sectorial preexistente, como la Regulación de Dispositivos Médicos (MDR, en inglés) y la Regulación de Dispositivos de Diagnóstico In Vitro (IVDR, en inglés). Estas regulaciones seguirán aplicándose a las herramientas de Digital Health junto con la nueva Ley de AI, lo que genera dudas e incertidumbre entre la comunidad científica y las empresas tecnológicas, sobre conflictos en su implementación práctica.
Implicaciones en la Digital Health
Gilbert, explica en un artículo publicado en npj Digital Medicine journal, que la implementación de la Ley de AI en el campo de la medicina digital plantea preguntas significativas. Por ejemplo, cómo se coordinarán las nuevas responsabilidades con las regulaciones existentes y cómo se gestionarán los “sandboxes regulatorios” descritos en la ley. Estos sandboxes permiten a los proveedores desarrollar, validar y probar sistemas de AI en condiciones controladas, lo que podría ser clave para la innovación continua en la salud digital.
A pesar de los desafíos, la ley tiene el potencial de establecer un marco sólido para el desarrollo de AI confiable y centrada en las personas, promoviendo de manera simultánea la innovación. Sin embargo, esto sólo será posible si las estructuras de gobernanza de la ley, como la Comisión Europea y la Oficina de AI de la UE, actúan de manera flexible para resolver los problemas emergentes.
De esta forma, esta nueva ley de la UE representa un paso significativo hacia la regulación de la AI in Digital Health, así como en otros sectores e industrias. En cuanto a salud, esta ley debe proteger los derechos fundamentales y la salud de las personas, mientras se promueve la innovación. No obstante, como mencionan los especialistas, la verdadera prueba de su eficacia se conocerá cuando comience su implementación práctica y en la respuesta y la capacidad de las autoridades para adaptarse a los desafíos que surjan.
