La FDA considera que los avances en IA deben coincidir con un mejor entendimiento y evaluación de como funcionan los modelos en entornos médicos
La Administración de Alimentos y Medicamentos de Estados Unidos (FDA, en inglés), publicó un comunicado en JAMA Network, sobre su perspectiva en la regulación de la inteligencia artificial (IA), en la atención médica y en la biomedicina. En este documento se detalla la historia de la FDA sobre la regulación de la IA, sus potenciales usos en el desarrollo de productos médicos e investigación clínica. Asimismo, resalta la necesidad de un sistema regulatorio que se adapte a los nuevos desafíos que plantea la IA.
En primer lugar, la FDA define la IA como un sistema basado en máquinas que, para para un conjunto dado de objetivos definidos por humanos, puede hacer predicciones, recomendaciones o decisiones que influyen en entornos reales o virtuales. La IA es capaz de utilizarse en entornos reales y virtuales, realizar análisis de manera automatizada y utilizar la inferencia de los modelos para formular opciones de información o acción.
En 1995, la FDA aprobó el primer dispositivo médico parcialmente potenciado por IA, se trató de PAPNET, un software que utilizaba redes neuronales para prevenir los diagnósticos erróneos de cáncer de cuello uterino en mujeres que se sometían a pruebas de Papanicolau. Sin embargo, a pesar de que esta solución resultó ser más precisa que los patólogos humanos, no fue adoptada para la práctica clínica debido a su relación costo-beneficio.
Desde entonces, casi tres décadas después, la FDA ha autorizado alrededor de mil dispositivos médicos habilitados con IA, siendo su uso más común en especialidades como radiología y cardiología.
Asimismo, la FDA también ha recibido cientos de solicitudes regulatorias relacionadas con medicamentos que incluyeron el uso de IA en su descubrimiento y desarrollo. En 2021 por ejemplo, recibieron 132 solicitudes de este tipo, lo que significó un aumento de diez veces con respecto al año anterior. En este sentido las aplicaciones más comunes de la IA en el desarrollo de medicamentos incluyen la mejora del descubrimiento y la reutilización de medicamentos, los elementos de diseño de ensayos clínicos, la optimización de dosis, la adherencia a los regímenes farmacológicos, la evaluación de puntos finales y biomarcadores y la vigilancia posterior a la comercialización.
Con el avance acelerado de la IA, en 2021, la FDA compartió un plan de acción para promover el software potenciado con IA y machine learning. Y en 2022, la agencia también publicó una guía sobre los softwares de apoyo para la toma de decisiones clínicas.
La FDA contempla una serie de conceptos relacionados con la regulación de la IA, conscientes de que la agencia regula las industrias que fabrican y distribuyen productos en los mercados globales, no solamente en Estados Unidos. Por ello su regulación de la IA se da en el contexto más amplio del gobierno estadounidense y del mundo. Asimismo, la FDA reconoce el amplio alcance de la IA y el ritmo de cambio en su desarrollo, por lo que es fundamental mantenerse al día con todos los cambios e innovaciones que ocurren alrededor de la IA.
La agencia también aboga por enfoque flexibles en todo el espectro de modelos de IA, desde los modelos que respaldan el comportamiento saludable y las funciones administrativas que no están reguladas por la FDA, hasta los modelos integrados en dispositivos médicos tradicionales, como los desfibriladores cardíacos, que están regulados.
Finalmente, la FDA, a pesar de que no respalda ninguna práctica en particular, observa el gran potencial de la aplicación de la IA en el desarrollo de medicamentos y la investigación clínica. De esta forma, la FDA también contempla la necesidad de mantener una fuerza laboral con experiencia técnica y conocimiento del progreso de la IA para proporcionar orientación útil y oportuna sobre el desarrollo de nuevos productos.
Por otro lado, la FDA se está preparando para los desafíos que presentan los grandes modelos de lenguaje o LLM. Los LLMs tienen un potencial de consecuencias imprevistas y emergentes, según la FDA, ya que hasta el momento la agencia no ha aprobado ninguna aplicación de este tipo, a pesar de diversas propuestas de los LLMA en la atención médica. “La complejidad de los LLM y las permutaciones de los resultados requieren la supervisión de personas e instituciones, además de las autoridades regulatorias. Debido a que no podemos sobrecargar indebidamente a los médicos individuales con dicha supervisión, existe la necesidad de herramientas especializadas que permitan una mejor evaluación de los LLM en los contextos y entornos en los que se utilizarán”, explica la FDA en la publicación.
La FDA concluyó que, los avances en IA para biomedicina y atención de la salud requieren un enfoque constante para entender su aplicación en diferentes entornos. Esto implica ir más allá de la regulación de la FDA, considerando también el ecosistema de consumo y de atención médica, para no quedar atrás frente a los rápidos avances tecnológicos. Sin estos esfuerzos, existe el riesgo de que la IA no cumpla con las expectativas o cause problemas si se prioriza el rendimiento financiero sobre los resultados clínicos.
Asimismo, la supervisión de la FDA y otras agencias busca mantener la confianza pública en estos desarrollos. Por lo que es importante que la industria biomédica, digital y de salud colabore para evitar prácticas irresponsables y exageraciones sobre las capacidades de la IA. La FDA hace un llamado a todos los sectores para el trabajo colaborativo para fomentar el desarrollo de herramientas que evalúen la seguridad y efectividad de la IA en salud, asumiendo con responsabilidad el potencial transformador de esta tecnología.
