Las agencias regulatorias de dispositivos médicos de estos tres países publicaron un documento sobre la transparencia acerca de sus diez principios del desarrollo de Buenas Prácticas de Machine Learning.
En 2021, la Administración de Alimentos y Medicamentos de EE.UU. (FDA, en inglés), Health Canada y la Agencia Reguladora de Medicamentos y Productos Sanitarios (MHRA, en inglés) del Reino Unido, identificaron los principios para las buenas prácticas de dispositivos médicos basados en aprendizaje automático o machine learning. El objetivo de estos principios es promover el uso de dispositivos médicos seguros, regulados y de calidad que utilicen inteligencia artificial (IA) y machine learning.
Posteriormente, en octubre de 2023, la FDA, Health Canada y MHRA, publicaron los diez principios del desarrollo de Buenas Prácticas de Machine Learning (GMLP, en inglés). En esta ocasión las tres agencias publicaron un documento acerca de la transparencia del machine learning aplicado en dispositivos móviles.
El documento toma como base los principios 7 y 9: Enfoque en el rendimiento del equipo humano-IA y proveer información clara y esencial a los usuarios. Asimismo, detalla que la trasparencia se refiere al grado en el que se comunica claramente información adecuada sobre un MLMD a las audiencias relevantes.
Los componentes de la trasparencia en este sentido son:
- Lógica: Cómo se llega a un resultado o decisión.
- Explicabilidad: Grado en que esta lógica puede ser entendida por una persona.
Otro aspecto importante de la transparencia en los GMLP es promover un diseño centrado en el humano. ES decir que mejore la experiencia del usuario, validando la transparencia y asegurando que los usuarios tengan toda la información necesaria sobre el dispositivo.
Asimismo, el documento presenta las preguntas clave acerca de la transparencia en este ámbito:
- Quién: Audiencias relevantes (profesionales de salud, pacientes, personal de apoyo, administradores, compradores y organismos reguladores).
- Por qué: Transparencia es esencial para el cuidado centrado en el paciente y para la seguridad y efectividad del dispositivo.
- Qué: Información relevante incluye propósito y función médica, usuarios previstos, entornos de uso, cómo el dispositivo afecta decisiones de atención médica, rendimiento del dispositivo, beneficios, riesgos y actividades de gestión de riesgos.
- Dónde: Colocación de la información a través de la interfaz de usuario del software del dispositivo, usando varios medios (audio, video, texto en pantalla, diagramas).
- Cuándo: Comunicación oportuna de información a lo largo del ciclo de vida del producto, incluyendo notificaciones de actualizaciones del dispositivo y nueva información descubierta.
- Cómo: Aplicación de principios de diseño centrado en el humano, con niveles adecuados de detalle para la audiencia prevista y ordenando el contenido por importancia para facilitar decisiones informadas.
Finalmente, las tres agencias resaltan que estos principios deben considerarse para adoptar y mejorar las prácticas de transparencia, fomentando la colaboración en el desarrollo de estándares de transparencia en este campo en evolución.
