Este marco creado por Google, evalúa la equidad del rendimiento de las tecnologías de machine learning en la atención sanitaria, específicamente si la tecnología ayuda a quienes experimentan resultados de salud adversos.
Las disparidades en salud son un problema importante en todo el mundo. Las personas de diferentes grupos socioeconómicos, raciales y étnicos experimentan diferentes resultados de salud, a menudo debido a factores como el acceso a la atención médica, la calidad de la atención y las condiciones sociales y ambientales.
Las tecnologías de machine learning tienen el potencial de mejorar la atención médica, pero también podrían exacerbar las disparidades en salud si no se diseñan cuidadosamente. El marco Health Equity Assessment of Machine Learning Performance o HEAL es una herramienta que pretende ayudar a garantizar que las tecnologías de machine learning en la atención médica promuevan la equidad en salud.
El marco HEAL es un proceso de 4 pasos que evalúa qué tan equitativamente un modelo de este tipo predice la probabilidad de un resultado de salud específico. Los pasos son:
- Identificar los factores asociados con las disparidades en salud y definir las métricas de rendimiento de la herramienta.
- Identificar y cuantificar las disparidades de salud preexistentes.
- Medir el rendimiento de la herramienta para cada subgrupo de la población.
- Medir la probabilidad de que la herramienta priorice el rendimiento con respecto a las disparidades de salud.
De esta forma, el marco HEAL produce una métrica final que indica qué tan bien el modelo de machine learning prioriza el rendimiento para los grupos con peores resultados de salud.
Sin embargo, este marco tiene limitantes ya que no puede predecir el impacto real que una tecnología tendrá en la reducción de las disparidades en salud. No obstante, puede ayudar a identificar áreas donde el modelo podría ser injusto y donde se podrían realizar mejoras.
HEAL es una herramienta útil ya que al evaluar qué tan equitativamente funcionan los modelos de machine learning, puede ayudar a los desarrolladores y usuarios de estas tecnologías a tomar medidas para mejorar la equidad en salud.
