La IA y el aprendizaje automático pueden aprender del sistema judicial para mejorar la toma de decisiones en proceso de atención médica.
Conforme la inteligencia artificial (IA) y el aprendizaje automático o machine learning (ML) se vuelven más frecuentes en la toma de decisiones, la comunidad médica se cuestiona acerca de cómo mezclar eficazmente la experiencia humana con las elecciones hechas por IA/ML. Una perspectiva publicada en npj Digital Medicine de Nature propone una idea innovadora: incluir la experiencia humana mediante procesos de apelación para revisar las decisiones tomadas por algoritmos.
Es decir, en lugar de tener un ser humano en la etapa inicial de decisión, se sugiere que la intervención humana ocurra solo en casos particulares y después de que la IA/ML haya tomado una elección inicial. Esta propuesta se compara con cómo funcionan los procesos de apelación en el sistema judicial y busca aprovechar las ventajas únicas de ambos sistemas.
Según los autores, la incorporación de especialistas en etapas de apelación después de una decisión inicial de IA/ML puede tener múltiples beneficios. Por ejemplo, reduce los costos y aumenta la eficiencia al involucrar a los expertos humanos solo en casos específicos. Además, los casos apelados pueden revelar variables relevantes no consideradas inicialmente, lo que propiciaría una mejora para los algoritmos de IA/ML. También brinda un mayor sentido de compromiso, confianza y control a las personas afectadas por las decisiones, al darles una voz en el proceso.
Este diseño de procesos de apelación basados en la experiencia judicial puede ser aplicable en diversas áreas, sin embargo, el enfoque principal del artículo está en la aplicación de la IA/ML en la medicina y en la atención médica. Los autores presentan ejemplos concretos en los que se podría aplicar este proceso, como la asignación de órganos, el cuidado de la fertilidad o la readmisión hospitalaria. Por ejemplo, en el caso de la asignación de órganos, donde los recursos son más limitados que en otras situaciones, las decisiones pueden ser valoradas como injustas, por lo que un proceso de apelación podría ser valioso.
En este sentido, el artículo plantea la idea de que la intervención humana en las decisiones de IA/ML debería realizarse principalmente en la etapa de apelación, siguiendo el modelo del sistema judicial. Los autores observan los beneficios de ambas experiencias como: la precisión y eficiencia de la IA junto con la experiencia y el juicio humano. No obstante, también los autores reconocen que el diseño de los procesos de apelación debe ser contextual y específico para maximizar los beneficios y minimizar los costos, de lo contrario no habría cambios significativos. Esta propuesta abre la puerta a futuras investigaciones y debates sobre cómo optimizar la colaboración entre la IA y la experiencia humana en la toma de decisiones médicas e incluso en otras áreas de las ciencias humanas.
