Investigadores encontraron que médicos profesionales administraron con más frecuencia un tratamiento a pacientes ficticios etiquetados por una IA como altamente sensibles, incluso cuando la evidencia mostraba que el fármaco no funcionaba mejor en ellos, y llegaron a creer que un tratamiento completamente ineficaz sí funcionaba.
Un estudio publicado en PLOS Digital Health encontró que médicos profesionales tienden a confiar en las clasificaciones erróneas generadas por sistemas de inteligencia artificial (IA), incluso cuando tienen a la mano la evidencia necesaria para detectar el error. La investigación, realizada en España, replica con médicos un hallazgo previo obtenido con población general, y sus resultados sugieren que la experiencia profesional no protege por sí sola contra este tipo de sesgo.
Los sistemas de clasificación de pacientes basados en IA se utilizan cada vez más en la práctica clínica para categorizar a las personas según sus necesidades de atención, apoyando decisiones sobre tratamientos o estudios diagnósticos adicionales. Sin embargo, estos sistemas pueden basarse en datos incorrectos, desactualizados o incompletos, lo que puede llevar a clasificaciones equivocadas. La normativa europea de IA contempla que, en ámbitos de alto riesgo como la salud, estos sistemas no operen de manera autónoma y que el personal humano supervise, valide o rechace sus resultados.
Para poner a prueba esa capacidad de supervisión, los investigadores reclutaron a 105 médicos en un primer experimento y a 118 en un segundo, a través de la plataforma Prolific, todos ellos profesionales en ejercicio dentro del sector salud. Se les pidió imaginar que trataban una enfermedad ficticia, llamada síndrome de Lyndsay, con un medicamento también ficticio cuya eficacia aún no había sido comprobada. Cada participante evaluó a 60 pacientes simulados, presentados en orden aleatorio: 30 habían sido etiquetados por un sistema de IA como altamente sensibles al tratamiento y 30 como poco sensibles. Ante cada paciente, el médico decidía si administraba o no el fármaco, y de inmediato recibía información sobre si el paciente se había curado.
Lo que los participantes no sabían era que, en el primer experimento, el medicamento era realmente efectivo, con 70% de curación cuando se administraba frente a 20% cuando no se administraba, pero esa efectividad era idéntica para ambos grupos de pacientes, independientemente de la etiqueta asignada por la IA. Es decir, la clasificación del sistema era incorrecta, y la evidencia necesaria para detectarlo, las tasas reales de curación observadas en cada paciente, estuvo disponible durante todo el experimento.
Los resultados mostraron que los médicos administraron el tratamiento con mucha mayor frecuencia a los pacientes etiquetados como altamente sensibles, en 89% de los casos, frente a 56% en los pacientes etiquetados como poco sensibles. Al finalizar, también calificaron el fármaco como más efectivo para el primer grupo que para el segundo, pese a que la efectividad real había sido idéntica. Ni la percepción de confiabilidad del sistema de IA ni las actitudes generales de los médicos hacia esta tecnología explicaron esta diferencia, lo que indica que el efecto no dependió de cuánto confiaba cada médico en la IA de manera consciente, sino que ocurrió de forma generalizada en la muestra.
El segundo experimento resultó todavía más revelador. En este caso, el tratamiento no tenía ningún efecto real: 70% de los pacientes se curaba tanto si recibía el fármaco como si no lo recibía, por lo que la evaluación correcta de su efectividad debía ser cero. Aun así, los médicos siguieron administrando el tratamiento con mayor frecuencia a los pacientes clasificados como altamente sensibles, en 78% de los casos frente a 37%, y calificaron el fármaco ineficaz como moderadamente efectivo, con puntuaciones promedio de 68 sobre 100 para los pacientes altamente sensibles y 47 para los poco sensibles, en una escala donde cero representaba total ineficacia. Los investigadores interpretan este patrón como una ilusión de causalidad, es decir, la tendencia a percibir una relación entre una acción y un resultado cuando en realidad no existe, un fenómeno documentado previamente en la psicología del razonamiento humano y que resulta más probable cuando la tasa de recuperación espontánea de una enfermedad es alta.
Los autores señalan que las consecuencias de este sesgo dependen de si el tratamiento en cuestión funciona o no en la realidad. Cuando el fármaco es efectivo, confiar más en la clasificación de la IA que en la evidencia disponible puede privar de un tratamiento útil a un grupo de pacientes que sí se beneficiaría de él. Cuando el fármaco no funciona, el riesgo es que se administre un tratamiento ineficaz mientras se genera la falsa creencia de que sí funciona, lo que en un entorno real podría traducirse en sustituir una terapia válida por una que no lo es.
El equipo de investigación reconoce varias limitaciones de su trabajo. Se trató de un entorno de laboratorio con una enfermedad y un tratamiento ficticios, diseñado para controlar el conocimiento previo de los participantes, por lo que los resultados deben aplicarse con cautela a la práctica clínica real, donde los médicos suelen contar con múltiples fuentes de información además de la clasificación de un sistema automatizado, como el historial del paciente, comorbilidades y la trayectoria de la enfermedad. Los autores tampoco especificaron a los participantes si el sistema de IA había sido validado previamente, lo que pudo influir en el grado de confianza depositado en sus recomendaciones. Con todo, los investigadores consideran preocupante que, incluso bajo estas condiciones controladas, la evidencia directamente disponible sobre las tasas de curación no haya sido suficiente para que los médicos corrigieran una clasificación errónea proveniente de un sistema de IA.
