{"id":58116,"date":"2025-07-28T10:57:48","date_gmt":"2025-07-28T16:57:48","guid":{"rendered":"https:\/\/saluddigital.com\/?p=58116"},"modified":"2025-10-19T23:39:09","modified_gmt":"2025-10-20T05:39:09","slug":"pueden-los-modelos-de-lenguaje-tomar-decisiones-eticas-en-medicina","status":"publish","type":"post","link":"https:\/\/saluddigital.com\/en\/big-data\/pueden-los-modelos-de-lenguaje-tomar-decisiones-eticas-en-medicina\/","title":{"rendered":"\u00bfPueden los modelos de lenguaje tomar decisiones \u00e9ticas en medicina?"},"content":{"rendered":"
\n\t\t\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Un estudio advierte sobre las limitaciones de la IA al enfrentar dilemas cl\u00ednicos complejos.<\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

A medida que la inteligencia artificial (IA) y los grandes modelos de lenguaje (LLM, en ingl\u00e9s) como ChatGPT, DeepSeek o Grok, ganan terreno en entornos m\u00e9dicos y educativos, surgen cuestionamientos clave acerca de su preparaci\u00f3n para tomar decisiones \u00e9ticas sensibles. Un art\u00edculo reciente publicado en npj Digital Medicine journal<\/em><\/a> expone fallos significativos en la capacidad de estos sistemas para razonar en escenarios \u00e9ticos complejos. A pesar de sus avances, los modelos tienden a responder de manera predecible y superficial, incluso cuando el contexto requiere an\u00e1lisis m\u00e1s profundos y adaptativos.<\/p>

Los investigadores compararon el razonamiento \u00e9tico de varios LLM frente a escenarios m\u00e9dicos cuidadosamente modificados para probar su flexibilidad cognitiva. Aunque estos modelos han sido entrenados para emular un pensamiento m\u00e1s anal\u00edtico, denominado \u201cSystem 2\u201d en psicolog\u00eda, siguen mostrando una fuerte dependencia a patrones previamente aprendidos, lo que los lleva a respuestas err\u00f3neas o inadecuadas cuando se enfrentan a informaci\u00f3n nueva o contradictoria.<\/p>

\u201cLa IA puede ser muy potente y eficiente, pero nuestro estudio demostr\u00f3 que puede optar por defecto por la respuesta m\u00e1s familiar o intuitiva, incluso cuando esa respuesta pasa por alto detalles cr\u00edticos”, expres\u00f3 el coautor principal del estudio Eyal Klang, Jefe de IA Generativa en el Departamento Windreich de Inteligencia Artificial y Salud Humana de la Facultad de Medicina Icahn de Mount Sinai. \u201cEn situaciones cotidianas, ese tipo de pensamiento podr\u00eda pasar desapercibido. Pero en la atenci\u00f3n sanitaria, donde las decisiones a menudo conllevan graves implicaciones \u00e9ticas y cl\u00ednicas, pasar por alto esos matices puede tener consecuencias reales para los pacientes\u201d, agreg\u00f3.<\/p>

Un ejemplo clave es el cl\u00e1sico acertijo del \u201cDilema del cirujano\u201d, que plantea una situaci\u00f3n \u00e9tica en la que un cirujano debe decidir si sacrificar a un paciente para salvar a otros pacientes. El dilema reformulado para invalidar su soluci\u00f3n t\u00edpica. No obstante, a pesar de los nuevos datos, los LLM repitieron respuestas conocidas, ignorando elementos clave del planteamiento. Del mismo modo, en casos de \u00e9tica m\u00e9dica, como la confidencialidad en pacientes menores o el manejo de diagn\u00f3sticos terminales, varios modelos fallaron en reconocer que el dilema hab\u00eda sido resuelto por los cambios en el contexto del caso.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Los autores atribuyen estos errores al exceso de exposici\u00f3n a ejemplos repetidos durante el entrenamiento, lo que condiciona las respuestas hacia soluciones conocidas, incluso cuando no aplican. En promedio, los modelos mostraron tasas de error m\u00e1s altas en escenarios de \u00e9tica m\u00e9dica, entre 76% y 96%, que en acertijos l\u00f3gicos generales.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

\u201cNuestros hallazgos no sugieren que la IA no tenga cabida en la pr\u00e1ctica m\u00e9dica, sino que ponen de relieve la necesidad de una supervisi\u00f3n humana reflexiva, especialmente en situaciones que requieren sensibilidad \u00e9tica, juicio matizado o inteligencia emocional\u201d, afirma el coautor principal Girish N. Nadkarni, presidente del Departamento Windreich de Inteligencia Artificial y Salud Humana, y Jefe de AI del sistema de salud de Mount Sina\u00ed.<\/p>

Aunque existen intentos por fomentar un pensamiento m\u00e1s deliberativo en estas IA, como los llamados procesos de \u201ccadena de pensamiento\u201d, los resultados siguen siendo limitados. La dificultad para distinguir matices en dilemas \u00e9ticos plantea un riesgo si estos sistemas se usan en decisiones cl\u00ednicas reales, donde cada caso puede requerir un enfoque altamente individualizado y humano.<\/p>

El estudio abord\u00f3 ejemplo para comprobar si los LLM se basan en patrones familiares. En este ejercicio los investigadores recurrieron a un dilema \u00e9tico cl\u00e1sico en el que unos padres religiosos se niegan a una transfusi\u00f3n de sangre para salvar la vida de su hijo. Los investigadores modificaron el escenario para afirmar que los padres ya hab\u00edan dado su consentimiento, muchos modelos segu\u00edan recomendando anular una negativa que ya no exist\u00eda.<\/p>

\u201cUnos simples retoques en casos familiares pusieron al descubierto puntos ciegos que los m\u00e9dicos no pueden permitirse\u201d, expres\u00f3 la autora principal, la doctora Shelly Soffer, miembro del Instituto de Hematolog\u00eda del Centro Oncol\u00f3gico Davidoff del Centro M\u00e9dico Rabin. \u201cEsto subraya por qu\u00e9 la supervisi\u00f3n humana debe seguir siendo fundamental cuando desplegamos la IA en la atenci\u00f3n al paciente\u201d.<\/p>

El estudio concluye que, si bien los LLM est\u00e1n mejorando en tareas cognitivas complejas, su tendencia a replicar patrones familiares puede comprometer su utilidad en contextos \u00e9ticos delicados. Antes de integrarlos plenamente en la pr\u00e1ctica m\u00e9dica, es esencial reconocer estas limitaciones y continuar desarrollando sistemas capaces de comprender no solo el lenguaje, sino tambi\u00e9n la profundidad moral y emocional de las decisiones cl\u00ednicas.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/i><\/span>\n\t\t\t\t\t\t\t\t<\/i><\/span>\n\t\t\t\t\t\t\t\t\t\t\t\t\t<\/span>\n\t\t\t\t\t\t\t\t\t\t\t\t BIBLIOGRAPHY<\/a>\n\t\t\t\t\t<\/div>\n\n\t\t\t\t\t

MOUNT SINAI<\/strong><\/p>

https:\/\/www.mountsinai.org\/about\/newsroom\/2025\/like-humans-ai-can-jump-to-conclusions-mount-sinai-study-finds<\/a><\/p>

NATURE<\/strong><\/p>

https:\/\/www.nature.com\/articles\/s41746-025-01792-y<\/a><\/p><\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<\/div>","protected":false},"excerpt":{"rendered":"

Investigadores de Mount Sinai, ponen a prueba si los grandes modelos de lenguaje pueden tomar decisiones \u00e9ticas en medicina.<\/p>","protected":false},"author":1,"featured_media":58118,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[156,160],"tags":[145],"class_list":["post-58116","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-big-data","category-noticias","tag-noticias"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts\/58116","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/comments?post=58116"}],"version-history":[{"count":0,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts\/58116\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/media\/58118"}],"wp:attachment":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/media?parent=58116"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/categories?post=58116"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/tags?post=58116"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}