{"id":57723,"date":"2025-07-10T10:08:46","date_gmt":"2025-07-10T16:08:46","guid":{"rendered":"https:\/\/saluddigital.com\/?p=57723"},"modified":"2025-07-10T10:18:14","modified_gmt":"2025-07-10T16:18:14","slug":"estudio-del-mit-advierte-que-errores-de-escritura-y-lenguaje-informal-pueden-afectar-decisiones-medicas-realizadas-por-ia","status":"publish","type":"post","link":"https:\/\/saluddigital.com\/en\/noticias\/estudio-del-mit-advierte-que-errores-de-escritura-y-lenguaje-informal-pueden-afectar-decisiones-medicas-realizadas-por-ia\/","title":{"rendered":"Estudio del MIT advierte que errores de escritura y lenguaje informal pueden afectar decisiones m\u00e9dicas realizadas por IA"},"content":{"rendered":"
\n\t\t\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Investigadoras descubrieron que modelos de lenguaje como GPT-4 pueden dar recomendaciones m\u00e9dicas incorrectas si los mensajes de pacientes contienen fallas comunes no relacionadas con su salud.<\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Un estudio del MIT<\/a> ha revelado que los grandes modelos de lenguaje (LLM, en ingl\u00e9s) basados en inteligencia artificial (IA) utilizados en contextos m\u00e9dicos pueden tomar decisiones cl\u00ednicas influenciadas por elementos no m\u00e9dicos en los mensajes de los pacientes, como errores de ortograf\u00eda, uso de lenguaje coloquial o espacios en blanco adicionales. Estas variaciones de estilo, aunque son comunes en la comunicaci\u00f3n diaria, pueden llevar a que los sistemas recomienden tratamientos inadecuados, especialmente para mujeres.<\/p>

El equipo de investigadores del MIT, encabezado por la profesora Marzyeh Ghassemi y la estudiante de posgrado Abinitha Gourabathina, descubri\u00f3 que modelos como GPT-4 son sensibles a aspectos no cl\u00ednicos del lenguaje en los mensajes de los pacientes. Por ejemplo, errores tipogr\u00e1ficos, la ausencia de marcadores de g\u00e9nero o la inclusi\u00f3n de expresiones informales pueden hacer que el modelo sugiera que un paciente se recupere en casa, incluso cuando deber\u00eda recibir atenci\u00f3n m\u00e9dica inmediata.<\/p>

\u201cEstos modelos suelen entrenarse y probarse con preguntas de ex\u00e1menes m\u00e9dicos, pero luego se utilizan en tareas que distan bastante de eso, como evaluar la gravedad de un caso cl\u00ednico. Todav\u00eda hay muchas cosas sobre los LLM que desconocemos\u201d, expres\u00f3 Gourabathina, autora principal del estudio.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Para examinar esta fragilidad, los investigadores simularon cambios sutiles en miles de notas cl\u00ednicas enviadas por pacientes, como eliminar referencias al g\u00e9nero o insertar errores comunes. Despu\u00e9s, solicitaron a cuatro modelos de lenguaje, entre ellos GPT-4 y un modelo m\u00e1s peque\u00f1o, dise\u00f1ado para contextos m\u00e9dicos, que recomendaran un tratamiento: manejo en casa, visita a la cl\u00ednica o uso de recursos m\u00e9dicos como ex\u00e1menes de laboratorio.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Los resultados mostraron que los modelos recomendaban con m\u00e1s frecuencia que los pacientes se manejaran en casa cuando los mensajes conten\u00edan errores de formato o lenguaje informal. En promedio, los modelos aumentaron entre 7% y 9% este tipo de recomendaciones en todos los mensajes modificados. Adem\u00e1s, identificaron que los modelos comet\u00edan m\u00e1s errores cuando analizaban casos de mujeres, incluso si no hab\u00eda indicadores expl\u00edcitos de g\u00e9nero.<\/p>

Los investigadores subrayan que estas fallas no son evidentes al evaluar \u00fanicamente la precisi\u00f3n general de un modelo. \u201cLo preocupante no es solo que se equivoque, sino la direcci\u00f3n del error: recomendar no ir al m\u00e9dico cuando s\u00ed se necesita atenci\u00f3n puede ser mucho m\u00e1s grave\u201d, se\u00f1al\u00f3 Gourabathina.<\/p>

Adem\u00e1s, el estudio confirm\u00f3 que estas mismas variaciones de texto no afectan las decisiones cl\u00ednicas de m\u00e9dicos humanos, lo que refuerza la idea de que los modelos de IA a\u00fan no est\u00e1n listos para reemplazar el juicio cl\u00ednico en escenarios delicados como el diagn\u00f3stico y tratamiento de enfermedades.<\/p>

Las autoras explican que los LLM deben ser auditados cuidadosamente antes de su uso en el \u00e1mbito de la salud. Asimismo, advierten que, aunque estas tecnolog\u00edas pueden apoyar a los profesionales, no deben aplicarse sin una revisi\u00f3n rigurosa, ya que su rendimiento puede variar seg\u00fan el estilo de comunicaci\u00f3n del paciente, afectando de manera desproporcionada a ciertos grupos. Seg\u00fan las investigadoras, a\u00fan se requieren m\u00e1s estudios para mejorar la precisi\u00f3n y equidad de la IA en la atenci\u00f3n m\u00e9dica.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/i><\/span>\n\t\t\t\t\t\t\t\t<\/i><\/span>\n\t\t\t\t\t\t\t\t\t\t\t\t\t<\/span>\n\t\t\t\t\t\t\t\t\t\t\t\t BIBLIOGRAPHY<\/a>\n\t\t\t\t\t<\/div>\n\n\t\t\t\t\t

MIT<\/strong><\/p>

https:\/\/news.mit.edu\/2025\/llms-factor-unrelated-information-when-recommending-medical-treatments-0623<\/a><\/p><\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<\/div>","protected":false},"excerpt":{"rendered":"

Un nuevo estudio del MIT advierte que errores de escritura y lenguaje informal pueden afectar decisiones m\u00e9dicas realizadas por la IA.<\/p>","protected":false},"author":1,"featured_media":57724,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[160,3396],"tags":[],"class_list":["post-57723","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","category-uso-de-plataformas-digitales"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts\/57723","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/comments?post=57723"}],"version-history":[{"count":0,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts\/57723\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/media\/57724"}],"wp:attachment":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/media?parent=57723"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/categories?post=57723"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/tags?post=57723"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}