{"id":66397,"date":"2026-01-09T10:26:17","date_gmt":"2026-01-09T16:26:17","guid":{"rendered":"https:\/\/saluddigital.com\/?p=66397"},"modified":"2026-01-09T10:29:59","modified_gmt":"2026-01-09T16:29:59","slug":"la-inteligencia-artificial-en-la-salud-tambien-debe-cuidar-la-privacidad","status":"publish","type":"post","link":"https:\/\/saluddigital.com\/en\/big-data\/la-inteligencia-artificial-en-la-salud-tambien-debe-cuidar-la-privacidad\/","title":{"rendered":"La inteligencia artificial en la salud tambi\u00e9n debe cuidar la privacidad"},"content":{"rendered":"
\n\t\t\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Investigadores del MIT investigan acerca de c\u00f3mo se pueden probar los modelos de IA para garantizar su seguridad y evitar que revelen datos sobre la salud de los pacientes.<\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

The modelos de inteligencia artificial<\/strong> (IA) que analizan expedientes m\u00e9dicos electr\u00f3nicos prometen transformar la atenci\u00f3n sanitaria<\/strong>, al ayudar a m\u00e9dicos e instituciones a predecir enfermedades, optimizar tratamientos y mejorar la calidad del cuidado. Sin embargo, un nuevo estudio liderado por investigadores del MIT advierte que estos sistemas tambi\u00e9n pueden representar un riesgo serio para la privacidad de los pacientes si \u201cmemorizan\u201d informaci\u00f3n sensible en lugar de solo aprender patrones generales.<\/p>

El problema surge cuando estos llamados modelos fundacionales<\/strong><\/a>, que son entrenados con grandes vol\u00famenes de historiales cl\u00ednicos, no solo aprenden tendencias m\u00e9dicas, sino que llegan a retener detalles espec\u00edficos de personas reales. Aunque los datos est\u00e9n legalmente desidentificados, los autores explican que, bajo ciertas condiciones, la IA podr\u00eda revelar diagn\u00f3sticos, tratamientos o incluso permitir inferir si una persona form\u00f3 parte del conjunto de datos de entrenamiento.<\/p>

Para enfrentar este reto, el equipo propone un marco de evaluaci\u00f3n que permite medir, de forma pr\u00e1ctica, qu\u00e9 tanto riesgo de privacidad implica un modelo m\u00e9dico. A diferencia de estudios anteriores centrados en ataques te\u00f3ricos, esta investigaci\u00f3n se enfoca en situaciones reales de uso cl\u00ednico: qu\u00e9 puede ocurrir si alguien interact\u00faa con el sistema usando solo preguntas o fragmentos de informaci\u00f3n aparentemente inocentes.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Los cient\u00edficos dise\u00f1aron seis pruebas que permiten analizar dos tipos de \u201cmemorizaci\u00f3n\u201d<\/strong>. La primera ocurre cuando el modelo genera respuestas que reproducen informaci\u00f3n cercana a registros reales; la segunda se da cuando los datos quedan ocultos en las representaciones internas del sistema, pero aun as\u00ed pueden ser extra\u00eddos mediante t\u00e9cnicas especializadas. Estas evaluaciones buscan distinguir entre lo que es una generalizaci\u00f3n \u00fatil, como lo es reconocer s\u00edntomas comunes de una enfermedad, y lo que ser\u00eda una filtraci\u00f3n indebida de datos personales.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t

\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Uno de los hallazgos m\u00e1s importantes es que el riesgo no depende \u00fanicamente de cu\u00e1nto recuerda el modelo, sino de qu\u00e9 tipo de informaci\u00f3n llega a revelar. Por ejemplo, reproducir resultados rutinarios de laboratorio tiene un impacto mucho menor que exponer diagn\u00f3sticos asociados con estigmas sociales, como trastornos mentales, consumo de sustancias o enfermedades infecciosas. En estos casos, incluso una peque\u00f1a filtraci\u00f3n puede tener consecuencias graves para la vida personal y laboral de un paciente.<\/p>

El estudio tambi\u00e9n pone atenci\u00f3n especial en los grupos vulnerables. Las personas con enfermedades raras o pertenecientes a subpoblaciones peque\u00f1as corren un mayor riesgo de ser identificadas indirectamente, aun cuando sus datos hayan sido anonimizados. Los investigadores muestran que, si un modelo asocia informaci\u00f3n sensible con caracter\u00edsticas poco comunes, el peligro de reidentificaci\u00f3n aumenta de forma considerable<\/strong>.<\/p>

A partir de estas observaciones, el equipo propone que la evaluaci\u00f3n de modelos m\u00e9dicos no se limite a medir su precisi\u00f3n cl\u00ednica, sino que incluya auditor\u00edas sistem\u00e1ticas de privacidad antes de su implementaci\u00f3n. Esto implica analizar c\u00f3mo responden a distintos tipos de consultas, qu\u00e9 tan f\u00e1cil ser\u00eda extraer informaci\u00f3n sensible y si existen diferencias de riesgo entre distintos grupos de pacientes.<\/p>

Los autores subrayan que la inteligencia artificial puede ser una aliada poderosa para la medicina, pero solo si se desarrolla con responsabilidad. En un contexto donde la confianza es clave para que las personas compartan sus datos de salud, garantizar que los sistemas no expongan informaci\u00f3n privada es tan importante como lograr diagn\u00f3sticos m\u00e1s precisos.<\/p>

Finalmente, el estudio pone a disposici\u00f3n de la comunidad cient\u00edfica un conjunto de herramientas de c\u00f3digo abierto para que hospitales, desarrolladores y reguladores puedan evaluar por s\u00ed mismos los riesgos de memorizaci\u00f3n. La meta es clara: avanzar hacia modelos de IA que no solo sean inteligentes, sino tambi\u00e9n seguros y respetuosos de la privacidad de quienes conf\u00edan en ellos para cuidar su salud.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/i><\/span>\n\t\t\t\t\t\t\t\t<\/i><\/span>\n\t\t\t\t\t\t\t\t\t\t\t\t\t<\/span>\n\t\t\t\t\t\t\t\t\t\t\t\t BIBLIOGRAPHY<\/a>\n\t\t\t\t\t<\/div>\n\n\t\t\t\t\t

MIT<\/strong><\/p>

https:\/\/news.mit.edu\/2026\/mit-scientists-investigate-memorization-risk-clinical-ai-0105<\/a><\/p>

NEURIPS<\/strong><\/p>

https:\/\/neurips.cc\/virtual\/2025\/loc\/san-diego\/poster\/118370<\/a><\/p>

OPEN REVIEW<\/strong><\/p>

https:\/\/openreview.net\/pdf?id=NMvMYtRjkg<\/a><\/p><\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<\/div>","protected":false},"excerpt":{"rendered":"

La inteligencia artificial en la salud tambi\u00e9n debe cuidar la privacidad y garantizar seguridad, seg\u00fan indica nuevo estudio del MIT<\/p>","protected":false},"author":1,"featured_media":66400,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[156,160],"tags":[145],"class_list":["post-66397","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-big-data","category-noticias","tag-noticias"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts\/66397","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/comments?post=66397"}],"version-history":[{"count":4,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts\/66397\/revisions"}],"predecessor-version":[{"id":66406,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts\/66397\/revisions\/66406"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/media\/66400"}],"wp:attachment":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/media?parent=66397"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/categories?post=66397"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/tags?post=66397"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}