{"id":67851,"date":"2026-02-27T11:53:24","date_gmt":"2026-02-27T17:53:24","guid":{"rendered":"https:\/\/saluddigital.com\/?p=67851"},"modified":"2026-02-27T11:59:56","modified_gmt":"2026-02-27T17:59:56","slug":"investigadores-alertan-sobre-los-riesgos-de-pedir-consejos-de-salud-a-la-ia","status":"publish","type":"post","link":"https:\/\/saluddigital.com\/en\/big-data\/investigadores-alertan-sobre-los-riesgos-de-pedir-consejos-de-salud-a-la-ia\/","title":{"rendered":"Researchers warn about the risks of asking AI for health advice"},"content":{"rendered":"
\n\t\t\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Especialistas adiverten que las respuestas t\u00e9cnicamente correctas de los chatbots pueden ser m\u00e9dicamente inapropiadas cuando ignoran el contexto cl\u00ednico del paciente.<\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Cada vez m\u00e1s personas recurren a la inteligencia artificial (IA) para resolver dudas sobre su salud, debido a la gran oferta de chatbots basados en IA\u00a0 disponibles en tiendas de aplicaciones m\u00f3viles y a que los buscadores convencionales, como Google, muestran resultados y res\u00famenes generados con esta tecnolog\u00eda en su resultados<\/strong>. Se estima que m\u00e1s de 230 millones de personas al a\u00f1o consultan chatbots m\u00e9dicos.<\/p>

La promesa es clara, respuestas r\u00e1pidas, accesibles y en lenguaje sencillo. Sin embargo, un an\u00e1lisis reciente, realizado por investigadores de Duke, advierte que el verdadero riesgo no siempre est\u00e1 en los errores evidentes, sino en respuestas que parecen correctas, pero que pueden ser peligrosas por falta de contexto.<\/p>

En Duke, la investigadora Monica Agrawal, profesora asistente de bioestad\u00edstica y bioinform\u00e1tica, estudia miles de conversaciones reales entre pacientes y chatbots para entender c\u00f3mo se utilizan estas herramientas y en qu\u00e9 punto pueden fallar. Su equipo cre\u00f3 la base de datos HealthChat-11K<\/strong>, que re\u00fane 11 mil conversaciones relacionadas con 21 especialidades m\u00e9dicas, con el objetivo de analizar patrones de riesgo y abrir el acceso a otros investigadores.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

M\u00e1s all\u00e1 de las llamadas \u201calucinaciones\u201d, es decir, cuando la IA inventa datos, el equipo identific\u00f3 un problema m\u00e1s sutil, ya que muchos modelos ofrecen respuestas t\u00e9cnicamente correctas, pero m\u00e9dicamente inapropiadas porque no consideran el historial cl\u00ednico, la gravedad de los s\u00edntomas o el contexto personal del usuario. A diferencia de los ex\u00e1menes estandarizados con los que suelen evaluarse estos modelos, las preguntas reales de los pacientes son emocionales, imprecisas y a veces peligrosas.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t

\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Los investigadores se\u00f1alan que los modelos de lenguaje tienden a complacer al usuario. En lugar de cuestionar suposiciones equivocadas, pueden reforzarlas. Por ejemplo, ante preguntas como \u201cCreo que tengo esta enfermedad, \u00bfqu\u00e9 debo hacer?\u201d o \u201c\u00bfQu\u00e9 dosis debo tomar para mi condici\u00f3n?\u201d, el chatbot puede responder sin verificar si el diagn\u00f3stico inicial es correcto.<\/p>

En un caso documentado, un usuario pidi\u00f3 instrucciones para realizar un procedimiento m\u00e9dico en casa. Aunque el chatbot advirti\u00f3 que deb\u00eda hacerlo un profesional, posteriormente ofreci\u00f3 instrucciones paso a paso, algo que claramente no suceder\u00eda con un m\u00e9dico humano.<\/p>

Para profundizar en estas diferencias, Agrawal y su equipo ahora analizan intercambios entre pacientes y m\u00e9dicos verificados en el foro \u201caskdocs\u201d de Reddit. El objetivo es comparar c\u00f3mo responden los cl\u00ednicos frente a c\u00f3mo lo hace la inteligencia artificial. Seg\u00fan Ayman Ali, residente quir\u00fargico que colabora en el proyecto, los m\u00e9dicos est\u00e1n entrenados para \u201cleer entre l\u00edneas\u201d y reformular preguntas cuando detectan supuestos incorrectos o riesgos impl\u00edcitos, algo que los modelos actuales no hacen de manera consistente.<\/p>

Los expertos recomiendan utilizar los chatbots como un primer acercamiento informativo, pero no como una fuente definitiva de diagn\u00f3stico o tratamiento<\/strong>. Tambi\u00e9n sugieren verificar las fuentes citadas y consultar siempre con un profesional de la salud antes de tomar decisiones importantes. Otra estrategia m\u00e1s segura es usar la IA para interpretar documentos m\u00e9dicos oficiales, como gu\u00edas cl\u00ednicas, en lugar de pedir recomendaciones directas de tratamiento.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/i><\/span>\n\t\t\t\t\t\t\t\t<\/i><\/span>\n\t\t\t\t\t\t\t\t\t\t\t\t\t<\/span>\n\t\t\t\t\t\t\t\t\t\t\t\t BIBLIOGRAPHY<\/a>\n\t\t\t\t\t<\/div>\n\n\t\t\t\t\t

DUKE<\/strong><\/p>

https:\/\/medschool.duke.edu\/stories\/hidden-risks-asking-ai-health-advice<\/a><\/p><\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<\/div>","protected":false},"excerpt":{"rendered":"

Investigadores de Duke alertan sobre los riesgos de pedir consejos de salud a la IA, sin antes verificar la informaci\u00f3n con un m\u00e9dico humano.<\/p>","protected":false},"author":1,"featured_media":67852,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[156,160],"tags":[145],"class_list":["post-67851","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-big-data","category-noticias","tag-noticias"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts\/67851","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/comments?post=67851"}],"version-history":[{"count":4,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts\/67851\/revisions"}],"predecessor-version":[{"id":67857,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts\/67851\/revisions\/67857"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/media\/67852"}],"wp:attachment":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/media?parent=67851"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/categories?post=67851"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/tags?post=67851"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}