{"id":39362,"date":"2023-06-27T09:53:37","date_gmt":"2023-06-27T15:53:37","guid":{"rendered":"https:\/\/saluddigital.com\/?p=39362"},"modified":"2025-10-19T22:35:19","modified_gmt":"2025-10-20T04:35:19","slug":"los-chatbots-basados-en-ia-no-estan-listos-para-su-uso-clinico-segun-especialistas","status":"publish","type":"post","link":"https:\/\/saluddigital.com\/en\/big-data\/los-chatbots-basados-en-ia-no-estan-listos-para-su-uso-clinico-segun-especialistas\/","title":{"rendered":"Los chatbots basados en IA no est\u00e1n listos para su uso cl\u00ednico seg\u00fan especialistas"},"content":{"rendered":"
\n\t\t\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Especialistas de Reino Unido realizaron un an\u00e1lisis sobre el uso de modelos de lenguaje basados en inteligencia artificial como ChatGPT.<\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Los modelos de lenguaje extenso (LLM, en ingl\u00e9s) contin\u00faan su expansi\u00f3n y desarrollo al igual que los modelos de lenguaje natural de inteligencia artificial (IA) conversacional o tambi\u00e9n llamados chatbots. El lanzamiento de ChatGPT a finales del a\u00f1o pasado y su emergente popularidad durante 2023, ha llamado la atenci\u00f3n de la comunidad cient\u00edfica y diversos art\u00edculos y an\u00e1lisis se han publicado recientemente.<\/p>

En este sentido, investigadores de diversas instituciones brit\u00e1nicas como Kings College London, NHS Foundation Trust, Guys & St Thomas Hospital, entre otras, publicaron el art\u00edculo: \u201cLos chatbots de IA a\u00fan no est\u00e1n listos para uso cl\u00ednico\u201d. En el texto, los autores detallan conceptos alrededor de la IA y los modelos de lenguaje, el entrenamiento de estos modelos, los sesgos que tienen y sobre todo el futuro de la IA generativa.<\/p>

Los nuevos modelos de lenguaje especialmente los conversacionales o generativos tienen la capacidad de realizar tareas para las que no fueron entrenados, por ejemplo, pueden contestar preguntas m\u00e9dicas con un desempe\u00f1o cercano al nivel humano. De esta forma, debido al r\u00e1pido avance de la IA basada en LLM puede acelerar su aplicaci\u00f3n en el cuidado de la salud y la atenci\u00f3n m\u00e9dica.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

\u201cSi bien los LLM se muestran prometedores en la generaci\u00f3n de resultados de texto elocuentes, la seguridad y la precisi\u00f3n del paciente tienen una prioridad m\u00e1s alta que la interactividad similar a la humana (a la prueba de Turing) en el dominio de la atenci\u00f3n m\u00e9dica\u201d, explican los autores. Asimismo, detallan que se deben considerar si las herramientas como ChatGPT son utilizadas por usuarios m\u00e9dicos, como apoyo para la toma de decisiones cl\u00ednicas, o por usuarios pacientes, como un chatbot m\u00e9dico interactivo.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t

\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Los LLM como ChatGPT tienen una amplia representaci\u00f3n de conocimiento a trav\u00e9s de la exploraci\u00f3n de internet abierta, no obstante, pueden reflejar sesgos o falta de detalles precisos.\u00a0 Sin embargo, actualmente hay pocos LLM que han sido entrenados y validados en datos cl\u00ednicos del mundo real, debido a la sensibilidad y seguridad de los datos de los pacientes.<\/p>

\u201cEl uso pr\u00e1ctico de estos modelos radica en su capacidad para ayudar a los profesionales de la salud en la toma de decisiones a partir de grandes registros de pacientes no estructurados; desafortunadamente, pocos modelos han sido probados y validados en tales tareas y en datos hospitalarios del mundo real\u201d, mencionan los autores.<\/p>

De esta forma, los autores proponen un enfoque alternativo como capacitar un LLM para mapear registros de pacientes en una ontolog\u00eda estandarizada como lo es SNOMED-CT y posteriormente producir probabil\u00edsticos a partir de un registro especifico. Existe una aplicaci\u00f3n web donde demuestran lo anterior: https:\/\/foresight.sites.er.kcl.ac.uk\/<\/a>. Esta herramienta est\u00e1 dirigida a usuarios de atenci\u00f3n m\u00e9dica y para su entrenamiento utilizaron historias cl\u00ednicas con datos sint\u00e9ticos.<\/p>

Por otra parte, los autores explican que los LLM exhiben los mismos sesgos y asociaciones del texto de capacitaci\u00f3n basado en internet, por ejemplo, sesgos contra pa\u00edses, g\u00e9neros y ocupaciones. Adem\u00e1s, los LLM pueden generar informaci\u00f3n err\u00f3nea a trav\u00e9s de las indicaciones o prompts<\/em> que ingresa el usuario, en caso de ser insuficiente. Es decir, un usuario puede generar resultados enga\u00f1osos, ya que ChatGPT intentar\u00e1 generar informaci\u00f3n que se ajuste a la suposici\u00f3n realizada por el usuario en lugar de preguntar, aclarar o corregir.<\/p>

\u00a0<\/p>

\u201cA pesar del avance prometedor de los LLM y su sofisticaci\u00f3n en el procesamiento y la generaci\u00f3n del lenguaje natural, nuestras breves pruebas han resaltado la falta de preparaci\u00f3n de los chatbots basados \u200b\u200ben transformadores para su uso como herramienta cl\u00ednica orientada al paciente en su forma actual. Los LLM tienen riesgos relacionados con las asociaciones y los sesgos de sus datos de entrenamiento, as\u00ed como la propensi\u00f3n a generar resultados infieles o f\u00e1cticamente incorrectos\u201d, concluyen los autores.<\/p>

See the full article at the following link:<\/p>

https:\/\/www.frontiersin.org\/articles\/10.3389\/fdgth.2023.1161098\/full<\/a><\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/i><\/span>\n\t\t\t\t\t\t\t\t<\/i><\/span>\n\t\t\t\t\t\t\t\t\t\t\t\t\t<\/span>\n\t\t\t\t\t\t\t\t\t\t\t\t BIBLIOGRAPHY<\/a>\n\t\t\t\t\t<\/div>\n\n\t\t\t\t\t

FRONTIERS IN<\/strong><\/p>

https:\/\/www.frontiersin.org\/articles\/10.3389\/fdgth.2023.1161098\/full<\/a><\/p><\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<\/div>","protected":false},"excerpt":{"rendered":"

Especialistas de Reino Unido realizaron un an\u00e1lisis sobre el uso de modelos de lenguaje basados en inteligencia artificial como ChatGPT. Los modelos de lenguaje extenso (LLM, en ingl\u00e9s) contin\u00faan su expansi\u00f3n y desarrollo al igual que los modelos de lenguaje natural de inteligencia artificial (IA) conversacional o tambi\u00e9n llamados chatbots. El lanzamiento de ChatGPT a finales del a\u00f1o pasado y su emergente popularidad durante 2023, ha llamado la atenci\u00f3n de la comunidad cient\u00edfica y diversos art\u00edculos y an\u00e1lisis se han publicado recientemente. En este sentido, investigadores de diversas instituciones brit\u00e1nicas como Kings College London, NHS Foundation Trust, Guys & St Thomas Hospital, entre otras, publicaron el art\u00edculo: \u201cLos chatbots de IA a\u00fan no est\u00e1n listos para uso cl\u00ednico\u201d. En el texto, los autores detallan conceptos alrededor de la IA y los modelos de lenguaje, el entrenamiento de estos modelos, los sesgos que tienen y sobre todo el futuro de la IA generativa. Los nuevos modelos de lenguaje especialmente los conversacionales o generativos tienen la capacidad de realizar tareas para las que no fueron entrenados, por ejemplo, pueden contestar preguntas m\u00e9dicas con un desempe\u00f1o cercano al nivel humano. De esta forma, debido al r\u00e1pido avance de la IA basada en LLM puede acelerar su aplicaci\u00f3n en el cuidado de la salud y la atenci\u00f3n m\u00e9dica. \u201cSi bien los LLM se muestran prometedores en la generaci\u00f3n de resultados de texto elocuentes, la seguridad y la precisi\u00f3n del paciente tienen una prioridad m\u00e1s alta que la interactividad similar a la humana (a la prueba de Turing) en el dominio de la atenci\u00f3n m\u00e9dica\u201d, explican los autores. Asimismo, detallan que se deben considerar si las herramientas como ChatGPT son utilizadas por usuarios m\u00e9dicos, como apoyo para la toma de decisiones cl\u00ednicas, o por usuarios pacientes, como un chatbot m\u00e9dico interactivo. Los LLM como ChatGPT tienen una amplia representaci\u00f3n de conocimiento a trav\u00e9s de la exploraci\u00f3n de internet abierta, no obstante, pueden reflejar sesgos o falta de detalles precisos.  Sin embargo, actualmente hay pocos LLM que han sido entrenados y validados en datos cl\u00ednicos del mundo real, debido a la sensibilidad y seguridad de los datos de los pacientes. \u201cEl uso pr\u00e1ctico de estos modelos radica en su capacidad para ayudar a los profesionales de la salud en la toma de decisiones a partir de grandes registros de pacientes no estructurados; desafortunadamente, pocos modelos han sido probados y validados en tales tareas y en datos hospitalarios del mundo real\u201d, mencionan los autores. De esta forma, los autores proponen un enfoque alternativo como capacitar un LLM para mapear registros de pacientes en una ontolog\u00eda estandarizada como lo es SNOMED-CT y posteriormente producir probabil\u00edsticos a partir de un registro especifico. Existe una aplicaci\u00f3n web donde demuestran lo anterior: https:\/\/foresight.sites.er.kcl.ac.uk\/. Esta herramienta est\u00e1 dirigida a usuarios de atenci\u00f3n m\u00e9dica y para su entrenamiento utilizaron historias cl\u00ednicas con datos sint\u00e9ticos. Por otra parte, los autores explican que los LLM exhiben los mismos sesgos y asociaciones del texto de capacitaci\u00f3n basado en internet, por ejemplo, sesgos contra pa\u00edses, g\u00e9neros y ocupaciones. Adem\u00e1s, los LLM pueden generar informaci\u00f3n err\u00f3nea a trav\u00e9s de las indicaciones o prompts que ingresa el usuario, en caso de ser insuficiente. Es decir, un usuario puede generar resultados enga\u00f1osos, ya que ChatGPT intentar\u00e1 generar informaci\u00f3n que se ajuste a la suposici\u00f3n realizada por el usuario en lugar de preguntar, aclarar o corregir. \u201cA pesar del avance prometedor de los LLM y su sofisticaci\u00f3n en el procesamiento y la generaci\u00f3n del lenguaje natural, nuestras breves pruebas han resaltado la falta de preparaci\u00f3n de los chatbots basados \u200b\u200ben transformadores para su uso como herramienta cl\u00ednica orientada al paciente en su forma actual. Los LLM tienen riesgos relacionados con las asociaciones y los sesgos de sus datos de entrenamiento, as\u00ed como la propensi\u00f3n a generar resultados infieles o f\u00e1cticamente incorrectos\u201d, concluyen los autores. Consulta el art\u00edculo completo en el siguiente enlace: https:\/\/www.frontiersin.org\/articles\/10.3389\/fdgth.2023.1161098\/full BIBLIOGRAF\u00cdA FRONTIERS IN https:\/\/www.frontiersin.org\/articles\/10.3389\/fdgth.2023.1161098\/full<\/p>","protected":false},"author":1,"featured_media":39364,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[156,160],"tags":[145],"class_list":["post-39362","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-big-data","category-noticias","tag-noticias"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts\/39362","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/comments?post=39362"}],"version-history":[{"count":0,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts\/39362\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/media\/39364"}],"wp:attachment":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/media?parent=39362"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/categories?post=39362"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/tags?post=39362"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}