{"id":36770,"date":"2023-01-24T06:00:00","date_gmt":"2023-01-24T12:00:00","guid":{"rendered":"https:\/\/saluddigital.com\/?p=36770"},"modified":"2025-10-19T23:59:04","modified_gmt":"2025-10-20T05:59:04","slug":"interpretabilidad-y-transparencia-en-la-aplicacion-de-ia-en-salud-mental","status":"publish","type":"post","link":"https:\/\/saluddigital.com\/en\/big-data\/interpretabilidad-y-transparencia-en-la-aplicacion-de-ia-en-salud-mental\/","title":{"rendered":"Interpretabilidad y transparencia en la aplicaci\u00f3n de IA en salud mental"},"content":{"rendered":"
\n\t\t\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Investigadores de la Universidad de Oxford realizaron una revisi\u00f3n de las aplicaciones y herramientas de Inteligencia Artificial utilizadas en la investigaci\u00f3n sobre salud mental y psiquiatr\u00eda.<\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

La literatura acerca de IA en salud ha recurrido al t\u00e9rmino explicabilidad, para determinar diversas caracter\u00edsticas de modelos complejos de IA, sin embargo, este concepto puede variar dependiendo del contexto, por ejemplo, si se intenta explicar un modelo de IA o un modelo de aprendizaje autom\u00e1tico. Por ejemplo, en t\u00e9rminos de investigaci\u00f3n en psiquiatr\u00eda o salud mental, la IA se utiliza para la descripci\u00f3n o descubrimiento o una combinaci\u00f3n de ambas.<\/p>

Debido a la diferencia de significados en el mismo concepto, investigadores de la Universidad de Oxford en Reino Unido, han realizado una propuesta para aproximarse a una definici\u00f3n m\u00e1s concisa. De esta manera, su propuesta se basa en que la explicabilidad se defina por la comprensibilidad en funci\u00f3n de la transparencia e interpretabilidad de un modelo o algoritmo de IA.<\/p>

Para ello aplicaron el marco TIFU (Transparency and Interpretability For Understandability) que involucra los tres conceptos mencionados anteriormente y examinaron su aplicaci\u00f3n a la IA y aprendizaje autom\u00e1tico en la investigaci\u00f3n de salud mental.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Los autores explican que es necesaria la comprensibilidad en los modelos en salud, espec\u00edficamente en psiquiatr\u00eda, \u201cporque los datos que describen los s\u00edndromes, los resultados, los trastornos y los signos\/s\u00edntomas poseen relaciones probabil\u00edsticas entre s\u00ed, al igual que las etiolog\u00edas tentativas y los determinantes sociales y psicol\u00f3gicos multifactoriales de los trastornos\u201d.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t

\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

En este sentido, al desarrollar algoritmos y modelos de tanto de IA como de aprendizaje autom\u00e1tico es necesario garantizar la comprensi\u00f3n de sus entradas, procesos y salidas; para que sean aptos para su implementaci\u00f3n.<\/p>

La transparencia se determina a trav\u00e9s de la obtenci\u00f3n de los datos y la ingenier\u00eda de datos; la interpretabilidad se explica por medio la funci\u00f3n del algoritmo y los procesos computacionales, su estructura, para la interpretaci\u00f3n cl\u00ednica y su presentaci\u00f3n, la cual permite que un operador humano explore relaciones cualitativas en el comportamiento del modelo.<\/p>

\u201cPara que una IA sea confiable, debe ser v\u00e1lida, confiable y comprensible. Para ser comprensible, una IA debe ser transparente e interpretable y esta es una aproximaci\u00f3n operacionalizada para la explicabilidad\u201d, indica el art\u00edculo.<\/p>

Si te interesa conocer m\u00e1s, consulta la revisi\u00f3n completa en el siguiente enlace:<\/p>

https:\/\/www.nature.com\/articles\/s41746-023-00751-9<\/a><\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t

\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/i><\/span>\n\t\t\t\t\t\t\t\t<\/i><\/span>\n\t\t\t\t\t\t\t\t\t\t\t\t\t<\/span>\n\t\t\t\t\t\t\t\t\t\t\t\t BIBLIOGRAPHY<\/a>\n\t\t\t\t\t<\/div>\n\n\t\t\t\t\t

NATURE<\/strong><\/p>

https:\/\/www.nature.com\/articles\/s41746-023-00751-9<\/a><\/p><\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t<\/div>","protected":false},"excerpt":{"rendered":"

Investigadores de la Universidad de Oxford realizaron una revisi\u00f3n de las aplicaciones y herramientas de Inteligencia Artificial utilizadas en la investigaci\u00f3n sobre salud mental y psiquiatr\u00eda. La literatura acerca de IA en salud ha recurrido al t\u00e9rmino explicabilidad, para determinar diversas caracter\u00edsticas de modelos complejos de IA, sin embargo, este concepto puede variar dependiendo del contexto, por ejemplo, si se intenta explicar un modelo de IA o un modelo de aprendizaje autom\u00e1tico. Por ejemplo, en t\u00e9rminos de investigaci\u00f3n en psiquiatr\u00eda o salud mental, la IA se utiliza para la descripci\u00f3n o descubrimiento o una combinaci\u00f3n de ambas. Debido a la diferencia de significados en el mismo concepto, investigadores de la Universidad de Oxford en Reino Unido, han realizado una propuesta para aproximarse a una definici\u00f3n m\u00e1s concisa. De esta manera, su propuesta se basa en que la explicabilidad se defina por la comprensibilidad en funci\u00f3n de la transparencia e interpretabilidad de un modelo o algoritmo de IA. Para ello aplicaron el marco TIFU (Transparency and Interpretability For Understandability) que involucra los tres conceptos mencionados anteriormente y examinaron su aplicaci\u00f3n a la IA y aprendizaje autom\u00e1tico en la investigaci\u00f3n de salud mental. Los autores explican que es necesaria la comprensibilidad en los modelos en salud, espec\u00edficamente en psiquiatr\u00eda, \u201cporque los datos que describen los s\u00edndromes, los resultados, los trastornos y los signos\/s\u00edntomas poseen relaciones probabil\u00edsticas entre s\u00ed, al igual que las etiolog\u00edas tentativas y los determinantes sociales y psicol\u00f3gicos multifactoriales de los trastornos\u201d. En este sentido, al desarrollar algoritmos y modelos de tanto de IA como de aprendizaje autom\u00e1tico es necesario garantizar la comprensi\u00f3n de sus entradas, procesos y salidas; para que sean aptos para su implementaci\u00f3n. La transparencia se determina a trav\u00e9s de la obtenci\u00f3n de los datos y la ingenier\u00eda de datos; la interpretabilidad se explica por medio la funci\u00f3n del algoritmo y los procesos computacionales, su estructura, para la interpretaci\u00f3n cl\u00ednica y su presentaci\u00f3n, la cual permite que un operador humano explore relaciones cualitativas en el comportamiento del modelo. \u201cPara que una IA sea confiable, debe ser v\u00e1lida, confiable y comprensible. Para ser comprensible, una IA debe ser transparente e interpretable y esta es una aproximaci\u00f3n operacionalizada para la explicabilidad\u201d, indica el art\u00edculo. Si te interesa conocer m\u00e1s, consulta la revisi\u00f3n completa en el siguiente enlace: https:\/\/www.nature.com\/articles\/s41746-023-00751-9 BIBLIOGRAF\u00cdA NATURE https:\/\/www.nature.com\/articles\/s41746-023-00751-9<\/p>","protected":false},"author":1,"featured_media":36772,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[156,160],"tags":[145],"class_list":["post-36770","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-big-data","category-noticias","tag-noticias"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts\/36770","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/comments?post=36770"}],"version-history":[{"count":0,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/posts\/36770\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/media\/36772"}],"wp:attachment":[{"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/media?parent=36770"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/categories?post=36770"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/saluddigital.com\/en\/wp-json\/wp\/v2\/tags?post=36770"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}