Los modelos de IA utilizados para apoyar o realizar tareas vinculadas a la salud mental deben cumplir con ciertos principios.
Los problemas de salud mental son un tema primordial a nivel mundial, pues según un estudio publicado en The Lancet, una de cada dos personas desarrollará un problema de salud mental en algún momento de su vida. A pesar de la prevalencia de estos trastornos, muy pocas personas tienen acceso a una atención de salud mental de calidad. En este sentido, la Dra. Megan Jones Bell, psicóloga y directora clínica de consumidores y salud mental en Google, explica que la brecha en la demanda y la oferta propicia una desigualdad en el acceso a servicios psicológicos o psiquiátricos.
Google, una de las compañías que ha avanzado y compartido el potencial de la inteligencia artificial (IA) reconoce la necesidad de abordar la problemática del acceso a educación, evaluación e intervención. Un ejemplo del uso de la IA en salud mental, es que los modelos pueden generar recuerdos que ayuden a cumplir tareas como la capacitación de proveedores, la realización de diagnósticos y la implementación de intervenciones.
La Dra. Jones Bell, participó en una investigación publicada en JMIR Mental Health, titulada “Las oportunidades y los riesgos de los modelos de lenguaje de gran tamaño en la salud mental”, en el cual aborda cuatro formas clave de pensar en la creación de una IA que pueda apoyar la salud mental de las personas en todo el mundo.
- Centrarse en el desarrollo responsable
Según Google, los investigadores y desarrolladores deben diseñar y probar los modelos de IA de manera ética y responsable. De tal forma que los modelos solo realicen tareas clínicas cuando puedan manejar un nivel de precisión al nivel de los profesionales humanos. Para alcanzar estos niveles de confiabilidad y validez, los modelos también deben ajustarse a la salud mental. Por ejemplo, si la IA va a responder las preguntas de salud mental de las personas o apoyar a los terapeutas en la prestación de tratamientos, el modelo debe ser seguro, confiable y preciso.
- Fomentar la equidad en la salud mental
Es necesario entrenar modelos que reflejen la diversidad de las personas que van a interactuar con los modelos de IA, de lo contrario es posible que se produzcan y reproduzcan modelos que no funcionen de la misma forma con diferentes grupos de personas. También es necesario utilizar marcos que evalúen el desempeño generado por la IA para problemas relacionados con la equidad.
- Proteger la privacidad y la seguridad
Este aspecto es primordial en cualquier tema relacionado con la IA, especialmente cuando está relacionada con la salud de los usuarios. Cualquier persona que utilice una IA por razones de salud mental debe proporcionar su consentimiento informado. Los desarrolladores de estos modelos, debido a la sensibilidad de la información, deben cumplir con diversas reglas y leyes de proyección de datos pertinentes en su región.
- Mantenga a la gente informada
Los desarrolladores deben proporcionar su supervisión y retroalimentación en cada etapa del diseño e implementación de una IA que se enfoque en apoyar la salud mental. La participación humana puede ayudar a mejorar la precisión de los modelos de IA y a descubrir respuestas potencialmente problemáticas, por ejemplo. Este tipo de enfoque permiten identificar y corregir sesgos, para garantizar que los contenidos generados por la IA sean inclusivos y culturalmente apropiado para sus usuarios.
“Sabemos que la tecnología tiene sus límites. Sin embargo, creo que, teniendo en cuenta estas salvaguardas, la IA puede contribuir a cerrar la brecha cada vez mayor que existe entre la necesidad de servicios de salud mental y la disponibilidad de información y proveedores de salud mental de calidad”, concluyó la Dra. Jones Bell
