Los modelos multimodales son un tipo de IA generativa que permite, no solo la entrada de texto, sino también de datos visuales, de audio y más.
La Organización Mundial de la Salud (OMS), anunció nuevos lineamientos sobre grandes modelos multimodales o large multi-modal models (LMMs). Los LMMs son un tipo de tecnología de inteligencia artificial (IA) generativa que está creciendo de manera exponencial, además tiene diversas aplicaciones en la atención médica y en la salud en general. Los nuevos lineamientos de la OMS incluyen más de 40 recomendaciones para gobiernos, compañías de tecnología y proveedores de atención médica, para asegurar el uso apropiado de LMMs y la promoción de la protección de la salud de la población.
Los LMMs son modelos de IA capaces de procesar y comprender diversas formas de datos como audio, imágenes y videos, datos de sensores físicos, entre otros. Esto los diferencia de los modelos de lenguaje tradicionales que se centran especialmente en entradas de texto. En este sentido, los datos multimodales se refieren a los datos visuales, de audio y sensoriales. Los LMM representan un gran avance de la IA para la investigación y tiene diversas aplicaciones potenciales. Por ejemplo, los LMM en la atención médica pueden utilizarse para ayudar a diagnosticar enfermedades o para desarrollar nuevos tratamientos.
Actualmente existen diversos LMMs como GPT-4 de OpenAI o Gemini de Google, por lo que la OMS conociendo su potencial presento estas nuevas recomendaciones. “Las tecnologías de IA generativa tienen el potencial de mejorar la atención sanitaria, pero sólo si quienes las desarrollan, regulan y utilizan estas tecnologías identifican y tienen plenamente en cuenta los riesgos asociados”, afirmó el Dr. Jeremy Farrar, científico jefe de la OMS. Además, el Dr. Farrar habló la importancia de información y políticas transparentes para gestionar el diseño, desarrollo y uso de los LMM especialmente para mejorar los resultados de salud y superar las desigualdades sanitarias.
Los nuevos lineamientos presentados por la OMS describen cinco aplicaciones de los LMM para la salud:
- Diagnóstico y atención clínica, como responder a las consultas escritas de los pacientes;
- Uso guiado por el paciente, por ejemplo, para investigar síntomas y tratamientos;
- Tareas administrativas y de oficina, como documentar y resumir las visitas de pacientes dentro de registros médicos electrónicos;
- Educación médica y de enfermería, que incluye proporcionar a los alumnos encuentros simulados con pacientes, y;
- Investigación científica y desarrollo de fármacos, incluida la identificación de nuevos compuestos.
A pesar de que los LMM ya han comenzado a utilizarse con fines específicos relacionados con la salud, la OMS alerta sobre diversos riesgos documentados de producir información y datos falsos, inexactos, con sesgos o incompletos. De igual manera, el mal uso de los LMM puede derivar en entrenamientos de estos modelos basados con datos sesgados por raza, etnia, ascendencia, sexo o identidad de género.
La OMS destaca que para crear LMM seguros y eficaces es necesaria la colaboración activa de las partes interesadas como gobiernos, empresas, proveedores de atención médica y la sociedad civil, en cada etapa del desarrollo e implementación de estas tecnologías.
“Los gobiernos de todos los países deben liderar de manera cooperativa los esfuerzos para regular eficazmente el desarrollo y el uso de tecnologías de inteligencia artificial, como los LMM”, dijo el Dr. Alain Labrique, director de Salud Digital e Innovación de la División de Ciencias de la OMS.
En cuanto a las recomendaciones clave, la OMS destaca que los gobiernos son los principales actores que deben establecer estándares para el desarrollo y despliegue de los LMM, así como guías para su integración con fines médicos o a beneficio de la salud pública.
Algunas de las recomendaciones para desarrolladores de LLM y gobiernos son las siguientes:
- Los desarrolladores que diseñen un LMM que vaya a utilizarse o pueda utilizarse en la atención sanitaria, la investigación científica o la medicina deberán tener en cuenta la certificación ética o la formación de los programadores.
- Los gobiernos deben contar con leyes y reglamentos sólidos y de obligado cumplimiento en materia de protección de datos para el uso de datos sanitarios que se apliquen al desarrollo de LMM. Las leyes deben proteger eficazmente los derechos de las personas y darles las herramientas que necesitan para proteger sus derechos, incluido el derecho a un consentimiento informado significativo.
- Los desarrolladores deben tomar todas las medidas posibles para reducir el consumo de energía (por ejemplo, mejorar la eficiencia energética de un modelo).
- Los gobiernos deberían introducir auditorías de las fases iniciales de desarrollo de los modelos de fundación.
Puedes consultar el documento completo (en inglés), en el siguiente enlace: https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
