La OMS publica orientaciones sobre la ética y la gobernanza de la IA para grandes modelos multimodales

La Organización Mundial de la Salud (OMS) ha publicado nuevas orientaciones sobre la ética y la gobernanza de los grandes modelos multimodales, un tipo de tecnología de inteligencia artificial (IA) generativa en plena expansión y con varias aplicaciones en la atención de salud.

Las orientaciones incluyen más de 40 recomendaciones para la consideración de los gobiernos, las empresas tecnológicas y los proveedores de atención de salud con el fin de garantizar el uso adecuado de los grandes modelos multimodales en la promoción y protección de la salud de las poblaciones.

Los grandes modelos multimodales pueden aceptar más de un tipo de entrada de datos, como textos, vídeos e imágenes, y generan diversos productos que no están limitados al tipo de datos introducidos. También imitan de manera excepcional la comunicación humana y tienen capacidad para desempeñar tareas para las que no se les ha programado de manera específica. Estos modelos se han adoptado más rápidamente que ninguna otra aplicación destinada al público general y varias plataformas –como ChatGPT, Bard y Bert– pasaron a formar parte del imaginario colectivo en 2023.

"Las tecnologías de IA generativa tienen el potencial de mejorar la atención de salud, pero esto solo es posible si quienes las desarrollan, regulan y utilizan identifican los riesgos asociados y los tienen en cuenta" - Dr. Jeremy Farrar, Director Científico de la OMS

"Las tecnologías de IA generativa tienen el potencial de mejorar la atención de salud, pero esto solo es posible si quienes las desarrollan, regulan y utilizan identifican los riesgos asociados y los tienen en cuenta", declaró el Dr. Jeremy Farrar, Director Científico de la OMS, añadiendo que "necesitamos información transparente y políticas para gestionar el diseño, desarrollo y uso de los grandes modelos multimodales para mejorar los resultados de salud y superar las inequidades persistentes en materia de salud".

Posibles beneficios y riesgos

En las nuevas orientaciones de la OMS se describen cinco aplicaciones generales de los grandes modelos multimodales en la salud:

1. Diagnóstico y atención clínica, como dar respuesta a las preguntas escritas de los pacientes;
2. Uso guiado por el paciente, como la investigación sobre los síntomas y el tratamiento;
3. Tareas administrativas y de oficina, como documentar y resumir las visitas de los pacientes en los registros de salud electrónicos;
4. Formación de personal médico y de enfermería, por ejemplo para que los estudiantes puedan simular visitas con pacientes;  y
5. Investigación científica y desarrollo de medicamentos, incluida la identificación de compuestos nuevos.

Si bien los grandes modelos multimodales comienzan a emplearse para fines médicos concretos, se ha documentado también el riesgo de que emitan declaraciones falsas, inexactas, sesgadas o incompletas, lo que podría resultar perjudicial si se utiliza esta información para tomar decisiones de salud. Además, puede que los grandes modelos multimodales estén entrenados con información de baja calidad o con sesgos, por ejemplo vinculados a la raza, la etnia, la ascendencia familiar, el sexo, la identidad de género o la edad.

En las orientaciones también se detallan riesgos más generales para los sistemas de salud, como la accesibilidad y la asequibilidad de los grandes modelos multimodales con mejor desempeño. Los grandes modelos multimodales también pueden fomentar el «sesgo de automatización» en los profesionales de la salud y los pacientes, ya sea debido a que se pasan por alto errores que, de otro modo, se podrían haber detectado o porque se delegan indebidamente decisiones difíciles a un gran modelo multimodal. Estos modelos, al igual que otras formas de IA, también son vulnerables a los riesgos para la ciberseguridad que podrían poner en peligro la información de los pacientes o la fiabilidad de los algoritmos y la prestación de atención de salud en sentido general.

Para crear grandes modelos multimodales que sean seguros y eficaces, la OMS subraya la necesidad de que las diversas partes interesadas (gobiernos, empresas tecnológicas, proveedores de atención de salud, pacientes y la sociedad civil) participen en todas las etapas del desarrollo y el despliegue de estas tecnologías, incluidas su supervisión y regulación.

«Los gobiernos de todos los países deben liderar de forma cooperativa los esfuerzos para regular de manera eficaz el desarrollo y el uso de las tecnologías de IA, como los grandes modelos multimodales», dijo el Dr. Alain Labrique, Director de Salud Digital e Innovación en la División Científica en la OMS.

Principales recomendaciones

Las nuevas orientaciones de la OMS incluyen recomendaciones para los gobiernos, que son los principales responsables de establecer las normas para el desarrollo y el despliegue de los grandes modelos multimodales, así como de su integración y uso con fines médicos y de salud pública. Por ejemplo, los gobiernos deben:

- Financiar o poner en marcha infraestructuras no lucrativas o públicas –como  la potencia computacional y los conjuntos públicos de datos– que sean accesibles para los desarrolladores de los sectores público, privado y no lucrativo, lo que requiere que los usuarios se adhieran a sus principios y valores éticos a cambio de obtener acceso.

- Utilizar leyes, políticas y reglamentaciones para garantizar que los grandes modelos multimodales y las aplicaciones que se emplean en la atención de salud y en la medicina, independientemente del riesgo o el beneficio asociado con el uso de tecnología de IA, cumplan las obligaciones éticas y las normas de derechos humanos que afecten a, por ejemplo, la dignidad, autonomía o privacidad de una persona.

- Designar un organismo regulador, existente o de nueva creación, para evaluar y aprobar los grandes modelos multimodales y las aplicaciones de su uso en atención de salud o medicina, según los recursos disponibles.

- Introducir auditorías y evaluaciones del impacto obligatorias, realizadas por terceras partes independientes y en las que se incluyan la protección de datos y los derechos humanos, cuando una de esas tecnologías se despliegue a gran escala. Las auditorías y las evaluaciones del impacto deben publicarse e incluir los resultados e impactos desglosados por tipo de usuario, por ejemplo por edad, raza o discapacidad.

Las orientaciones también incluyen las siguientes recomendaciones básicas para los desarrolladores de los grandes modelos multimodales, quienes deben asegurarse de que:

- Los grandes modelos multimodales no están diseñados exclusivamente por científicos e ingenieros. Los usuarios potenciales y todas las partes interesadas directas e indirectas, incluidos los proveedores de servicios médicos, los investigadores científicos, los profesionales de la atención de salud y los pacientes, deben participar en el proceso desde las etapas más tempranas del desarrollo de la IA de manera estructurada, inclusiva y transparente, y tener la oportunidad de plantear dilemas éticos, expresar sus preocupaciones y aportar información para la aplicación de la IA que se esté evaluando.

- Los grandes modelos multimodales están diseñados para desempeñar tareas muy definidas con la precisión y fiabilidad necesarias para mejorar la capacidad de los sistemas de salud y promover los intereses de los pacientes. Los desarrolladores también deben ser capaces de predecir y comprender los posibles resultados secundarios.