Investigadores de la UJA estudiarán cómo garantizar una inteligencia artificial "confiable" en el ámbito biosanitario

JAÉN 27 Ene. (EUROPA PRESS) -

Investigadores de la Universidad de Jaén (UJA) estudiarán cómo garantizar "una inteligencia artificial (IA) confiable en el ámbito biosanitario".

En concreto, el grupo de investigación Sinai (Sistemas Inteligentes de Acceso a la Información), "formará parte del consorcio que desarrollará la próxima generación de modelos de lenguaje aplicados a la salud", según ha informado este martes la institución académica.

Su proyecto, denominado Veritas-H (Verificar y Garantizar la Confianza en los LLM en el ámbito Biosanitario), ha sido seleccionado en la convocatoria de Proyectos en el Ámbito de la Inteligencia Artificial 2025 del Gobierno de España.

Este proyecto del grupo Sinai --miembro destacado del Centro de Estudios Avanzados en Tecnologías de la Información y la Comunicación (Ceatic), ha sido "el único proyecto de la Universidad de Jaén en conseguir financiación en este competitivo programa".

El proyecto Veritas-H, liderado por L. Alfonso Ureña y Eugenio Martinez, se encuadra en la iniciativa coordinada 'HumanAlze', que busca incorporar valores humanos a la inteligencia artificial.

Para lograr este ambicioso objetivo, el grupo Sinai trabajará en consorcio con instituciones de primer nivel científico: la Universidad de Santiago de Compostela, la Universidad del País Vasco, la Universidad de Alicante, la Universidad Nacional de Educación a Distancia y el Barcelona Supercomputing Center.

La incorporación de la IA en actividades humanas críticas hace imperativa la integración de valores éticos. En este sentido, las líneas de trabajo fundamentales de Veritas-H lideradas desde la UJA se centrarán en la gobernanza de los datos.

Se trata de un aspecto crucial para asegurar que los modelos de lenguaje no induzcan a comportamientos ilícitos ni vulneren la privacidad de las personas, especialmente al tratar datos sensibles de pacientes.

Igualmente, uno de los objetivos primordiales es la salvaguarda de la robustez; es decir, asegurar que la inteligencia artificial genere información factual y verídica, evitando errores que en el ámbito sanitario podrían tener consecuencias graves.

El sector médico destaca por su elevada exigencia y requiere servicios de IA que sean interpretables y confiables tanto para los profesionales sanitarios como para los pacientes. Por ello, Verita-H tiene la encomienda específica de adaptar y evaluar modelos de lenguaje para tareas propias del dominio biomédico.

"Con este proyecto, la Universidad de Jaén se posiciona a la vanguardia de la investigación en Inteligencia Artificial Confiable, contribuyendo no solo al avance científico, sino al impacto social y económico de tecnologías que respetan los derechos y la privacidad de los ciudadanos", ha destacado.