Expertos abordan en Barcelona una IA sostenible y segura y los retos de la protección de datos

BARCELONA, 20 Oct. (EUROPA PRESS) -

La experta en datos e IA para el medio ambiente Pooja Munshi y la directora de la Autoritat Catalana de Protecció de Dades (Apdcat), Meritxell Borràs, han abordado este martes la importancia de desarrollar una IA que sea sostenible y de que su desarrollo no haga peligrar la protección de datos y de los derechos fundamentales.

Lo han hecho durante la primera jornada de la 11 edición del AI Congress del Centre of Innovation for Data Tech and Artificial Intelligence (CIDAI), organizado por Eurecat en el Auditori L'Illa de Barcelona hasta el jueves.

Munshi, que ha trabajado en el programa medioambiental de las Naciones Unidas, ha explicado que muchos de los proyectos de IA se abandonan tras la prueba de concepto y que muchas empresas no reportan un impacto positivo en su EBIT tras la adopción, por lo que ha subrayado la importancia de conseguir que la IA sea sostenible desde el punto de vista tanto medioambiental como del negocio.

Para ello ha detallado 3 principios sobre los que construir la IA, que son escoger el tamaño adecuado de los modelos que necesita el problema que se está intentando resolver ya que "más IA no quiere decir mejor IA"; trabajar los datos de forma diferenciada según a quién vayan dirigidos, como científicos o políticos, y construir un ecosistema vinculado con otros actores para reducir el volumen de inversiones necesario e impulsar la eficiencia.

Borràs, por su parte, ha recordado que los agentes de IA pueden tener autorización para acceder a información interna, revisar y responder correos o incluso realizar pagos, ante lo que ha alertado de las afectaciones que puede tener su uso tanto en la protección de datos como de los derechos fundamentales.

Ha abogado por la implementación de una estrategia coordinada, basada en la gobernanza, la responsabilidad y la transparencia, y un sistema integral que explicite la base jurídica de los agentes, delimite las actuaciones que pueden llevar a cabo, implemente controles de acceso y establezca mecanismos de supervisión humana.

MOVILIDAD

La jornada también ha contado con una mesa redonda en la que han participado el 'head of Research on Computational Social Science' de Eurecat, Julià Vicens; el 'Chief Technology Officer' de AMB Informació i Serveis, Ramon Pruneda; el director de Inovación en espacios de datos en i2CAT, Jim Ahtes, y la directora de sistemas e innovación en ATM, Carme Fabregas, que han debatido sobre el uso de los datos en la gestión de la movilidad y los retos de los nuevos espacios de datos federados impulsados en la Unión Europea (UE).

Ahtes ha afirmado que la movilidad presenta retos y oportunidades comunes en los diferentes países de la UE, pero ha recordado que antes de conseguir un modelo de IA que sea capaz de analizar y resolver estos problemas, los datos son el punto "crítico" para generar las predicciones y deben prepararse.

En esta línea, Pruneda se ha referido a los sistemas de datos impulsados por la UE en ámbitos como la movilidad, unas estructuras federadas que permiten a los diferentes actores implicados "hablar el mismo idioma" y compartir y utilizar datos de manera interoperable, segura y respetando la soberanía.

Ha alertado, sin embargo, que el mayor reto actual de estos sistemas es el coste, que ha cifrado en alrededor de 300.000 euros al año, y ha reivindicado la necesidad de que estos generen valor y de que, en las primeras fases, cuenten con el apoyo de las administraciones públicas.

POTENCIAL Y TAREAS COMPLEJAS

Vicens ha explicado que el sector de la movilidad ha utilizado tradicionalmente la IA discriminativa para resolver problemas operativos como informar de la hora de llegada de los transportes, pero ha destacado el potencial de la IA generativa y de los agentes en tareas más complejas, y que pueden incluso permitir hacer simulaciones de situaciones que aún no han sucedido.

Finalmente, Fabregas ha valorado también el papel humano de la IA más allá de las infraestructuras, especialmente en un ecosistema fragmentado y con tantos datos como el de la ATM, y ha destacado su uso a la hora de tomar decisiones más planificadas y optimizadas, la posibilidad de evaluar modelos de planificación y la creación de nuevos modelos de gestión de la movilidad.