ITI trabaja en varios proyectos para ayudar a empresas a innovar con IA, pero con control, responsabilidad y seguridad

VALENCIA, 25 Jun. (EUROPA PRESS) -

ITI, centro tecnológico especializado en TIC, trabaja en varios proyectos para ayudar a las empresas a seguir avanzando en la innovación basada en IA, pero con control, responsabilidad y seguridad ya que se entra un nueva fase en la que no solo hay que aplicarla sino también "gobernarla" y convertirla en una ventaja competitiva.

Así, el centro trabaja en proyectos como eXplAIn y CONFIA, dos iniciativas de I+D, financiadas por el Instituto Valenciano de Competitividad Empresarial (IVACE+i) y la Unión Europea, que abordan dimensiones complementarias de una misma necesidad: avanzar hacia una IA más comprensible, segura y confiable para facilitar su adopción en el tejido empresarial, según ha informado en un comunicado el centro.

Mientras eXplAIn aporta capacidades para entender y supervisar los sistemas inteligentes, CONFIA refuerza la privacidad, la identidad verificable y el control sobre los datos que alimentan muchos de estos sistemas, según ha detallado ITI que ha destacado que el debate de la IA va mucho más allá de quién dispone de la tecnología.

La cuestión ahora es quién será capaz de convertirla en una ventaja competitiva y esto puede abrir una nueva brecha digital entre territorios, empresas y sociedades que sepan aprovecharla con criterio y aquellas que queden relegadas a un papel de meros consumidores, según las mismas fuentes.

Ante este nuevo paradigma, las distintas regiones adoptan posturas muy diferentes. Mientras Estados Unidos trata sus modelos como activos estratégicos y limita el acceso a determinadas capacidades por razones de seguridad nacional y ciberseguridad, Europa avanza hacia un marco regulatorio que sitúa la transparencia, la seguridad y la protección de derechos en el centro del despliegue tecnológico. Y esta discusión va más allá del ámbito geopolítico y normativo. También se traslada de forma directa a la relación entre empresas, clientes y ciudadanía.

El Reglamento Europeo de Inteligencia Artificial UE 2024/1689 (AI Act) exige, entre otras medidas, que las decisiones tomadas con ayuda de modelos de IA que afecten a personas sean explicables, por lo que el reto para las organizaciones no es solo utilizar la IA, sino explicar a sus clientes cómo la usan, con qué objetivos, bajo qué supervisión y con qué garantías.

DEMOSTRAR USO SEGURO Y RESPONSABLE

El uso adecuado y la confiabilidad dejan de ser, por lo tanto, conceptos técnicos para convertirse en una condición de confianza. En un contexto en el que la IA empieza a intervenir en procesos de atención al cliente, análisis de información, toma de decisiones o generación de servicios, las empresas necesitan poder justificar cómo funcionan sus sistemas inteligentes y demostrar que su uso es seguro, responsable y alineado con la regulación.

Con el proyecto eXplAIn se busca trasladar cómo funcionan los sistemas inteligentes y por qué ofrecen determinados resultados, lo que es relevante en sectores críticos como la salud, la industria o la energía, donde las decisiones apoyadas por IA pueden afectar directamente a personas, procesos o sistemas productivos.

Así, con esta inicitiva se trata de crear herramientas para interpretar mejor el comportamiento de los modelos de IA y hacerlos más confiables, en línea con las exigencias del AI Act y del MDR, la regulación europea sobre IA y productos sanitarios.

El proyecto trabaja en técnicas que ayudan a explicar los resultados de la IA, identificar parámetros clave, analizar la estabilidad e incertidumbre de los modelos y visualizar qué elementos influyen más en una predicción, por ejemplo, mediante mapas de calor en el análisis de imágenes. Además, contempla métricas para evaluar la calidad de estas explicaciones y el diseño de una "tarjeta modelo" que describa de forma clara cómo funciona cada sistema.

Con ello, eXplAIn busca que la transparencia forme parte del ciclo de vida de los modelos de IA desde el inicio, facilitando su adopción en entornos reales con mayores garantías.

NO PERDER CONTROL DATOS

A este proyecto se suma CONFIA, que persigue compartir datos sin perder el control ya que las empresas necesitan compartir información, generar sinergias y participar en ecosistemas basados en datos, pero sin perder el control sobre quién accede a ellos, para qué se utilizan y bajo qué condiciones.

Es un proyecto orientado a mejorar la confiabilidad en las transacciones entre proveedores y consumidores de datos, especialmente en el marco de los espacios de datos, considerados una herramienta estratégica para la competitividad empresarial y la autonomía tecnológica europea. El proyecto trabaja con tecnologías de mejora de la privacidad, conocidas como PETs, que permiten realizar comprobaciones sobre los datos sin revelar información protegida, y con técnicas de identidad autosoberana, o SSI, que facilitan compartir únicamente la información estrictamente necesaria.

A través de este enfoque, CONFIA contribuye a reforzar la privacidad, la identidad verificable y el control al compartir información, permitiendo que las empresas aprovechen el valor de los datos sin renunciar a la seguridad ni a la soberanía sobre ellos.

Con esta línea de trabajo, ITI trata de dar respuesta a dos dimensiones complementarias que responden a un mismo desafío: hacer que la IA se integre en las empresas de forma útil, segura y responsable. Es probable que la transparencia tecnológica se convierta en un nuevo factor diferencial de reputación empresarial.