DigitalES avisa de que el paso a una IA "que actúa" multiplica las oportunidades, pero exige más seguridad

Archivo - El nuevo director general de DigitalES, Miguel Sánchez Galindo

- DIGITALES - Archivo

MADRID 23 Sep. (EUROPA PRESS) -

El director general la patronal de empresas de telecomunicaciones y digitalización en España, DigitalES, Miguel Sánchez Galindo, ha advertido de que el paso de una inteligencia artificial (IA) que se limita a asistir a otra capaz de actuar directamente "multiplica las oportunidades" en el ámbito empresarial, si bien exige "reforzar los mecanismos de control, seguridad y responsabilidad" con los que se despliega.

"Estamos pasando de una IA que asiste a una IA que actúa. Ese cambio multiplica las oportunidades, pero también exige reforzar los mecanismos de control, seguridad y responsabilidad con los que las organizaciones la despliegan", ha señalado este miércoles.

La asociación ha presentado en la sede de la CEOE dos nuevos informes que analizan esta transformación: uno centrado en el potencial operativo de la IA agéntica y otro enfocado en los nuevos retos de ciberseguridad, gobernanza y supervisión que acompañan a estos sistemas cada vez más autónomos.

Ambos documentos sitúan a la IA agéntica --sistemas capaces de interpretar objetivos, tomar decisiones y ejecutar acciones sin intervención humana constante-- como el principal cambio de paradigma tras la expansión de los asistentes y copilotos.

El informe advierte de que, al operar sobre sistemas reales y manejar información sensible, estos agentes actúan como "identidades privilegiadas" y deben gobernarse con límites claros, trazabilidad y supervisión.

Esta llamada a reforzar la gobernanza se produce, además, en un contexto en el que tanto los desarrolladores de los grandes modelos como el propio Gobierno, a través de su plan 'IA360' presentado esta semana, han subrayado la necesidad de elevar las garantías de seguridad.

DE RESPONDER A ACTUAR: MÁS EFICIENCIA Y CASOS REALES

A diferencia de las herramientas convencionales, un agente de IA puede recibir un objetivo, analizar información, tomar decisiones e interactuar con distintas aplicaciones para ejecutar acciones en procesos reales de negocio.

Según el informe 'Agentes IA: el siguiente paso en la transformación empresarial', la implantación de estas soluciones permite resolver en cuestión de dos a cuatro horas trámites que tradicionalmente requerían entre tres y cinco días.

Asimismo, en entornos de alto volumen, el coste por transacción se reduce entre un 40% y un 70%, mientras que el tiempo dedicado a estructurar manualmente información no estructurada (documentos, correos, audios o vídeos) se reduce entre un 50% y un 70%.

Estas herramientas permiten además absorber picos de demanda de hasta un 300% sin necesidad de aumentar la plantilla de forma proporcional.

El estudio de DigitalES recoge nueve casos de uso reales en sectores tan diversos como la banca, las telecomunicaciones, la industria, la administración pública, las pymes y los servicios profesionales.

NO TODOS LOS PROCESOS NECESITAN AGENTES

Sin embargo, desde la patronal aclaran que estos resultados no son automáticos ni convierten a la IA agéntica en una solución universal.

Su éxito depende de seleccionar adecuadamente los casos de uso, contar con datos fiables, integrar bien los sistemas y fijar límites estrictos de autonomía.

En este sentido, DigitalES defiende que las decisiones de alto impacto legal, financiero o reputacional, los escenarios impredecibles o las interacciones que requieren juicio y empatía deben mantener la intervención humana como elemento central.

Por ello, la patronal propone una adopción progresiva que evalúe si la IA agéntica aporta más valor que una automatización tradicional antes de definir su nivel de autonomía.

MÁS AUTONOMÍA, NUEVAS EXIGENCIAS DE CIBERSEGURIDAD

La segunda edición del informe 'Inteligencia Artificial y Ciberseguridad' advierte de que un fallo o ataque sobre un agente no se limita a una respuesta errónea, sino que puede trasladarse directamente a los datos, aplicaciones y procesos de la organización.

Entre los principales riesgos identificados destacan el exceso de permisos, la manipulación del comportamiento del agente, el acceso no controlado a otros sistemas y la propagación automática de errores en cadena.

Para mitigar estos peligros, DigitalES sostiene que la ciberseguridad debe ir más allá de las infraestructuras para proteger también los datos, modelos, integraciones y decisiones automatizadas.

En conclusión, la patronal remarca que la innovación y la confianza deben avanzar de forma conjunta, garantizando que las personas permanezcan en los puntos críticos de decisión para escalar la tecnología de manera segura.