El supervisor global advierte de que la IA puede amplificar riesgos para el sector financiero

MADRID, 10 Jun. (EUROPA PRESS) -

El Consejo de Estabilidad Financiera (FSB), el supervisor financiero global, considera que la IA tiene la capacidad de transformar profundamente los servicios financieros y los modelos de negocio de las entidades financieras, pero también de amplificar o introducir riesgos para el sector que deben identificarse y gestionarse adecuadamente.

En un informe sobre buenas prácticas para la adopción responsable de la IA, que será sometido a consulta hasta el próximo 22 de julio, la institución señala que la tecnología puede ofrecer simultáneamente oportunidades y riesgos, por lo que insta a las entidades financieras a comprender y mantenerse al día sobre las posibilidades y amenazas relacionadas con la IA, así como a responder con una estrategia y medidas de seguridad adecuadas para gestionar unos riesgos asociados en constante evolución.

Además de los riesgos relacionados con el uso inadecuado o deficiente de la IA, así como las potenciales ciberamenazas o la dependencia de terceros por la concentración de proveedores en la cadena de suministro, el informe del FSB presta atención especial a los riesgos relacionados con la IA agéntica, capaz de actuar de manera autónoma, advirtiendo de que puede llegar a crear o amplificar ciertos riesgos.

Entre estas amenazas vinculadas a la IA agéntica, advierte de la posibilidad de que los agentes de IA pueden realizar acciones autónomas basadas en objetivos predefinidos, así como establecer o modificar dinámicamente sus objetivos en función de lo que aprenden al interactuar con su entorno externo, lo que podría incluso a generar el riesgo de que "realicen acciones ilegales, poco éticas o no autorizadas sin la aprobación o supervisión humana".

En este sentido, la institución internacional avisa de que estas acciones pueden manifestarse únicamente una vez que el agente se implementa en un entorno real y corregirlas o remediarlas puede ser difícil o imposible para los humanos, por lo que, en algunos casos, la monitorización y detección efectiva puede requerir la incorporación de otro agente de IA.

"La adopción responsable de la IA permite a las instituciones financieras aprovechar las oportunidades y los beneficios, minimizando al mismo tiempo los riesgos asociados", señala el documento, donde el FSB propone un conjunto de doce recomendaciones de buenas prácticas para abordar la implementación y el desarrollo responsable de la tecnología.

Entre sus recomendaciones, el FSB subraya la importancia de la gobernanza de la IA en toda la organización, para orientar a la institución financiera en su decisión sobre si adoptar o no una tecnología, cómo hacerlo y a qué escala, destacando el papel del consejo de administración y la alta dirección en la definición del enfoque general y la supervisión para que la adopción de la IA esté alineada con el modelo de negocio, el apetito de riesgo y la estrategia de la institución financiera.

En un segundo bloque de recomendaciones, el supervisor apunta a la importancia de evaluar de forma eficaz y sistemática los riesgos de los casos de uso de IA desde su inicio, la selección de modelos o sistemas de IA apropiados en función de los objetivos, las necesidades operativas y técnicas, así como la necesidad de mantener una gobernanza de datos adecuada.

Por último, las recomendaciones del FSB también señalan la importancia de abordar los riesgos cibernéticos relacionados con la IA, incluyendo la incorporación de escenarios de riesgo cibernético, el intercambio de información relevante con las partes interesadas clave y, cuando corresponda, el uso de herramientas de IA en la gestión de estas ciberamenazas, además de abordar los riesgos derivados del uso de la IA por parte de terceros, con especial atención al rendimiento, la transparencia, la calidad de los datos, los riesgos de la cadena de suministro y de concentración, y la continuidad del negocio.