El Consejo de Transparencia ofrece a las Administraciones Públicas una herramienta para el uso responsable de la IA

SEVILLA 26 Ene. (EUROPA PRESS) -

El Consejo de Transparencia y Protección de Datos de Andalucía ha puesto en funcionamiento la nueva herramienta metodológica diseñada para ayudar a las administraciones públicas andaluzas a implementar sistemas de inteligencia artificial (IA) de manera responsable y conforme a la normativa de protección de datos.

Tal y como ha detallado el citado Consejo en una nota, este proyecto responde a una "necesidad detectada" en la experiencia de supervisión de la autoridad de control, según se desprende de los resultados del Plan de Control e Inspección en el Sector Público Andaluz 2023-2025.

En relación, han valorado que la implantación de sistemas de inteligencia artificial (SIA) en las administraciones avanza "de forma imparable", se extiende progresivamente a más sectores y afecta "con mayor frecuencia a la ciudadanía". En este contexto de "elevada complejidad" para el cumplimiento en protección de datos, es necesario "aunar elementos normativos, tecnológicos, organizativos y procedimentales" y ofrecer una respuesta estructurada "que proporcione un marco de seguridad jurídica para una innovación responsable".

Al hilo, el Consejo ha identificado "varios retos significativos" a los que deben hacer frente los responsables de implantar soluciones basadas en IA que conllevan tratamientos de datos personales, relacionados con el aumento del conocimiento y recursos sobre la materia, con la necesidad de "implementar análisis de riesgos y Evaluaciones de Impacto en la Protección de Datos (EIPD) y de analizar la necesidad y proporcionalidad de los tratamientos a llevar a cabo, y con la importancia de incorporar a los DPD desde el inicio en los proyectos".

Asimismo, el Consejo ha apuntado que la metodología desarrollada funciona como una guía paso a paso que acompaña a los responsables públicos "desde la concepción inicial del proyecto hasta su puesta en funcionamiento", y que se adapta automáticamente al tipo y complejidad de cada proyecto.

Al hilo, han precisado que aplicarán distintos niveles de supervisión, de modo que será diferente el control a un sistema simple de gestión documental frente a otro que tome decisiones sobre la posible adaptación curricular del alumnado o pretenda identificar a personas mayores en situación de soledad no deseada. De esta forma, la metodología "procederá en función del riesgo real, es decir, a mayor impacto potencial, mayor nivel de supervisión, y viceversa".

En concreto, el sistema comienza con unas preguntas claras sobre el tipo de proyecto, los datos que procesará y los colectivos afectados. Con estas respuestas, configura automáticamente qué pasos seguir y qué nivel de verificación es necesario, variando "desde 40 controles para proyectos básicos hasta 161 para sistemas complejos".

Otra característica distintiva, han señalado, es su relación con el proceso de licitación pública. La protección de datos no debe ser algo que se añada al final del proyecto como una carga adicional, sino justo al contrario, puesto que el Consejo ha afirmado que "debe estar integrada desde el primer momento, desde la redacción de los pliegos hasta la recepción del sistema".

De este modo, la herramienta ayuda a identificar "qué requisitos de protección de datos incluir en los pliegos, verificar durante la evaluación de ofertas si los proveedores proponen medidas adecuadas, y supervisar durante el desarrollo que se implementan correctamente las protecciones necesarias".

No obstante, han concretado que, aunque el objetivo principal es facilitar el cumplimiento de la normativa, la metodología "promueve un enfoque de innovación responsable". Al exigir una reflexión sistemática sobre riesgos y medidas de protección, "contribuye al desarrollo de sistemas de IA más robustos y confiables".

Según el Consejo de Transparencia y Protección de Datos de Andalucía, la metodología funciona de forma diferente en función del tipo de proyecto. Por ejemplo, en proyectos de complejidad baja, un ayuntamiento que implemente un 'chatbot' para responder consultas ciudadanas básicas "podría completar el proceso verificando un conjunto reducido de medidas de protección específicas".

En el caso de proyectos de alta complejidad, una administración que desarrolle un sistema de IA para evaluar automáticamente solicitudes de ayudas sociales --que procesa datos sensibles y toma decisiones que afectan significativamente a los ciudadanos-- deberá seguir un proceso más exhaustivo que incluye "evaluación de sesgos algorítmicos, mecanismos de supervisión humana y procedimientos específicos para el ejercicio de derechos".

En contexto, el Consejo comenzó aplicando elemento de la herramienta de forma práctica en las actuaciones inspectoras realizadas en Plan de Control e Inspección y servirá "como referente para la elaboración de futuros planes de control e inspección". Así, la metodología contempla "todos los elementos necesarios para generar las evaluaciones de impacto en protección de datos requeridas por la normativa, reduciendo la carga de redacción manual y asegurando la coherencia de toda la documentación".

En suma, el objetivo es que esta herramienta se convierta "en el estándar de referencia" para el desarrollo responsable de IA en materia de protección de datos en el sector público andaluz, permitiendo que las administraciones "puedan aprovechar todo el potencial de la inteligencia artificial manteniendo las máximas garantías para los derechos de los ciudadanos".