MADRID, 11 Dic. (EUROPA PRESS) -
La Federación de Consumidores y Usuarios (CECU) ha calificado de "decepcionante" el acuerdo provisional sobre la primera legislación del mundo sobre Inteligencia Artificial que alcanzaron el pasado viernes las instituciones de la Unión Europea bajo la Presidencia española del Consejo de la UE.
Precisamente, la organización advierte de que el Reglamento de IA "no protegerá adecuadamente a las personas consumidoras" y lamenta que no se hayan abordado "todos los riesgos que esta tecnología representa" para los usuarios.
Aunque el texto final del Reglamento de IA aún no ha sido publicado y quedan pendientes reuniones técnicas, CECU entiende que tiene "algunos puntos positivos", como la prohibición de la clasificación social, que resultaría, a su juicio, "demasiado degradante y discriminatoria" para las personas consumidoras; o el reconocimiento de ciertos derechos en su favor, como la posibilidad de presentar reclamaciones ante autoridades públicas contra un sistema de IA o de buscar reparación colectiva en caso de daño.
Sin embargo, la organización de consumidores alerta de que la ley presenta "varias lagunas y fallas" desde la perspectiva de protección de las personas consumidoras.
Además, critica que se seguirán permitiendo sistemas de Inteligencia Artificial que puedan identificar y analizar los sentimientos de los consumidores (sistemas de reconocimiento de emociones), lo cual, en su opinión, es "muy preocupante dado que resultan ser muy invasivos y presentan muchas inexactitudes".
Por su parte, el Reglamento de IA se focaliza en gran medida en los sistemas que se consideran de "alto riesgo", dejando básicamente a muchos sistemas de IA "prácticamente sin regulación, como los juguetes integrados con IA o los asistentes virtuales".
SISTEMAS COMO CHATGPT NO ESTARÁN "ADECUADAMENTE REGULADOS"
A su vez, CECU señala que los modelos de IA que se encuentran detrás de sistemas como ChatGPT, que pueden integrarse en una amplia gama de servicios, "no estarán adecuadamente regulados". Por ejemplo, no se exigirá que dichos modelos sean auditados por terceros independientes ni estarán sujetos a requisitos de transparencia suficientes como para permitir el escrutinio público.
Por su parte, CECU incide en que otros reclamos de la sociedad civil "no han sido totalmente atendidos". Así, se han introducido excepciones para permitir el reconocimiento biométrico en espacios de acceso público (en tiempo real y ex post), en contra de la prohibición total que habían recomendado los europarlamentarios el pasado verano, lo cual ha sido denunciado por varias organizaciones de la sociedad civil, "porque este tipo de tecnología podría dar lugar a la vigilancia masiva biométrica generalizada".
Asimismo, CECU lamenta que estaría permitida la auto evaluación de riesgos por parte de los proveedores e implementadores de sistemas de IA, lo que a su juicio "representa un gran debilitamiento de la norma".
Por último, si bien se ha incorporado el requisito de realizar un estudio de impacto de derechos fundamentales, se habría limitado a organismos públicos y entidades privadas que presten servicios de interés general.
"El acuerdo provisional sobre el Reglamento de IA al que se habría arribado el pasado viernes tiene algunos puntos positivos (como la posibilidad de reclamar frente a daños) y otros negativos. Sin embargo, en líneas generales las medidas para proteger a las personas consumidoras son decepcionantes", ha apuntado la experta en derechos digital de CECU, Anabel Arias.
La experta agrega que "no se abordan" suficientemente problemas como las manipulaciones o la discriminación de los sistemas de IA, en tanto muchas cuestiones "dependerán excesivamente la buena voluntad de las empresas, lo que que particularmente en el sector tecnológico no ha venido funcionando".
"Si bien entendemos que aún faltan muchas reuniones técnicas (por lo que sería más bien un éxito político), en general consideramos que el Reglamento de IA debería haber hecho más para proteger a los consumidores", concluye Arias.
