El ICAM inaugura la XIII Cumbre de Mujeres Juristas abordando los riesgos de desigualdad por la inteligencia artificial

MADRID 5 Mar. (EUROPA PRESS) -

La XIII Cumbre de Mujeres Juristas del Colegio de la Abogacía de Madrid (ICAM) ha arrancado este jueves en el Congreso de los Diputados con un llamamiento a buscar soluciones jurídicas que garanticen que "el avance de la inteligencia artificial no reproduzca desigualdades históricas ni erosione el principio de igualdad", según ha informado la institución en un comunicado.

El encuentro, que reúne a más de 200 juristas, especialistas y responsables institucionales, ha sido inaugurado por el decano del ICAM, Eugenio Ribón, y la vicedecana, Isabel Winkels. La conferencia inaugural ha estado a cargo de la filósofa Amelia Valcárcel, quien ha advertido del riesgo de que los sistemas de inteligencia artificial reproduzcan "sesgos misóginos invisibles".

Ribón ha subrayado en su intervención que la inteligencia artificial ya interviene en decisiones con efectos directos sobre derechos fundamentales y ha alertado de que estos sistemas pueden reproducir desigualdades estructurales si no se someten a controles jurídicos efectivos. "Hablar hoy de inteligencia artificial es hablar también de poder", ha afirmado, advirtiendo de que los algoritmos no son neutrales y pueden ocultar la discriminación bajo una apariencia de objetividad técnica.

A su juicio, estos riesgos obligan a reforzar "los mecanismos de control jurídico sobre los sistemas automatizados" y a avanzar hacia marcos normativos que garanticen transparencia, responsabilidad y supervisión efectiva.

Por su parte, la vicedecana del ICAM ha incidido en que el desafío no reside únicamente en el desarrollo tecnológico, sino en cómo se diseñan, entrenan y utilizan los sistemas de inteligencia artificial. "La inteligencia artificial no es buena ni mala en abstracto. Lo decisivo es dónde se aplica, con qué datos, bajo qué incentivos y con qué controles", ha señalado.

Winkels ha advertido de que los modelos algorítmicos pueden reforzar desigualdades si se entrenan con datos procedentes de sociedades que ya las contienen. También ha destacado la falta de diversidad en el ámbito tecnológico, recordando que las mujeres representan solo el 19,5% del empleo en tecnologías de la información en la Unión Europea, lo que incrementa el riesgo de "puntos ciegos" en el diseño de los sistemas.

La vicedecana ha defendido el papel de la abogacía como garante de los derechos en este nuevo entorno y ha insistido en que la regulación, la transparencia y el control jurídico son imprescindibles. En este sentido, ha recordado que el Reglamento de Inteligencia Artificial (AI Act) de la Unión Europea establece un marco basado en niveles de riesgo, y ha advertido de que su eficacia dependerá de la capacidad de las instituciones para supervisar su aplicación.

Winkels ha señalado además que la Ley 15/2022, integral para la igualdad de trato y la no discriminación, ya incorpora la inteligencia artificial en su ámbito de aplicación y obliga a las administraciones públicas a promover la transparencia y la rendición de cuentas en la toma de decisiones automatizada.

La filósofa Amelia Valcárcel ha cerrado su intervención recordando que "la igualdad no pertenece al orden espontáneo de las cosas" y ha llamado la atención sobre los "sesgos misóginos invisibles" que pueden reproducir los sistemas de inteligencia artificial.