Fiscalía investiga el desnudo con el uso de la IA de 18 menores en un instituto de Almería

ALMERÍA 17 Mar. (EUROPA PRESS) -

La Fiscalía de Almería mantiene abierta una investigación para esclarecer posibles delitos de pornografía infantil generada mediante el uso de inteligencia artificial (IA) que afectaría a un total de 18 menores de un instituto de la provincia a las que se habría desvestido digitalmente con el uso de una aplicación.

Así lo ha trasladado el fiscal delegado provincial de Criminalidad Informática y de Tutela Penal de la Igualdad y Delitos de Odio, David Calvo, en el marco de las Jornadas 'Inteligencia artificial y derechos fundamentales' organizadas por la Guardia Civil en colaboración con la Facultad de Derecho y la Escuela Superior de Ingeniería (ESI) de la UAL.

El fiscal ha abordado la respuesta del derecho penal ante amenazas como las 'deepfakes' o creación de identidades sintéticas que ponen en jaque la veracidad y el honor de las personas que se ven afectadas por estas imágenes ficticias pero que cuenta con un alto grado de aparente realidad.

En esta línea, ha incidido en que en el caso investigado se habría utilizado una aplicación que permite de una manera sencilla el desnudo virtual de las víctimas a partir de fotografías comunes. La herramienta utilizada, empleada esencialmente por hombres, genera unos "3.900 desnudos de mujeres al día", si bien el 90 por ciento de los usuarios también "generan escenas sexuales completas" con ella.

El fiscal ha señalado que este tipo de prácticas puede suponer la comisión de un delito de pornografía infantil virtual cuando se emplean fotos de menores o uno de pornografía en el caso de adultos, siempre que la imagen generada sea de carácter "realista" conforme a la legislación vigente, dado que con las instantáneas obtenidas se vulnera un bien jurídico protegido al igual que si se tratara de escenas reales.

La jornada ha contado también durante la mañana con la intervención de la vicedecana de la Facultad de Derecho, María José Cazorla González, quien ha analizado la gestión del riesgo y el consentimiento en el tratamiento de datos mediante su exposición sobre la defensa de los derechos fundamentales.

LÍMITES ÉTICOS Y LEGALES

El evento ha reunido a expertos de las Fuerzas y Cuerpos de Seguridad del Estado, del ámbito judicial y de la ingeniería para debatir sobre los límites éticos y legales de la tecnología, según ha detallado la UAL en una nota.

La jornada, que se ha desarrollado en modalidad presencial y online, nace con el objetivo de generar confianza en la ciudadanía y analizar el papel esencial de las Fuerzas y Cuerpos de Seguridad del Estado (FCSE) en la aplicación ética de la IA.

Durante el acto de apertura, se ha destacado la necesidad de actualizar conocimientos sobre una tecnología que avanza a gran velocidad, garantizando siempre la seguridad ciudadana y el respeto a la legalidad vigente.

El rector de la UAL, José J. Céspedes, ha destacado que la inteligencia artificial "está suponiendo un cambio radical de paradigma antes, incluso, de que hayamos tomado plena conciencia de ello" puesto que "se ha instalado a velocidad de vértigo" en la vida ordinaria.

"Es necesario regular para evitar consecuencias indeseadas de su uso con fines delictivos y para proteger la privacidad, los derechos fundamentales de las personas y, especialmente, la protección de los más vulnerables, como son los menores", ha estimado.

Por su parte, el coronel de la Guardia Civil de Almería, José Antonio Carvajal, ha apuntado que la llegada de la IA abre un nuevo escenario tecnológico donde "ya no es necesaria la presencia física para actuar en cualquier parte del mundo, lo que obliga a las instituciones a una adaptación constante".

Así, ha valorado el enfoque de las jornadas a la hora de analizar el uso malintencionado de esta tecnología, como los 'deepfakes' o los fraudes de clonación de voz, así como para impulsar "un uso ético y responsable que establezca límites legales claros para proteger la privacidad, la intimidad y el honor de los ciudadanos".

"La IA debe ser una aliada en la prevención e investigación mediante el análisis proactivo de datos y la detección de amenazas, siempre bajo el marco del respeto a los derechos fundamentales", ha estimado.

Por su parte, el subdelegado del Gobierno en Almería, José María Martín, ha llamado a la reflexión sobre "uno de los grandes desafíos de nuestro tiempo". En este sentido, ha destacado la reciente presentación de 'Hodio', una nueva herramienta puesta en marcha por el Gobierno para a afrontar la huella del odio y la polarización.

Según ha explicado, este sistema " permitirá medir y analizar de forma sistemática la presencia y la evolución de los discursos de odio en las redes sociales".

"Debemos ser capaces de medir la 'huella del odio' en el espacio digital para poder combatirlo con mayor eficacia, porque el odio que circula por las redes, alimentado por bots, termina muchas veces contaminando el debate público y deteriorando la convivencia", ha estimado el subdelegado.

La sesión de tarde se centra en la inteligencia predictiva, con un debate sobre las "buenas prácticas" para evitar sesgos algorítmicos durante la investigación criminal. Entre los participantes se encuentran el coordinador del Grado en IA y Ciberseguridad de la UAL, Antonio J. Fernández García, y el teniente coronel de la Guardia Civil y expertos de la Jefatura de Información de la DGGC y del sector privado (Securitas Innovación), José Luis Mayorga Martín.