El Gobierno defiende que Fiscalía investigue las redes: "En 11 días hubo 3 millones de fotos de desnudos creados por IA"

   MADRID, 17 (EUROPA PRESS)

   La portavoz del Gobierno y ministra de Inclusión, Seguridad Social y Migraciones, Elma Saiz, ha defendido este martes la necesidad de investigar delitos de violencia sexual en las redes sociales y ha argumentado que Grok generó "en once días 3 millones de fotos de desnudos generados por inteligencia artificial y, muchas de ellas, de menores".

   Así lo ha explicado la portavoz del Ejecutivo en la rueda de prensa posterior a la reunión del Consejo de Ministros, donde ha señalado que este es un "asunto de enorme relevancia" y que "el compromiso de este Gobierno con la defensa de los entornos digitales de los menores es absoluto".

   En este sentido, Elma Saiz ha indicado que, a partir de ahora, el Ministerio de la Presidencia, Justicia y Relaciones con las Cortes solicitará a la Fiscalía General del Estado investigar y, en su caso, perseguir estos posibles delitos de violencia sexual digital en las principales redes sociales".

   "No podemos permitir, a través del algoritmo, que se pueda amplificar o amparar todo esto. Está en juego la seguridad de nuestros hijos, de nuestras hijas, la protección de su imagen, de su intimidad, de su libertad", ha declarado la ministra.

   Preguntada sobre cómo se va a actuar y cómo se puede actuar contra quien crea, contra quien difunde el material y contra la plataforma, la ministra ha respondido que "el compromiso de este Gobierno con la defensa y con generar entornos seguros en redes sociales" a los menores es "firme". "Tenemos un marco de legislación actual que nos permite esa protección, pero lo que hacemos con esta medida es concretarlo aún más", ha señalado.

   Saiz ha agregado que, en virtud del Artículo 8 del Reglamento orgánico del Ministerio Fiscal, "respetando absolutamente la autonomía del órgano", el ministro de Presidencia, Félix Bolaños, "se va a dirigir a la Fiscalía, acompañando un informe de lo que pasa en otros países" del entorno, de cara a que "investigue y, en su caso, tipifique este tipo de acciones".

   En concreto, se solicita al Ministerio Fiscal que, tras oír a la Junta de Fiscales de Sala del Tribunal Supremo, analice e investigue los hechos, ejerza "las acciones penales que estime pertinentes, y se establezcan "criterios de actuación y medidas concretas que permitan a las posibles víctimas y a sus tutores y representantes legales hacer valer sus derechos ante la Fiscalía".

   El Gobierno ha detallado que el informe técnico ha sido elaborado por el Ministerio de la Presidencia, Justicia y Relaciones con las Cortes, el Ministerio para la Transformación Digital y de la Función Pública, y el Ministerio de Juventud e Infancia, que ya había alertado con anterioridad de la afección de estas prácticas a los menores.

   El informe, al que ha tenido acceso Europa Press, advierte de la posible participación de las redes sociales en estas prácticas, ya que "permite su difusión masiva con una velocidad y opacidad que dificultan enormemente la detección y persecución, al tiempo que favorece la articulación de redes que producen, comparten y monetizan estos contenidos".

   El Gobierno argumenta en su informe que "la confluencia entre la IA generativa y las RRSS ha originado un ecosistema de riesgo en el que ha proliferado la promoción y distribución de contenidos sexuales y pornográficos". "También, por desgracia, los que afectan a los menores de edad", añade.

   Además, expone que, según datos de la Comisión Europea, el 98% de los deepfakes son de carácter pornográfico; que en España uno de cada cinco jóvenes afirma haber sufrido la difusión de falsos desnudos suyos creados con IA siendo menores y que un tercio asegura haber sufrido acoso sexual digital durante su infancia, según Save the Children.

    Según ha insistido Elma Saiz, "hay que poner coto y lo que no se puede es que el propio algoritmo amplifique este potencial daño que pueden sufrir" los menores. "Así que ese es el trabajo que ahora se inicia", ha manifestado.

   El propio presidente del Gobierno, Pedro Sánchez, anunciaba esta mañana en su perfil de X que el Consejo de Ministros invocaría "el artículo 8 del Estatuto Orgánico del Ministerio Fiscal". "Estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas", argumentaba el jefe del Ejecutivo, para quien "el Estado no lo puede permitir". "La impunidad de los gigantes debe acabar", ha concluido Sánchez en su mensaje en la red social.

   Para la ministra de Juventud e Infancia, Sira Rego, la decisión supone dar "un paso más para garantizar los derechos de la infancia en RRSS". "En enero, solicitamos a Fiscalía que investigase si X había cometido delitos de pornografía infantil, hoy, activamos en Consejo de Ministros el Art. 8 del Estatuto del Ministerio Fiscal para investigar a las grandes plataformas", ha escrito también Rego en redes sociales.

VULNERACIÓN DE VARIOS ARTÍCULOS DEL CÓDIGO PENAL

   Fuentes del departamento que dirige Sira Rego, la activación del Artículo 8 se produce tras considerar que estos hechos "podrían estar afectando al interés público tutelado por el Ministerio Fiscal" y que supondrían una vulneración de artículos del Código Penal como 189.1.a (elaboración de material pornográfico utilizando a menores) y 189.1.b (producción, venta, distribución, exhibición, ofrecimiento o facilitación de material pornográfico, o la posesión para estos fines).

    El Gobierno también cree que vulneraría los artículos 189.5 (adquisición o posesión de pornografía infantil, incluidos los deepfakes, para uso propio, así como el acceso a sabiendas a este contenido a través de internet) y 189 bis (distribución o difusión a través de internet de contenidos específicamente destinados a promover, fomentar o incitar delitos relacionados con la pornografía infantil) del Código Penal. A ello se le sumaría un posible delito contra la integridad moral, tipificado en el artículo 173.1 del Código Penal.

   Las fuentes de Juventud han detallado que todo ello ha sido recogido en un informe presentado por parte del Consejo de Ministros en el que se analiza la posible responsabilidad penal de las plataformas digitales en la generación y difusión de material de violencia sexual hacia la infancia a través de IA.

   "En el documento se explica que las herramientas de inteligencia artificial generativa integradas en distintas redes sociales no sólo están permitiendo crear imágenes sexuales de apariencia realista a partir de fotografías de personas menores de edad, sino que, además, contribuyen, en virtud de su propia configuración algorítmica, a su difusión masiva e indiscriminada en el entorno digital", han añadido.

"ENORME ALARMA SOCIAL"

   Según recuerdan desde Juventud e Infancia, "en apenas 11 días, la IA de X, generó más de 3 millones de fotos de desnudos, incluyendo 23.000 de niños y niñas", unos hechos que "provocaron una enorme alarma social y que ponen en riesgo la salud mental, el bienestar y el desarrollo de niños, niñas y adolescentes".

   Asimismo, han subrayado que, desde el comienzo de la legislatura, han "trabajado para garantizar los derechos de la infancia en el entorno digital", destacando la Ley de Protección de la infancia y la adolescencia en los entornos digitales, que se tramita en el Congreso, "una ley pionera que recoge las principales herramientas de defensa y protección de los derechos de niños, niñas, adolescentes y jóvenes en internet".

   La iniciativa acordada este martes en el seno del Gobierno forma parte del paquete de medidas anunciadas por el Ejecutivo en materia de protección de los menores en el entorno digital, como son la de prohibir el acceso de los menores de 16 años a las redes sociales y la obligación de implementar sistemas efectivos de verificación de edad en las plataformas, entre otras.