El Consejo de Supervisión de Meta exige reforzar la protección de las personas frente a los 'deepfakes' sexualizados

   MADRID, 23 Jun. (Portaltic/EP) -

   El Consejo de Supervisión de Meta ha exigido a la tecnológica reforzar la protección de las personas que no son figuras públicas frente a los 'deepfakes' sexualizados generados con inteligencia artificial (IA) en las redes sociales de la compañía, tras revocar una decisión de la compañía de mantener publicado en Instagram un vídeo que suplanta la identidad de una mujer.

   El organismo ha advertido cómo la proliferación de herramientas de IA está impulsando de forma significativa la creación y difusión de contenido sexualizado no consentido, una tendencia que puede provocar "daños psicológicos y reputacionales" a las víctimas y que afecta principalmente a mujeres y niñas.

   En este marco, se ha referido a un caso ocurrido en septiembre de 2025, cuando una usuaria publicó en Instagram un vídeo de ocho segundos, supuestamente generado con IA, en el que aparecía una mujer ajustándose un vestido ceñido y mostrando su ropa interior en algunos fotogramas.

   Los sistemas automatizados de Meta para detectar contenido potencialmente dañino y con alta probabilidad de viralización identificaron la publicación, sin embargo, no se priorizó la revisión humana. Asimismo, a pesar de que dos usuarios denunciaron el contenido en los días posteriores a la publicación, Meta continuó mostrándolo en la plataforma, según ha detallado el organismo en un comunicado.

   Finalmente, tras apelar el caso ante la Junta Directiva de Meta explicando que se trataba de un vídeo generado por IA y que suplantaba la identidad de una mujer sin consentimiento, los expertos de la compañía revisaron la publicación y concluyeron que "no justificaba su eliminación" según las Normas de la Comunidad de la compañía, por lo que continúa disponible, aunque solo es visible para adultos.

REVOCADA LA DECISIÓN DE META

   El Consejo de Supervisión de Meta ha revisado el caso y ha determinado que la decisión de la tecnológica dirigida por Mark Zuckerberg fue incorrecta y no protege a los usuarios, al infringir la prohibición de compartir imágenes íntimas no consensuales (NCII) Establecida en la Política de Explotación Sexual de Adultos de Meta.

   Esta política señala tres criterios para identificar estas publicaciones, como que sea contenido no comercial en un entorno privado, la mujer se retrate casi desnuda y la inexistencia de consentimiento. Sin embargo, Meta ha alegado que, dado que la persona que aparecía en el vídeo no lo denunció en la plataforma y tampoco con fuerzas del orden independientes, no tenían indicios de que "la persona que aparecía en el vídeo fuera real".

   Al respecto, el organismo ha remarcado que la suplantación de identidad generada por IA "no es consensual por defecto" y debe añadirse "al conjunto de señales que la empresa utiliza para determinar la falta de consentimiento".

RECOMENDACIONES PARA ENDURECER LAS POLÍTICAS DE MODERACIÓN

   Así, ha instado a Meta a endurecer sus políticas de moderación para abordar específicamente estas situaciones de 'deepfakes' sexualizados dirigidos contra usuarios, y ha indicado que ampliar las señales de falta de consentimiento beneficiaría "especialmente a las personas que no son figuras públicas y que son blanco de imágenes íntimas no consentidas".

   Siguiendo esta línea, el Consejo ha indicado igualmente que Meta debería permitir a los usuarios designar 'Cuentas conectadas', para que amigos, familiares o conocidos de confianza, puedan denunciar en nombre de la persona en cuestión posibles infracciones de las Normas de la comunidad relacionadas con imágenes íntimas no consentidas.

   Finalmente, el organismo ha subrayado la importancia de incluir la suplantación de identidad sexualizada generada por IA como una categoría aparte en los formularios estándar de denuncia y apelación de contenido. Es decir, distinta de "acoso" o "desnudez", y que estos formularios estén disponibles a nivel mundial.

   Estas recomendaciones del Consejo de Supervisión de Meta se enmarcan en un contexto de creciente regulación internacional sobre los contenidos generados por IA, con regulaciones por parte de gobiernos como el de India, Reino Unido y España, que están desarrollando nuevas normas para las plataformas digitales.

   Con todo ello, el organismo ha expresado la necesidad de ofrecer una respuesta más contundente por parte de las plataformas tecnológicas ante la sofisticación alcanzada por las herramientas de IA, especialmente para proteger a quienes carecen de la visibilidad o los recursos de las figuras públicas para combatir este tipo de abusos.