El Gobierno lanza FARO, con ayuda de LALIGA, que analiza en tiempo real discursos de odio en redes sociales

Archivo - La ministra de Inclusión, Seguridad Social y Migraciones, Elma Saiz, y el presidente de LaLiga, Javier Tebas, durante la presentación del balance de 'Este partido lo vamos a ganar'. - Alberto Ortega - Europa Press - Archivo

MADRID, 11 (EUROPA PRESS)

El Ministerio de Inclusión, Seguridad Social y Migraciones ha presentado este martes en rueda de prensa el nuevo sistema de análisis de odio en redes, FARO 'Filtrado y Análisis de Odio en las Redes Sociales', en el que se pueden consultar datos en tiempo real. Este es una adaptación del monitor para la Observación del Odio en el Deporte, que ha cedido LALIGA al departamento que dirige Elma Saiz.

En este sentido, la directora del Observatorio Español del Racismo y la Xenofobia (OBERAXE), Karoline Fernández, ha señalado en la presentación del sistema que FARO es "único" y que este incorpora el uso de la inteligencia artificial para la identificación y análisis a tiempo real de los contenidos de discurso de odio con motivación racista, xenófoba, islamófoba, antisemita y antigitana, publicados en cinco plataformas de redes sociales (Facebook, Instagram, TikTok, YouTube y X).

Los técnicos encargados del sistema han expuesto que en 2025 se prevé una muestra anual de 3.500 contenidos, dividida en partes iguales (por periodos mensuales), sobre las que se realizarán las labores de revisión, análisis y reporte a las plataformas. El número total de contenidos de discurso de odio notificados por el OBERAXE a lo largo del año 2024 fue de 2.871, por lo que el tamaño de la muestra anual inicial supondría un aumento de más del 20% sobre la cifra de los contenidos reportados en el año anterior. En esta misma línea, han asegurado que cuanto mayor sea la muestra, más fácil será que las plataformas retiren los contenidos que incluyan discursos de odio.

Fernández ha indicado que el OBERAXE inició la monitorización diaria del discurso de odio en redes sociales en el año 2020, en el contexto de la irrupción de la pandemia de COVID-19. Desde 2022, cuenta con la aplicación 'ALERTODIO', diseñada por la Universidad Politécnica de Valencia (UPV), para el registro y recogida de contenidos de discurso de odio identificados en las redes.

En concreto, el monitor FARO permite, de manera automatizada y a través de la incorporación de inteligencia artificial, la captación de contenidos de discurso de odio en las redes sociales y su categorización en tiempo real en base a las variables empleadas en el análisis. El desarrollo técnico del monitor ha sido realizado a través de Séntisis Intelligence.

Séntisis Intelligence cuenta con una tecnología propia de análisis del lenguaje especializada en el idioma español, que combina algoritmos avanzados y técnicas de inteligencia artificial con más de 100.000 reglas semánticas para poder filtrar la información y clasificarla según los criterios establecidos por el OBERAXE.

En cuanto a los datos, los técnicos del sistema han explicado que dentro del total de mensajes captados cada día, la categoría de "mensajes detectados" hace referencia a la suma de los contenidos filtrados a través de dos capas: por una parte, figuran los contenidos de discurso de odio, entendiendo el concepto de una manera estricta y; por otra, se añade una más amplia que integra los contenidos de discurso odioso y las narrativas discriminatorias.

La secretaria de Estado de Migraciones, Pilar Cancela, ha destacado que con FARO se ha dado "un paso no solo cuantitativo, sino cualitativo" en la erradicación del discurso de odio, que "en las redes sociales tiene un impacto y una proliferación preocupante". También ha incidido en la necesidad de poder acceder a datos científicos para detectar el discurso racista y xenófobo, así como para poder diseñar las políticas y acciones encaminadas a erradicarlo.

Respecto a los datos que se extraen del boletín de monitorización de febrero, una vez más, el discurso de odio se relaciona con la inseguridad ciudadana, con un 40% de los mensajes denunciados, y más de un 50% presentan un discurso agresivo explícito. Además, el 60% de los contenidos se basan en percepciones.

LALIGA CEDE A INCLUSIÓN SU MONITOR PARA LA OBSERVACIÓN DEL ODIO

La directora del OBERAXEE también ha recordado que en octubre de 2024 el Ministerio de Inclusión, Seguridad Social y Migraciones y LALIGA firmaron un convenio de colaboración. Como resultado, este último ha cedido al departamento que dirige Elma Saiz su herramienta MOOD (Monitor para la Observación del Odio en el Deporte). El objetivo es que el Observatorio Español del Racismo y la Xenofobia (OBERAXE) pueda optimizar la estrategia de monitorización del discurso de odio en redes sociales.

Por su parte, el director de marca y estrategia de LALIGA, Ángel Fernández, ha instado a medios de comunicación y la sociedad en general a ser partícipes de la lucha contra los discursos de odio. "Porque nuestro gran enemigo es la sensación de impunidad", ha señalado.

"Hace unos meses firmamos este convenio con el Ministerio para tratar de poner a disposición el altavoz que tiene la medida y que tiene el fútbol, y sobre todo ceder esta herramienta para que los verdaderamente expertos que llevan años trabajando con Ministerio nos permitieran mejorar", ha asegurado para añadir que FARO va a ser una "herramienta de gran utilidad".

El monitor de visualización de datos del Sistema FARO está disponible para consulta de toda la ciudadanía en el nuevo portal web del OBERAXE. Este ofrece un acceso "fácil e intuitivo" a todos los contenidos y servicios ofrecidos por el OBERAXE. Además, presenta una estructura "más accesible y atractiva" para el ciudadano.

La web también incluye un apartado para ayudar a las víctimas que hayan podido sufrir algún tipo de discriminación, donde pueden acceder a la información necesaria sobre atención jurídica, atención psicológica, asesoramiento, mediación y otros recursos de interés.