Paolo Rosso e Ivan Arcos - VICENTE LARA/UPV
VALÈNCIA 15 Oct. (EUROPA PRESS) -
Un equipo de investigadores del grupo PRHLT de la Universitat Politècnica de València (UPV) ha desarrollado un nuevo sistema de inteligencia artificial que ayuda a detectar contenidos y mensajes sexistas en memes y videos de TikTok. El sistema combina el análisis del contenido de los vídeos con datos sobre la actividad cerebral, el movimiento de los ojos y el ritmo cardíaco de los espectadores, según ha informado la institución académica en un comunicado.
"Muchas veces, tanto en los memes como en los videos de TikTok, existen contenidos en los que el sexismo aparece camuflado mediante el humor, la ironía, los estereotipos o comentarios aparentemente inofensivos. Además, para interpretar correctamente un vídeo es necesario tener en cuenta simultáneamente el lenguaje, los textos que aparecen en pantalla, las imágenes, los gestos y el contexto. Nuestro sistema ayuda a detectar y denunciar esos contenidos sexistas de forma más eficaz que los sistemas utilizados actualmente", ha apuntado Iván Arcos, investigador del PRHLT.
Para desarrollar el sistema, los investigadores analizaron unos 4.000 memes y unos 2.500 vídeos de TikTok en español e inglés, procedentes de los conjuntos de datos de EXIST, una competición internacional sobre detección de sexismo en redes sociales.
"Trabajamos con diez personas en el estudio con vídeos y con dieciséis en el de memes, que visualizaron estos contenidos mientras se registraban sus respuestas mediante seguimiento ocular, electroencefalografía (EEG) y medición del ritmo cardíaco", ha explicado Paolo Rosso, catedrático del Departamento de Sistemas Informáticos y Computación y miembro de ValgrAI (Valencian Graduate School and Research Network of Artificial Intelligence).
Y, según recoge el estudio, las reacciones ante contenidos sexistas y no sexistas fueron muy diferentes. Los vídeos sexistas generaron, entre otros efectos, mayores tiempos de reacción y un incremento de las fijaciones de la mirada, además de diferencias en determinados patrones de actividad cerebral. En concreto, el número medio de fijaciones de la mirada aumentó en los vídeos en los que muestran o juzgan situaciones sexistas.
Los movimientos rápidos de los ojos de un punto a otro (sacadas) y los parpadeos siguieron la misma tendencia, y el ritmo cardíaco mostró mayores fluctuaciones ante los vídeos sexistas. En el caso de los memes se observó un patrón similar.
"La respuesta también variaba según el tipo de sexismo. El estudio distingue, por ejemplo, entre sexismo directo y contenidos que muestran o juzgan situaciones sexistas, cuya correcta interpretación exige comprender mejor la intención y el contexto del mensaje", ha explicado Iván Arcos.
Según los investigadores, estas diferencias en la mirada reflejan una mayor carga cognitiva: cuanto más difícil es interpretar un contenido, más se detiene y se desplaza la mirada, porque el espectador explora la pantalla en busca de pistas --el texto, los gestos, el contexto-- antes de decidir qué significa. Por eso el efecto es máximo en los vídeos que muestran o juzgan situaciones sexistas, en los que no basta con reconocer lo que aparece en pantalla, sino que además hay que deducir cuál es la postura de quien lo publica.
"El EEG registra la actividad eléctrica del cerebro a través de 16 electrodos, o canales, colocados sobre la cabeza, y permite distinguir entre ondas cerebrales lentas y rápidas. Cuando los sujetos veían un vídeo sexista, las ondas lentas --delta, theta y alfa-- perdían intensidad en los canales de la zona central y parietal, es decir, en la parte alta y trasera de la cabeza. Puede parecer contradictorio, pero es una señal de que el cerebro está prestando más atención: estas ondas, sobre todo las alfa, son más intensas cuando el cerebro está relajado y se reducen cuando se concentra", ha explicado Iván Arcos.
En cambio, en los vídeos que muestran o juzgan situaciones sexistas, frente a los de sexismo directo, aumentaron las ondas rápidas (beta y gamma) en los canales de la parte frontal y del lado derecho de la cabeza. "Estas ondas se asocian a un razonamiento más elaborado. El sexismo directo basta con reconocerlo, pero en estos vídeos el cerebro tiene que analizar el contexto para entender qué quiere decir quien los publica", ha añadido Arcos.
Por su parte, los vídeos de violencia sexual redujeron la intensidad de las ondas cerebrales en todos los canales en los que se detectaron diferencias, sobre todo en el lado derecho de la cabeza. Como ocurría con los vídeos sexistas en general, esta reducción indica una mayor implicación del cerebro, en este caso ante un contenido emocionalmente muy desagradable. Además, que se concentre en el lado derecho coincide con estudios previos que muestran que los dos hemisferios no procesan las emociones de la misma forma.
A partir de estas diferencias, el equipo de la UPV desarrolló el modelo de inteligencia artificial, combinando las señales fisiológicas con la información textual y visual extraída de los vídeos. El trabajo se acaba de presentgar en el XLII Congreso Internacional de la Sociedad Española de Procesamiento del Lenguaje Natural.
