La Inteligencia Artificial de Yahoo es capaz de detectar el 90% de los comentarios ofensivos en la red

   MADRID, 4 Ago. (EDIZIONES/Portaltic) -

Uno de los problemas que encuentran foros o páginas web es el 'feedback', es decir, los comentarios que los ususarios hacen sobre un determinado tema. El problema viene cuando esos comentarios incluyen contenidos abusivos o insultos que entorpecen la experiencia del usuario. Para intentar acabar con este fenómeno, Yahoo ha desarrollado un algoritmo para su sistema de Inteligencia Artificial (AI) que detecta el 90 por ciento de este contenido.

El equipo de desarrolladores de la empresa se han encargado de construir esta herramienta que permitirá detectar en la red los comentarios ofensivos. El algoritmo, que utiliza una mezcla de aprendizaje automático y detección del abuso 'crowdsourced' -- colaboración externa--, escanea las secciones de comentarios de foros o páginas como Yahoo Noticias.

En la actualidad, los detectores de lenguajes abusivos son sistemas basados en una palabras clave. El problema es que los usuarios pueden utilizar algunas palabras que evitan los filtros, ya que los sistemas son malos en la lectura global de un texto --contextualizarla--, así como en el sarcasmo.

Yahoo, por el contrario, ha sido capaz de realizar seguimientos en los comentarios, palabras o el número de signos de puntuación que utilizan, entre otros. Además, fueron los propios empleados los que se dedicaron a clasificar los comentarios ofensivos de los que no.

Todas estas novedades que incorpora el nuevo algoritmo de Yahoo mejoran en un 10 por ciento la identificación de mensajes ofensivos respecto a los métodos tradiciones. Además, todas los abusos quedarán recogidos en una base de datos 'online' llamada 'Yahoo Webscope'.

   El sistema presenta múltiples ventajas, aunque podría verse limitado porque el mismo Yahoo es quién ha marcado los límites del abuso, y no el usuario. Además, es incapaz de detectar cuentas e imágenes falsas que pudieran contener contenido ofensivo, como ocurrió con Leslie Jones en Twitter.