1.000 personas colaboran en alinear la IA pública ALIA con valores éticos en el Talent Arena

BARCELONA, 4 Mar. (EUROPA PRESS) -

El Ministerio para la Transformación Digital y de la Función Pública ha juntado este miércoles a más de 1.000 personas en el Talent Arena de Barcelona, el evento paralelo al Mobile World Congress (MWC), durante la final del 2 Desafío ALIA, la inteligencia artificial (IA) pública, para que sea "más segura, igualitaria e inclusiva".

El reto, que ha contado con la colaboración de Amazon AWS y Multiverse Computing, se ha diseñado para producir mejoras tangibles en el comportamiento del modelo 40B Instruido que, "ante peticiones problemáticas, debe identificar riesgos, marcar límites y ofrecer alternativas útiles sin proporcionar usos indebidos", informa el Gobierno en un comunicado.

Ha recordado que la ALIA está desarrollada por el Barcelona Supercomputing Center y que se ha marcado como próposito alcanzar este lenguaje.

2 FASES DEL DESAFÍO

El desafío ha contado con dos fases, siendo la primera online, de inscripción libre y dirigida a personas sin necesidad de conocimientos técnicos, llegando así a la participación de 974 personas de 48 provincias españolas y 18 países.

"Los inscritos pusieron a prueba el modelo eligiendo una categoría de alineamiento propuesta y, a partir de una conversación con la máquina, el participante validaba las respuestas proporcionadas por ALIA o le ofrecía una respuesta correcta en caso de que el sistema hubiese incurrido en errores", ha explicado el Gobierno.

Tras la finalización de la fase online, todas las interacciones con el sistema se han recopilado en un conjunto de datos sobre el que se ha trabajado en la segunda fase, de carácter presencial, consistente en un hackathon desarrollado este martes y este miércoles en Talent Arena.

Así, los 85 participantes, organizados por equipos, se han enfrentado a dos retos principales: validar un conjunto de datos con criterio humano (educar la IA); y diseñar y "poner a prueba un juez de IA con el conjunto de datos validado, que opere según las preferencias humanas, valorando calidad y corrección de las respuestas según los principios éticos y de seguridad establecidos".

PREMIOS

La fase presencial ha culminado con la entrega de premios a los equipos, por un valor de 9.000 euros, y que ha entregado la secretaria de Estado de Digitalización e Inteligencia Artificial, María González Veracruz.

En su intervención, ha afirmado que la participación ciudadana contribuye a un "proyecto de país, mejorando y alineando ALIA, una IA pública, abierta, segura, igualitaria y sin sesgos, que está ya siendo utilizada por el tejido empresarial y la administración pública para mejorar la vida de las personas".