Archivo - Nepal. - Sunil Sharma/ZUMA Press Wire/dpa - Archivo
MADRID 17 Nov. (EUROPA PRESS) -
Los modelos de inteligencia artificial (IA) responden correctamente al 90% de las preguntas neutrales sobre ciencia climática, pero abandonan rápidamente los hechos científicos establecidos cuando los usuarios cuestionan sus respuestas, según un informe de la UNESCO y el University College London (UCL), presentado este lunes en la Cumbre del Clima (COP31) de Antalya (Turquía).
Su rendimiento también es muy desigual entre idiomas, una diferencia que el estudio vincula con el diseño de los sistemas y los datos de entrenamiento disponibles en cada lengua.
La investigación, titulada '¿Podemos confiar en la IA sobre el clima? Por qué busca complacer al usuario y falla en el razonamiento complejo y el multilingüismo', se basa en pruebas con 33 modelos, cinco de ellos evaluados en 13 idiomas, y nueve conjuntos de datos climáticos y medioambientales, incluidos dos desarrollados para este estudio.
Los investigadores también utilizaron 656 preguntas sobre políticas climáticas verificadas con En-ROADS, una herramienta global de simulación de base científica que permite explorar cómo las decisiones políticas y tecnológicas afectan a las emisiones, los sistemas energéticos y el calentamiento futuro.
De acuerdo con los autores, los modelos dieron respuestas precisas cuando se les formularon preguntas neutrales sobre la ciencia del clima.
Sin embargo, en pruebas con 15 modelos, estos dieron la razón rápidamente a los investigadores cuando cuestionaron sus respuestas o les presentaron afirmaciones inventadas pero verosímiles sobre la ciencia climática.
Los sistemas llegaron a cambiar de postura ante la primera señal de un leve desacuerdo del usuario y a respaldar afirmaciones erróneas, como que el dióxido de carbono (CO2) "no es el principal impulsor del cambio climático".
Además, el informe apunta que la precisión media de los modelos alcanza el 88,6% en inglés, con niveles similares en español, francés y portugués, pero cae entre 5 y 10 puntos porcentuales en idiomas como el bengalí, el hindi, el urdu o el suajili, hablados en regiones muy vulnerables al cambio climático.
De acuerdo con los autores, esta brecha no es inevitable y responde al diseño y a los datos de entrenamiento. Las diferencias varían según el modelo: en suajili, las pérdidas de precisión oscilan entre menos de tres y más de 16 puntos porcentuales.
Por ello, advierten de que una consulta que recibe una respuesta precisa en inglés puede obtener respuestas engañosas en otras lenguas.
La autora principal del informe por parte de la UNESCO, Leona Verdadero, ha destacado que la IA tiene un potencial extraordinario para acercar la compleja ciencia del clima a todo el público y ayudar a profesores, periodistas y responsables políticos a comunicar con claridad sobre este asunto.
Sin embargo, ha advertido de que es necesario poder confiar en esta tecnología como garante de los hechos establecidos.
"Es preocupante que los modelos tengan un fallo de diseño: se les incentiva a estar de acuerdo con el usuario y a negar estos hechos con tanta facilidad", ha avisado.
Por su parte, la autora sénior del estudio, María Pérez-Ortiz, del Departamento de Ciencias de la Computación del UCL, ha indicado que, aunque los sistemas de IA son extraordinariamente buenos explicando el conocimiento científico, esa habilidad puede generar una falsa impresión sobre sus verdaderas capacidades.
"Nuestros hallazgos muestran por qué debemos tener cuidado al pasar de preguntarle a la IA qué sabemos sobre el cambio climático a preguntarle qué deberíamos hacer al respecto", ha recalcado.