Experta defiende la IA en el sector social para "romper" barreras digitales pero con un uso ético

BARCELONA, 6 Oct. (EUROPA PRESS) -

La catedrática y cofundadora del Centro de Investigación en Ciencia de Datos Inteligente e Inteligencia Artificial de la Universitat Politècnica de Catalunya (UPC), Karina Gibert, ha defendido el potencial de la IA en el sector social, que puede servir para "romper" barreras digitales, pero ha advertido de que su uso debe ser ético y requiere un conocimiento adecuado.

En una entrevista con Europa Press, ha señalado que para hacer un uso correcto de estas herramientas se requiere un conocimiento no solo técnico sino del sector específico en el que se esté usando, y ha remarcado la importancia de la privacidad, particularmente en un ámbito como el social, en el que se usan datos sensibles.

"ROMPER BARRERAS"

La investigadora ha apuntado que el sector de la IA nació en 1956 y que ella misma ha trabajado en su aplicación en sectores como la salud mental o la dependencia a partir del reconocimiento de patrones en volúmenes de datos.

Sin embargo, las últimos avances llevan esta tecnología un paso más allá: "Lo que teníamos antes eran formas de comprender la complejidad de los fenómenos para ayudar a tomar decisiones estratégicas. Ahora tienes una máquina capaz de desarrollar un diálogo bastante natural con personas, y puede romper barreras digitales".

Entre muchos otros, podría mejorar la organización de los asistentes sociales, simplificar trámites para personas mayores o analfabetas, tutelar cómo está aprendiendo un niño o alertar de problemas con personas que viven solas.

Gibert pone el ejemplo de una entrevista con servicios sociales en la que el trabajador, en vez de estar pendiente de un informe mientras los beneficiarios hablan, puede mirarles a los ojos y escucharles directamente porque una IA se encarga de rellenarlo.

A la vez, puede seguir usándose para analizar y datos: "Internamente, las organizaciones tienen muchos datos. Si las aprovechas bien, y la IA es experta en hacer esto, puedes tener un conocimiento muy amplio para gestionar realidades complejas".

ENTORNO SEGURO

Gibert insiste en la necesidad de asegurar entornos de IA seguros, especialmente en datos sensibles como los que habitualmente se manejan en el sector social, como datos de personas vulnerables, de mujeres maltratados o menores.

Explica, por ejemplo, que no deberían usarse las versiones de bolsillo de 'chatbots' como ChatGPT, Gemini o Grok para trabajar en estas cuestiones, ni siquiera para traducir, ya que los servidores están en Estados Unidos y no se puede garantizar que no se usen para alimentar modelos o que no se recojan ni vendan los datos.

En esa línea, subraya la importancia de tener infraestructuras propias de datos con conexiones bloqueadas, que actúen localmente y no en la nube, y a las que se aplique la legislación europea y catalana, algo en lo que Catalunya ya está trabajando, afirma.

ALUCINACIONES ESTRUCTURALES

La experta alerta de que las alucinaciones de la IA generativa son estructurales: "A diferencia de la IA tradicional, a la que si le dabas más datos lo hacía mejor, en la generativa el riesgo de alucinación no tiende a 0. Tenemos que asumir que alucinan siempre".

Eso tiene varias implicaciones: nadie debería dar por buenos los resultados de la IA generativa y enviarlos sin "revisarlos muy bien", y nadie debería afirmar que una IA no se ha equivocado sobre un tema si no es su área de competencia.

Además, remarca que las decisiones y, por lo tanto, la responsabilidad sobre sus consecuencias, siempre recaerán sobre un humano: "No podrás decir 'Eso me lo dijo una IA'".

FORMACIÓN Y DELEGADOS DE IA

Por todo ello, Gibert defiende una "formación general" de los límites de este tipo de herramientas, y desarrollar mucho criterio y autorresponsabilidad durante su implementación.

En este sentido, la catedrática, que ha asesorado a la administración sobre cómo incorporar la IA en el servicio público, plantea la figura de un delegado de IA de referencia, que tenga "todos los conocimientos técnicos, éticos y del sector".

JORNADA SOBRE IA Y TERCER SECTOR

Estas y otras cuestiones se han abordado este martes en un acto sobre IA en el sector social organizado este martes por Suport Tercer Sector Social de Fundesplai, en el que han participado también responsables de la Generalitat de Catalunya, la Autoritat Catalana de Protecció de Dades y el Ilustre Colegio de la Abogacía de Barcelona (Icab).

Entre otros, se ha hablado también de la regulación y legislación sobre IA, la protección de datos en entidades sociales, la elaboración de protocolos organizativas y el reclamo de la soberanía tecnológica en Europa.