La UPV treballa en un projecte estratègic de ciberseguretat que analitza les vulnerabilitats de sistemes amb IA

   VALÈNCIA, 4 Jun. (EUROPA PRESS) -

   L'Institut Universitari Valencià d'Investigació en Intel·ligència Artificial (VRAIN) de la Universitat Politècnica de València (UPV) està treballant en un projecte de ciberseguretat que analitza les vulnerabilitats de sistemes que incorporen Intel·ligència Artificial (IA).

    Dins del projecte 'Sprint', Seguretat i Privadesa en sistemes amb Intel·ligència Artificial, s'han estudiat les dificultats amb les quals es troben els desenvolupadors d'assistents que utilitzen la intel·ligència artificial, tals com Amazon i Alexa. Les seues conclusions es presentaran en la USENIX Security Symposium, una de les conferències més importants en matèria de ciberseguretat a nivell internacional del 14 al 16 d'agost del 2024 a Philadelphia (EE.UU).

    El projecte, finançat per l'Institut Nacional de Ciberseguretat (INCIBE), aborda tres focus de vulnerabilitats en sistemes amb intel·ligència artificial. D'una banda la seguretat i privadesa de les dades, tant les dades que utilitzen els models d'intel·ligència artificial, com les capacitats que donen aquests models i en les quals podrien estar implicats dades de tercers.

    En segon lloc, les vulnerabilitats del propi sistema que poden fer que no funcione adequadament, com malware. I el tercer, fer que els sistemes que utilitzen IA siguen entendibles, tant per a usuaris, operadors i desenvolupadors de manera que puguen proporcionar a l'usuari el context adequat per a usar-los correctament.

    Tal com explica, l'investigador principal d'aquest projecte en VRAIN i Catedràtic d'Universitat en la UPV, José Such, "la intel·ligència artificial (IA) està tenint un nivell de progrés i d'impacte en la societat cada vegada major. Molts dels sistemes que usem en l'actualitat porten amb si algun model de IA per a oferir característiques avançades que no estaven disponibles abans".

    I afig que este ús massiu de IA en sistemes "té molts beneficis en termes de funcionalitat i comoditat, per a fer, en moltes ocasions, tasques complexes o repetitives de forma fàcil i molt ràpida".