L'ONU insta a Estats i empreses a governar la IA: "Tots els drets humans estan en risc"

   MADRID, 14 Sep. (EUROPA PRESS TELEVISIÓ) -

   L'Alt Comissionat de les Nacions Unides per als Drets Humans, Volker Türk, ha fet una crida a Estats i empreses per a governar la intel·ligència artificial (IA), una tecnologia que oferix molts beneficis per a la societat però que també posa en risc els drets humans. "Tots els drets humans estan en risc", ha signat.

   Türk ha demanat mesures urgents i significatives per a fer front als riscos sense precedents de la IA en una carta oberta en la qual es dirigix a Estats i empreses responsables de la IA de frontera amb l'objectiu de "traçar un camí d'acció per a governar els models avançats de IA de frontera, fonamentat en el dret internacional dels drets humans".

    "El vertader repte hui dia és com equiparar el ritme d'una gobernança eficaç de la IA amb el ritme del seu accelerat desenvolupament", ha exposat, insistint que són necessàries "mesures urgents adaptades als riscos sense precedents que planteja la IA de frontera".

    Türk ha reconegut en el seu escrit els beneficis que ja ha demostrat tenir esta tecnologia, sobretot pel que fa al coneixement científic, l'accés a la informació en múltiples idiomes i la producció agrícola.

    Però aborda també els danys que ja està fent: la discriminació, l'erosió de la privadesa a gran escala, l'automatització de serveis essencials que exclouen a persones i col·lectius, i les campanyes de desinformació.

    Danys als quals ja està exposada la societat global i que es veuran intensificats amb els agents de IA per la seua capacitat per a "traduir objectius en accions, executar fluxos de treball complexos i operar amb una supervisió humana limitada o nul·la", apunta.

    I ha recordat el 'hackeig' a Hugging Face, protagonitzat per agents autònoms de IA d'OpenAI, en dir que "esdeveniments recents han demostrat que els sistemes avançats poden generar comportaments fora dels seus paràmetres operatius previstos, eludir salvaguardes, exercir l'engany i perseguir objectius de forma autònoma de maneres que els seus propis desenvolupadors no van anticipar".

ELS DRETS HUMANS, EN RISC

   "Tots els drets humans estan en risc", afirma contundent, al mateix temps que insta als Estats i a empreses d'intel·ligència artificial de frontera a col·laborar per a comprendre i reforçar els controls que ja s'apliquen a esta tecnologia i a aplicar una supervisió interna i independent per a augmentar la transparència i la rendició de comptes.

    En els quals respecta als discurs fets en els últims dies pels directes executius dels dels laboratoris de IA més importants del món, OpenAI i Anthropic, sobre la necessitat de pausar o ralentir el ritme de desenvolupament, Türk assenyala com a pas important limitar l'ús de l'automejora recursiva, un procés per que una IA redissenya autònomament el seu propi codi per a tornar-se més intel·ligent, en un bucle continu i accelerat.

   Un enfocament més col·laboratiu entre països --en referència a la carrera de la IA que lideren Estats Units i Xina-- i una corregulación de la indústria sense oblidar exigir a les empreses que actuen amb responsabilitat i rendisquen comptes si no ho fan, completen les propostes amb les quals Türk defensa un desenvolupament de la IA que no comprometa els drets humans.

   "La generació que ara entra en l'edat adulta heretarà les conseqüències de les decisions que s'estan prenent sobre aquesta matèria sense haver tingut veu en elles. Els hem de garantir que estes decisions es prenguen de forma oberta, tenint en compte els seus drets i amb la humilitat que exigix la magnitud d'este desafiament", ha conclòs Türk.