OpenAI i Anthropic advertixen al Consell de Seguretat de l'ONU sobre la IA: "O un nou Renaixement o caos"

    MADRID, 24 Sep. (EUROPA PRESS) -

   Els màxims responsables de les principals signatures de IA, Sam Altman (OpenAI) i Dario Amodei (Anthropic), van alertar en l'última reunió del Consell de Seguretat de Nacions Unides (ONU) sobre els riscos que la intel·ligència artificial pot suposar a la humanitat, al mateix temps que van demanar frenar el desenvolupament d'esta tecnologia per a controlar els seus potencials perills i que ningú es faça amb el poder total dels models.

    "La IA pot donar lloc a una nova era del Renaixement per a la creativitat i el descobriment, o bé a una nova Revolució Industrial marcada per l'agitació i el caos. El Renaixement va ser una època en la qual noves ferramentes, idees i institucions van ampliar els límits del que les persones creien possible. La IA pot exercir este mateix paper en la nostra època", va assenyalar Sam Altman.

    Altman va voler posar en el centre del desenvolupament de la IA a les persones, argumentant que esta ferramenta no ha de convertir a tota la societat en autòmats, sinó que han de ser els éssers humans els qui prenguen les decisions.

    "La història contínua del progrés humà no tracta sobre ferramentes que reemplacen la capacitat d'acció humana, sinó sobre com les ferramentes adequades potencien les capacitats de les persones; i crec que això arribarà molt més lluny del que hui considerem possible", va destacar.

    El conseller delegat d'OpenAI tampoc va voler advocar pel catastrofisme, considerant-ho un "parany" i subratllant que "deixar-se arrossegar pels extrems no ens ajudarà a resoldre amb èxit els desafiaments que tenim per davant".

    En esta mateixa línia va intervenir Dario Amodei, conseller delegat d'Anthropic, qui va centrar els riscos en dos categories: ús indegut dels models de IA --terrorisme o creació d'armes biològiques-- i la pèrdua de control. "Estes qüestions tenen un abast global i concernixen a tota la humanitat. Són prou greus com per a considerar que constituïxen temes importants per a este Consell", va afirmar.

    De la mateixa manera, Amodei manté la seua aposta per un desenvolupament conscient de la IA que permeta navegar entre els riscos i beneficiar-se de l'avanç d'esta tecnologia "a un ritme que garantisca que la seguretat evoluciona a l'una de les capacitats tecnològiques per a tots els actors del sector".

   El CEO d'Anthropic ha instat a les empreses de IA i als governs, així com al propi Consell de Seguretat de l'ONU --qui té la capacitat de prendre decisions vinculants-- a comprometre's en tres nivells: integrar avaluadors externs, establir estàndards dins de la indústria i fixar normes internacionals per a tots els països.

    "Considere que este és l'assumpte de seguretat global més important al que s'enfronta el món hui dia. Més enllà de les diferències entre les persones presents en esta sala, hem de deixar-les de costat per a afrontar l'oportunitat i l'amenaça globals que se'ns presenten simultàniament", ha rematat.

   Durant la sessió, el secretari general de l'ONU, António Guterres, indique que "el perill no residix en la nova tecnologia. El perill residix en la tecnologia sense rendició de comptes. Les decisions de vida o mort mai han de confiar-se a les màquines. Els robots assassins no han de tenir cabuda en el nostre futur".