Qué hace Claude Mythos, la IA que inquieta a los bancos y no puedes usar

MADRID 16 Abr. (EUROPA PRESS) -

La carrera por la supremacía en la inteligencia artificial ha alcanzado un punto de controversia que trasciende lo tecnológico para convertirse en un problema de seguridad nacional y financiera.

Bajo el nombre de Claude Mythos, la compañía Anthropic custodia una tecnología que podría potenciar ciberataques sofisticados y representar un nuevo desafío para el sistema bancario, motivo por el que banqueros de todo el mundo se han reunido para examinar los riesgos de este modelo.

¿CÓMO ES DE PELIGROSO MYTHOS Y CUÁLES SON SUS FUNCIONES?

Claude Mythos es el modelo de inteligencia artificial más avanzado desarrollado por Anthropic y llega en un momento clave para la compañía, que se prepara para su salida a Bolsa. A diferencia de las versiones comerciales, sus funciones principales no están orientadas al usuario final, sino al razonamiento profundo y la detección de fallos estructurales en sistemas complejos.

Según ha informado el director ejecutivo de la compañía, Dario Amodei, Mythos posee una capacidad analítica tan elevada que ha detectado vulnerabilidades críticas en el código que sostiene gran parte de la infraestructura digital actual. La decisión de no publicarlo responde a que, en manos de ciberdelincuentes, estas capacidades podrían utilizarse para ejecutar ataques sistémicos de forma automatizada.

En sus pruebas internas, Mythos Preview ha descubierto miles de vulnerabilidades de alta gravedad, incluidas brechas en todos los grandes sistemas operativos y navegadores web. Anthropic advierte de que, al ritmo actual de progreso de la IA, no tardarán en proliferar modelos con capacidades similares fuera del control de actores comprometidos con un uso responsable, lo que podría tener "consecuencias graves para la economía, la seguridad pública y la seguridad nacional", según un comunicado de Anthropic.

Por ejemplo, Mythos Preview detectó una vulnerabilidad que llevaba 27 años en OpenBSD, uno de los sistemas operativos considerado como de los más seguros del mundo y utilizado para ejecutar cortafuegos y otras infraestructuras críticas.

En esta línea, el Instituto de Seguridad de la IA (AISI, por sus siglas en inglés), perteneciente al Departamento de Ciencia, Innovación y Tecnología del gobierno del Reino Unido, ha puesto a prueba las capacidades de este modelo, aprovechando su disponibilidad en una vista previa. AISI concluyó que las capacidades de Claude Mythos permitirían atacar de manera autónoma a pequeñas empresas que no cuentan con sistemas de defensa sólidos.

¿QUIÉNES PUEDEN TENER CONTROL SOBRE MYTHOS?

Anthropic ha puesto en marcha Project Glasswing, una iniciativa que reúne a Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia y Palo Alto Networks con el objetivo de proteger el 'software' "más crítico" del mundo.

Con este proyecto, Anthropic pretende anticiparse a un escenario negativo y poner estas capacidades al servicio de la defensa, no del ataque.

La compañía ha extendido el acceso a más de 40 organizaciones adicionales que desarrollan o mantienen infraestructuras de software críticas, para que puedan emplear el modelo en escanear y asegurar tanto sistemas propios como proyectos de código abierto.

Asimismo, Anthropic ha anunciado un nuevo impulso en sus planes de expansión en Reino Unido con la apertura de una oficina en Londres que aspira a contar con 800 empleados, frente a los 200 que actualmente trabajan para la firma en la capital londinense, y ha informado de que los bancos británicos tendrán disponible la próxima semana el nuevo modelo de IA Claude Mythos, para poder así evaluar sus sistemas.

¿POR QUÉ INQUIETA A LOS BANCOS?

La preocupación se ha extendido desde los laboratorios de software hasta los parqués financieros y los reguladores nacionales, alcanzando también a instituciones europeas, británicas y estadounidenses por su potencial para poner en riesgo la integridad del sistema bancario.

El portavoz de Soberanía Tecnológica y Defensa de la Comisión Europea, Thomas Regnier, ha confirmado que ha mantenido ya una reunión con Anthropic al respecto con el fin de tener información sobre potenciales peligros vinculados al nuevo modelo, añadiendo que se espera mantener más encuentros con la plataforma.

De su lado, la Asociación de Bancos Alemanes (Bankenverband) ha confirmado estar manteniendo contactos sobre este asunto con las entidades alemanas, así como con el Ministerio Federal de Finanzas (BMF), la Autoridad Federal de Supervisión Financiera (BaFin) y el Bundesbank.

Por su parte, el presidente de la Reserva Federal (Fed), Jerome Powell, y el secretario del Tesoro de EEUU, Scott Bessent, convocaron la semana pasada una reunión de urgencia con los directivos de Bank of America, Citigroup, Goldman Sachs, Morgan Stanley y Wells Fargo, y a la cita también estaba invitado el consejero delegado de JPMorgan Chase, Jamie Dimion, quien finalmente no pudo acudir.

El objetivo de este encuentro fue estudiar los riesgos asociados a Mythos, ante la posibilidad de que una IA de este calibre pueda ser utilizada para identificar brechas en los sistemas de liquidación de activos, manipular algoritmos de alta frecuencia o vulnerar la seguridad de las transacciones internacionales.