Intel presenta el acelerador Gaudi 3 para la IA generativa empresarial

Acelerador Gaudi 3
Acelerador Gaudi 3 - INTEL
Publicado: miércoles, 10 abril 2024 17:48

   MADRID, 10 Abr. (Portaltic/EP) -

   Intel ha presentado el acelerador Intel Gaudi 3 para aportar rendimiento, apertura y opciones a la inteligencia artificial (IA) generativa empresarial.

    Las novedades de Intel responden a los retos a los que se enfrentan las empresas a la hora de ampliar las iniciativas de IA. "Intel está llevando la IA a todas partes en la empresa, desde el PC hasta el centro de datos y el edge. Nuestras últimas plataformas Gaudí, Xeon y Core Ultra están ofreciendo un conjunto cohesivo de soluciones flexibles adaptadas para satisfacer las necesidades cambiantes de nuestros clientes y socios, y capitalizar las inmensas oportunidades que tenemos por delante", ha expresado el CEO de la compañía, Pat Gelsinger.

   En el marco la conferencia de clientes y socios Intel Vision 2024, la compañía tecnológica ha presentado el acelerador Gaudi 3 AI, diseñado para impulsar sistemas de IA con hasta decenas de miles de aceleradores conectados a través del estándar común de Ethernet.

    La compañía defiende que Intel Gaudi 3 ofrecerá un salto significativo en el entrenamiento y la inferencia de IA para las empresas globales que buscan desplegar IA generativa a escala.

   En comparación con Nvidia H100, se prevé que Intel Gaudi 3 ofrezca un tiempo medio de entrenamiento un 50% más rápido en los modelos Llama2 con 7.000millones y 13.000 millones de parámetros, y en el modelo GPT-3 con 175.000 millones de parámetros.

   Además, se prevé que el rendimiento de inferencia del acelerador Intel Gaudi 3 supere al H100 en un 50% de media y en un 40% en cuanto a la eficiencia energética de inferencia promediada en los modelos Llama de 7.000 millones y 70.000 millones de parámetros, Falcon de 18.000 millones.

    Intel también ha anunciado nuevos clientes y socios del acelerador Intel Gaudi, como Bharti Airtel, Bosch, CtrlS, IBM, IFF, Landing AI, Ola, NAVER, NielsenIQ, Roboflow y Seekr. Y ha compartido su intención de crear una plataforma abierta para la IA empresarial junto con SAP, RedHat yVMWare para acelerar el despliegue de sistemas de IA generativa seguros, habilitados por la generación aumentada por recuperación (RAG).

   A través del Ultra Ethernet Consortium (UEC), Intel lidera la red Ethernet abierta para el tejido de IA. La empresa ha comunicado una serie de soluciones Ethernet optimizadas para IA, entre ellas AI NIC (tarjeta de interfaz de red) y 'chiplets' de conectividad para IA.

Contador