Intel lanza los Xeon 6 con núcleos P y confirma la disponibilidad de Gaudi 3

Ya os habíamos dado mucha información sobre los Intel Xeon 6, una generación de procesadores que está compuesta por dos versiones, Sierra Forest, que utiliza núcleos E de alta eficiencia basados en la arquitectura Crestmont, y Granite Rapids, que utiliza núcleos P de alto rendimiento basados en la arquitectura Redwood Cove.

Los primeros en llegar fueron los procesadores Intel Xeon 6 Sierra Forest, y quedó pendiente el debut de Granite Rapids. Sabíamos que su llegada iba a tener lugar antes de terminar 2024, y ayer por fin Intel confirmó el lanzamiento de forma oficial.

Con la división de los procesadores Intel Xeon 6 en dos modelos diferentes con distintos tipos de núcleos el gigante del chip ha llevado a cabo un movimiento muy inteligente, porque está ofreciendo a sus clientes dos soluciones que apuestan claramente por la especialización, pero que al mismo tiempo mantienen una serie de valores en común, entre los que destacan un buen rendimiento por vatio consumido, su integración en plataforma uniforme y de última generación y una importante reducción de coste de propiedad.

Especificaciones de los Intel Xeon 6 Granite Rapids

• Hasta 128 núcleos P.
• Arquitectura Redwood Cove, nodo Intel 3.
• Módulo I/O fabricado en nodo Intel 7.
• 2 MB de caché L2 exclusiva por núcleo y dos hilos.
• Instrucciones AVX512 (2 x 512) e Intel AMX para IA y operaciones con vectores.
• 64 KB de caché de instrucciones por núcleo.
• 48 KB de caché de datos ECC.
• Motor de ejecución fuera de orden de 512 instrucciones.
• 1.024 Flops BF16/FP16 y 2.048 Flops INT8 por ciclo de reloj.
• Soporte de VNNI, INT8, BF16 y FP16.
• Instrucciones CMPccXADD, LAM y LASS ISA.
• Soporte de cifrado AES de 256 bits y 2.048 bits.
• Instrucciones FP16 soportadas en el motor Intel AMX.
• Admite memoria RAM a un máximo de 6.400 MT/s y hasta 12 canales de memoria.
• Compatibles con el estándar CXL 2.0.
• Configuraciones de hasta 8 sockets.

Estos procesadores están dirigidos a escenarios donde se necesite de un alto nivel de rendimiento, y de una elevada capacidad de paralelizado. Granite Rapids dobla el rendimiento de la generación anterior, también es capaz de doblar el ancho de banda a nivel de memoria y cuenta con aceleración de IA integrada en cada uno de sus núcleos.

Los Intel Xeon 6 Granite Rapids están disponibles en cinco configuraciones diferentes, como podemos ver en el cuadro adjunto. El modelo base tiene 72 núcleos a 2,7 GHz-3,7 GHz, y a partir de ahí escala en configuraciones de 96 núcleos, 120 núcleos y 128 núcleos. El modelo tope de gama cuenta con 504 MB de caché L3 y tiene un TDP de 500 vatios. Todos los procesadores soportan memoria DDR5 a 6.400 MHz.

Intel Gaudi 3 llega el trimestre que viene

El gigante del chip también ha confirmado que sus aceleradores de nueva generación para IA llegarán en el último trimestre de este año. La presentación de Intel Gaudi 3 se produjo en abril de este año, y el pasado mes de junio pude compartir con vosotros una buena dosis de información que incluía tanto sus especificaciones como datos de rendimiento oficiales.

Intel Gaudi 3 es un acelerador que está profundamente optimizado para trabajar con cargas relacionadas con la IA generativa, es altamente escalable y eficiente, y está diseñado para ofrecer un valor sólido en relación potencia coste, y también a nivel de eficiencia y de coste de propiedad.

Como es una solución altamente escalable su potencia depende de la configuración que tengamos en cuenta. Por ejemplo, un nodo con ocho aceleradores Intel Gaudi 3 puede ofrecer una potencia de hasta 14,7 PFLOPs en FP8, mientras que una configuración con 64 nodos que tiene 512 aceleradores puede alcanzar una potencia de 940 PFLOPs en FP8.

En lo más alto está la configuración con 1.024 nodos, que incluye 8.192 aceleradores Intel Gaudi 3, y que ofrece una potencia de hasta 15 EFLOPs en FP8. La capacidad de memoria de esta configuración también es espectacular, ya que dispone en total de 1 PB (petabyte) de memoria, lo que le permite hacer frente a cualquier desafío.

Especificaciones de Intel Gaudi 3

• 64 núcleos tensor (TPC) de quinta generación y ocho motores matemáticos de matrices (MME)
• 128 GB de memoria HBM con un ancho de banda de 3,7 TB/s.
• 96 MB de SRAM con un ancho de banda de 12,8 TB/s.
• 24 puertos 200 GbE y PCIe Gen5 con 16 líneas.
• Hasta 1.835 TFLOPs de potencia pico en FP8.
• TDP de 600 vatios.

Estos aceleradores gráficos gozan de una integración total en la Intel Gaudi Software Suite, que incluye todo lo necesario para poder sacarles el máximo partido de una manera sencilla y eficiente.