Aurora GPT, el nuevo modelo de IA que almacenará más de un billón de parámetros de conocimiento científico

En plena espiral de crisis que gira en torno a la IA, después del conflicto interno de OpenAI, el Laboratorio Nacional Argonne (ANL), junto a Intel y HP, está trabajando en la creación de un nuevo y revolucionario concepto de IA Generativa, Aurora GPT. Está destinado a almacenar el conocimiento científico global al estar dotada con más de dos billones de parámetros.

El proyecto de Aurora GPT se encuentra aún en las pruebas iniciales de hardware. Con su implantación, será posible acelerar la investigación científica en ámbitos como la física, la biología, las matemáticas, la astrología, la ingeniería y la tecnología. De este modo, al margen de la resolución de grandes problemas, Aurora GPT brindará nuevas oportunidades al campo científico.

Aurora GPT es una iniciativa conjunta del Departamento de Energía de Estados Unidos, el Laboratorio Nacional Argonne, el Instituto de Tecnología de Illinois y la Universidad de Chicago. Aurora se encuentra equipada con más de 20.000 núcleos de procesamiento, 230 patabytes de memoria y 10 petabytes de almacenamiento.

Hay que tener en cuenta que las supercomputadoras que existen actualmente en el mercado poseen una gran potencia. En España, hay 14 nodos interconectados entre sí por redes de alta velocidad, siendo MareNostrum 5 el referente al tener una superficie de 800 metros cuadrados en el Barcelona Supercomputing Center (BSC).

En EEUU existen más, aunque se quedan pequeños para el conocimiento científico y trabajan con IA para obtener nuevas oportunidades en materia de ingeniería y ciencia.

Así será su chatbot

Aurora GPT se está entrenando en la supercomputadora Aurora, con la idea de almacenar todo el conocimiento científico posible. Su chatbot estará preparado para que los investigadores realizasen preguntas y se facilitase el acceso a todo tipo de conocimientos, ejecutando una enorme carga de trabajo, como el aprendizaje automático y tareas con uso intensivo de datos. A esto se le suman otras operaciones como las campañas tradicionales de simulación y modelado.

La supercomputadora Aurora es una de las más potentes del mundo en la actualidad. Cuenta con 21.248 procesadores Intel CPU Max Series, 63.744 gráficas Intel Data Center GPU Max Series y 1.024 nodos de almacenamiento que dan 220 petabytes de capacidad con un ancho de banda de 31 terabytes por segundo. Gracias a la aplicación de la IA, la supercomputadora Aurora podrá almacenar una cantidad de conocimiento científico sin precedentes.

La trascendencia de la computación a exaescala

La computación a exaescala también cobrará un gran valor, ya que permitirá ampliar las capacidades al poder realizar un mínimo de una operación exaflop por segundo. Las operaciones exaflop poseen un rendimiento que permite calcular, al menos, un trillón de operaciones de punto flotante por segundo.

La potencia de exaescala viene proporcionada por Intel, que cuenta con una arquitectura de GPU compuesta por seis GPU Max Series de Intel de 128 GB cada uno. Además, integra dos procesadores Intel Xeon CPU Max Series de 64 GB cada uno.

Amplio margen de mejora

La ANL pretende que Aurora GPT realice un mínimo de una operación exaplop por segundo, calculando al menos un trillón de operaciones de punto flotante por segundo.

Aurora GPT se encuentra en las primeras etapas de desarrollo, contando con una capacidad limitada a 256 nodos. No obstante, el objetivo es que pueda llegar a ampliarse hasta los 10.000 nodos de capacidad disponibles en la supercomputadora Aurora. Los investigadores luchan por preparar a Aurora en el campo científico desde el primer día.

En el entrenamiento de Aurora GPT con un billón de parámetros se incluyen textos, códigos, conclusiones de estudios y documentos académicos de todo el mundo. Las primeras pruebas de hardware ya se están realizando, para a posterior poner una interfaz de chatbot a disposición de los científicos.

Según el propio laboratorio ANL, gracias a este modelo de Aurora GPT, los científicos podrán ejecutar una mayor diversidad de cargas de trabajo, simplificando tareas tradicionales de simulación y modelado de miles de estudios científicos.

El objetivo de Aurora GPT no es otro que convertirse en la mayor enciclopedia científica del mundo, capaz de almacenar y procesar una enorme cantidad de información en diferentes disciplinas. Así pues, será posible que un usuario pregunte sobre la estructura del ADN, la teoría de la relatividad, el funcionamiento de un motor eléctrico o la historia de la astronomía.