La respuesta de IBM al superordenador rentable lleva ya varios meses en funcionamiento, pero sólo recientemente ha revelado información tangible sobre su denominado proyecto Vela.
En su blog, IBM ha revelado que la investigación, de la que son autores cinco empleados de la empresa, aborda los problemas de los superordenadores anteriores y su falta de preparación para las tareas de IA.
Con el fin de ajustar el modelo de supercomputadora a este futuro tipo de carga de trabajo, la empresa arroja algo de luz sobre las decisiones que tomó en cuanto al uso de hardware asequible pero potente.
Supercomputadora Vela AI de IBM
El trabajo destaca que "construir un superordenador [tradicional] ha implicado nodos bare metal, hardware de red de alto rendimiento... sistemas de archivos paralelos y otros elementos habitualmente asociados a la computación de alto rendimiento (HPC)".
Aunque está claro que estos grandes sistemas pueden manejar pesadas cargas de trabajo de IA, incluido el diseñado para OpenAI, la startup que está detrás del popular software de chat en directo ChatGPT, la falta de optimización ha hecho que a los superordenadores tradicionales les falte potencia valiosa y les sobre en otras áreas, lo que supone un gasto innecesario.
Aunque hace tiempo que se acepta que los nodos bare metal son los más idóneos para la IA, IBM ha querido explorar la posibilidad de ofrecerlos dentro de una máquina virtual (VM). El resultado, según Big Blue, es un enorme aumento del rendimiento.
"Tras un importante trabajo de investigación y descubrimiento, ideamos una forma de exponer todas las capacidades del nodo (GPU, CPU, redes y almacenamiento) en la máquina virtual, de modo que la sobrecarga de virtualización es inferior al 5%, la más baja del sector que conocemos."
En cuanto al diseño del nodo, Vela cuenta con 80 GB de memoria GPU, 1,5 TB de DRAM y cuatro unidades de almacenamiento NVMe de 3,2 TB.
The Next Platform calcula que, si IBM quisiera incluir su superordenador en la clasificación Top500, ofrecería un rendimiento de unos 27,9 petaflops, lo que lo situaría en el puesto 15 según la clasificación de noviembre de 2022.
Si bien las supercomputadoras de hoy en día pueden manejar cargas de trabajo de IA, los grandes desarrollos en inteligencia artificial combinados con la necesidad apremiante de rentabilidad resaltan la necesidad de una máquina de este tipo.
