Si quieres trabajar en el desarrollo de modelos de inteligencia artificial, hoy por hoy lo ideal es contar con las GPUs profesionales de NVIDIA. Ahora una compañía acaba de ponerlo más fácil, y ha comenzado a poner a la venta su nueva estación de trabajo para este ámbito: una basada en el espectacular GH200.
Un PC que es mucho más que un PC. La empresa GPTshop.ai ha creado un supercomputador en formato PC y ha conseguido el que según ellos es "el PC de sobremesa ARM más potente del mundo". Y lo es, sobre todo gracias al "superchip" NVIDIA GH200 Grace Hopper.
Mucho mejor que el H100 o el A100. El GH200 cuesta cinco veces menos que el H100 y tres que el A100, consume diez veces menos energía que el H100 y cinco que el A100, y su rendimiento es más o menos el del A100 y no está lejos del H100. La empresa lo compara con otras opciones (4 x AMD Mi300A, 8x RTX A6000) y en todos los casos afirman que esta apuesta es muy superior. Una ganga, vamos. Al menos, comparado con sus antecesores y algunas de sus teóricas alternativas.
Formato PC silencioso. Normalmente los equipos dedicados a estas tareas son servidores con formato rack de 19 pulgadas, delgados pero muy largos. Son máquinas habitualmente muy ruidosas (90 dB) y poco transportables, pero en GPTshop han creado esa estación de trabajo que además gracias a su sistema de refrigeración ronda los 25 dB, lo que supone un nivel de ruido apreciable pero nada molesto en comparación con el de esos servidores.
Configuración hardware bestial. El equipo está basado en el citado NVIDIA GH200 Grace Hopper Superchip, que consta de una CPU de 72 núcleos NVIDIA Grace y la GPU NVIDIA H100 Tensor Core. Además tenemos 480 GB de memoria LPDDR5X ECC, 96 GB de memoria HBM3 (o 144 GB de HBM3e), dos fuentes de alimentación de 2.000 o 2.400 W y un buen número de ranuras PCIe y puertos de conexión.
Rendimiento excepcional. En Phoronix analizaron el rendimiento de su CPU ARM y aunque en algunas pruebas perdió contra los mejores chips x86-64 de Intel y AMD, fue el de NVIDIA el que ganó más pruebas: 15 de 23 contra Emeral Rapids y 13 de 23 contra los chips Bergamo y Genoa. No analizaron la GPU, que es el componente clave para proceso y desarrollo de IA. En GPTshop indican que la potencia es de 989 TFLOPS FP32. El de las RTX 4090 es de 82,58 TFLOPS.
Pero es muy cara (o quizás no tanto). El problema de esta estación de trabajo es que parte de los 45.900 euros —hay una versión con refrigeración líquida y más memoria por 62.500—, una cantidad que lo aleja desde luego de muchos de nuestros bolsillos. Aún así, el precio no es en absoluto nada descabellado teniendo en cuenta que solo la tarjeta gráfica H100 puede rondar los 40.000 dólares. Por un poco más tendremos una máquina con una GPU aún mejor y ya preparada para comenzar a trabajar desde el minuto cero.
Ver 0 comentarios