NVIDIA ahorrará 11 billones de vatios enfriando sus gráficas con agua
No hay duda de que el mercado va hacia un consumo más y más grande en cualquier chip. Pero si se trata de tarjetas gráficas entonces el problema es mayor debido a que el margen también es superior al de otros componentes. Pero si además de esto empresas como NVIDIA disparan el rendimiento y llevan de la mano el consumo nos encontramos con un problema que en servidores solo va a tener una solución: refrigerar por agua las GPU A100 y posteriormente sus H100.
A diferencia de otras generaciones donde la eficiencia era mayor, NVIDIA y AMD van hacia un mayor rendimiento empujadas la una por la otra, tanto en PC como en servidor. El problema es que las A100 consumen bastante y al precio al que está la energía muchas empresas están comenzando a temblar por los costes de la factura de la luz, así que los ensambladores de servidor están reaccionando ante esto.
Equinix pasará por agua las NVIDIA A100
Esta empresa es un proveedor de servicios globales que administra más de 240 centros de datos por todo el mundo y dados los requerimientos de energía del nuevo hardware de NVIDIA y las necesidades de sus clientes la compañía ha tomado cartas en el asunto:
“Tenemos 10,000 clientes que cuentan con nosotros para ayudarlos con este viaje. Exigen más datos y más inteligencia, a menudo con IA, y la quieren de manera sostenible”
Hablar de sostenibilidad no es solamente consumir menos energía no verde, sino también reducir el impacto ambiental y por supuesto, el de la factura de la luz. Al final, cualquier empresa lo que busca es el mayor rendimiento, con la menor inversión y con el menor coste de mantenimiento, sin más, y por ello desde Equinix aseguran que la refrigeración líquida es el próximo paso para la computación acelerada dentro de las GPU de NVIDIA, donde aseguran que se puede lograr hasta 20 veces más eficiencia en trabajos de inferencia de IA y HPC frente a las CPU.
Eficiencia vs temperatura vs consumo
La compañía asegura que dejando atrás los servidores de CPU para IA y HPC y cambiándolos a GPUs por agua se puede ahorrar la friolera de 11 billones de vatios por hora, lo que equivale al consumo de 1,5 millones de hogares al año. Por lo tanto, la compañía en asociación con NVIDIA va a ofrecer las GPU A100 con sus 80 GB con refrigeración líquida custom para sus centros de datos, siendo algo pionero para la empresa:
“Esta es la primera GPU refrigerada por líquido que se presenta en nuestro laboratorio, y eso es emocionante para nosotros porque nuestros clientes están hambrientos de formas sostenibles de aprovechar la IA”
El sistema que usarán será cerrado para minimizar las pérdidas de líquido y tendrán ambientes controlados en temperatura y humedad para reducir al mínimo la capilaridad. Los primeros datos que ofrecen son muy prometedores, puesto que a misma carga de trabajo en las mismas condiciones al enfrentar la refrigeración por aire frente al agua han logrado que la GPU use casi un 30% menos de energía.
Pero no solo eso, sino que los centros de datos con GPUs por agua pueden lograr el doble de cómputo en el mismo espacio físico debido a la reducción que supone un bloque de agua frente a un disipador (1 slot vs 2 slots). La opción de Equinix es tan prometedora que casi una docena de fabricantes se subirá al carro para sus productos, entre los que se encuentran: ASUS, ASRock Rack, Foxconn Industrial Internet, GIGABYTE, H3C, Inspur, Inventec, Nettrix, QCT, Supermicro, Wiwynn y xFusion.
Pero el camino no termina aquí, sino que comienza, puesto que Equinix comenzará a trabajar con la NVIDIA H100 en cuanto terminen las pruebas de la A100, algo que según la compañía se hará en un futuro previsible.
