En los últimos meses, la Inteligencia Artificial está en boca de todos, al igual que lo está NVIDIA puesto que gracias al desarrollo de chips específicamente diseñados para ella se ha convertido en la compañía más valiosa del mundo. Por supuesto, siguen trabajando en seguir siendo la punta de lanza de esta tecnología pero, ¿a qué coste? Hoy se ha sabido que su próximo superchip, el NVIDIA GB200 que integra tanto CPU como GPU, tendrá un consumo de 2.700 vatios, una auténtica barbaridad.
La IA ha logrado hacerse un hueco y formar parte de nuestra vida cotidiana en diversos ámbitos, y las compañías están todas apretando el acelerador para intentar subirse al tren y reclamar su parte del pastel. Pero lo que no se ve es que para que la IA funcione, se necesitan inmensas granjas de servidores como el que ya nos mostró Elon Musk hace unas semanas, con nada más y nada menos que 100.000 gráficas NVIDIA H100, una granja de servidores que prácticamente necesita una central eléctrica para ella sola…
El consumo del próximo superchip de NVIDIA es exagerado
Hoy mismo, la famosa empresa TrendForce ha publicado un nuevo informe en el que dicen que el consumo de energía de los servidores para IA aumenta al mismo ritmo que lo hace su potencia, y que estos valores se están viendo incrementados prácticamente día a día. Además, en el informe señalan específicamente la arquitectura Blackwell de próxima generación de NVIDIA, que estará encabezada por el superchip GB200.
En teoría, este superchip NVIDIA Blackwell GB200 no se lanzará oficialmente hasta el año que viene, y reemplazará a la actual plataforma Hopper convirtiéndose en el principal producto de gama alta de la compañía.
Estamos ante un «superchip» con todas las de la ley, con una potencia abrumadora pero el tema del consumo está empezando a ser motivo de preocupación para muchos. Para poner esto en contexto, el consumo de energía de un solo chip Blackwell B200 llegaría a 1.000 vatios, pero el superchip GB200 que combina una CPU Grace con dos GPU Blackwell alcanza unos aterradores 2.700 vatios de consumo.
Si echamos un poco la vista atrás, podemos ver que el producto para IA más famoso de NVIDIA hasta ahora, el H200, tiene un consumo máximo de 700 vatios, mientras que otros productos como la NVIDIA H20 solo requiere 400W. Por otro lado, el anterior superchip G200 (Grace + Hopper) tiene un consumo de 1.000 vatios, que como hemos mencionado antes es lo que consume un solo chip Blackwell B200.
Dicho de otra manera, el consumo de los chips para IA de NVIDIA se les está yendo de las manos, y mucho. Están incrementando el rendimiento a base de fuerza bruta sin mirar para nada la eficiencia, o al menos eso es lo que parece, y sí, son los chips para IA más potentes del mundo pero a un coste energético brutal.
Ahora, poniendo todos estos datos en perspectiva, imaginad lo que necesitará una granja de servidores para IA con miles de estos superchips. Ya no es solo el consumo que tienen estos, es que harán falta soluciones muy avanzadas de refrigeración líquida para mantenerlos en funcionamiento, y si muchas veces la gente dice a modo de broma que necesitas un reactor nuclear para dar servicio a estas cosas… al final va a terminar siendo algo literal.
