El consumo de energía de las GPU H100 para IA de NVIDIA será superior al de algunos países
Una de las GPU más vendidas en todo el mundo para entrenar Inteligencias Artificiales es a H100 de NVIDIA, una gráfica que las grandes empresas compran por contenedores gracias a su escalabilidad (se pueden conectar hasta 256 H100) y rendimiento siendo Microsoft y muchas empresas chinas, los principales compradores.
Microsoft lleva varios meses planteándose la posibilidad de crear su propia gráfica para sus necesidades de IA que, con el lanzamiento oficial de Copilot en casi todo el mundo excepto en Europa, es ahora mucho más elevada y seguirá siendo cuando a principios de 2024 esté disponible en Europa una vez cumpla con la Ley de Mercados Digitales de la Unión Europea.
Según diferentes estimaciones, el número de unidades del modelo H100 de NVIDIA disponibles a finales de 2023 será de 1,5 millones y para 2024, se estima que se vendan 2 millones de unidades más, todas ellas destinadas a grandes centros de datos. Esta GPU tiene un consumo máximo de energía de 700W, más que el promedio de la mayoría de los hogares estadounidenses.
Teniendo en cuenta el consumo de energía de estas gráficas, ya podemos encontrar algunos centros de datos que tienen un consumo de energía similar al de países como Chipre, un consumo que, conforme se vayan vendiendo más unidades, se irá incrementado dejado a Chipre como una simple anécdota.
Según afirma Paul Churnock, ingeniero de centros de datos de Microsoft a través de LinkedIn, con una utilización anual del 61% de una GPU H100 de NVIDIA, para finales de 2024, el consumo de energía podría ascender hasta los 13.091 GW/h.
Si, a las unidades que se han vendido en 2023, sumamos la previsión de ventas para 2024, para finales del año que viene, el consumo de este modelo de gráficas en conjunto podría superar al consumo de energía de países como Siria, Costa Rica, Lituania, Georgia y Panamá entre otras (basándonos con el consumo de 2021 disponible en la Wikipedia).
NVIDIA está trabajando en modelos superiores a la H100, concretamente el modelo B100, una GPU que ofrecerá un mayor rendimiento que irá asociado a un mayor consumo de energía, pero permitirá aprovechar la energía que consume para realizar el mismo trabajo que las H100 de la actualidad en menos tiempo, optimizando así la relación rendimiento-consumo.
Lo que está claro es que, de cara al futuro, el consumo de energía no se va a reducir. Lo único que se reducirá será el tiempo necesario para realizar los procesos de entrenamiento.
El mundo gira en torno a la IA
En 2022, la Inteligencia Artificial llegó a todo el mundo, aunque ya llevaba varios años en funcionamiento, no fue hasta el año pasado cuando cualquier usuario con acceso a Internet ha tenido la oportunidad de interactuar directamente con ella para crear textos, resolver preguntas, crear imágenes e incluso vídeos.
Todo parece indicar que, en los próximos años, el mundo girará en torno a la Inteligencia Artificial. Aunque es poco probable que nos encontramos con un Skynet de Terminator en un futuro, tanto la Unión Europea como Estados Unidos, están vigilando como se está utilizando esta tecnología y hasta dónde puede llegar a evolucionar.
