Tradicionalmente, la industria tecnológica se ha movido a pasos agigantados y lo que hoy es última generación, mañana está anticuado. Sin embargo, con el auge de la IA las tornas han cambiado, al menos en lo relacionado con las gráficas, según afirma el máximo responsable de NVIDIA, Jensen Huang.
Jensen Huang afirma que las GPUs antiguas «están envejeciendo como el buen vino». En lugar de depreciarse con el tiempo, se están revalorizando impulsadas por una demanda que no para de crecer.
Esta metáfora siempre ha estado asociada a la mejora de rendimiento que reciben las gráficas conforme los fabricantes optimizan los drivers (Intel con las Intel Arc Series A es un buen ejemplo) y anteriormente ya se utilizó con las GPU Vega de AMD. Sin embargo, ahora tiene un significado completamente diferente.
El auge de la IA revaloriza las GPUs antiguas
Esto se debe a que las GPUs se están convirtiendo en un producto cada vez más escaso debido a la IA, por lo que su valor se incrementa, especialmente en el nicho de mercado correspondiente a los centros de datos.
La anomalía, por decirlo de una forma sencilla, que estamos viviendo en el mercado ha provocado el efecto contrario al esperado, donde los aceleradores de generaciones anteriores se están apreciando más rápido que el buen vino debido a la presión que las necesidades de la Inteligencia Artificial ejercen sobre la cadena de suministro.
La explicación es sencilla:
- Explosión de la demanda de GPUs para IA.
- Oferta limitada en el mercado.
- Los centros de datos no pueden esperar a varios meses para cubrir su demanda.
Esto convierte a gráficas de NVIDIA como la A100 (lanzada en 2020), la H200 (disponible desde 2024) y los modelos H100 y la L40S (de 2022), en un hardware muy deseado, a pesar de llevar 6, 2 y 4 años en el mercado respectivamente según afirman desde CoreWeave. CoreWeave afirma que estos aceleradores han experimentado un continuo incremento de precio y que su capacidad de distribución está saturada.
Las GPU antiguas son oro para la IA
Si bien es cierto que los modelos actuales de NVIDIA ofrecen una mayor eficiencia energética y rendimiento, los modelos más antiguos siguen siendo una excelente opción para inferencia a gran escala (donde la latencia y el consumo son importantes), clústers secundarios (para ampliar la capacidad actual de los centros de datos) y para proyectos de IA sencillos que necesitan disponibilidad inmediata.
La limitación de suministro actual no solo afecta a las GPUs como todos sabemos, también afecta las CPUs, DRAM y unidades de almacenamiento entre otros cuya disponibilidad en el mercado también se está viendo afectada por elevada demanda de servicios de IA. Todo parece indicar que está será la tónica habitual en los próximos años, siempre y cuando la burbuja que rodea a la IA no estalle y se lleve a más de la mitad de las empresas por delante, como ya pasó en los 2000 con la burbuja de las .com.