El auge de la IA local se consolida con 1.3 mil millones de descargas de LLM, impulsado por modelos que ya igualan el rendimiento de la nube. Para eliminar barreras técnicas, NVIDIA simplifica la instalación de agentes a un solo clic y presenta NVIDIA Pair, una herramienta de código abierto que distribuye la carga de procesamiento entre los dispositivos del hogar sin ralentizar otras tareas.
A esto se suma el lanzamiento del SoC N1X con arquitectura Blackwell para potenciar los nuevos equipos RTX Spark. Con optimizaciones de velocidad en motores como Llama.cpp y el respaldo de gigantes del videojuego como EA y Ubisoft, la IA local se vuelve más accesible, privada y potente.
Crecimiento de la IA Local y los Agentes
El elevado coste de algunos planes de suscripción de Inteligencia Artificial está haciendo que muchos usuarios y empresas hayan decidido empezar a utilizar IA local en combinación con agentes.
Se han registrado 1.3 mil millones de descargas de LLM, lo que representa un crecimiento de 4 veces respecto al año anterior, impulsado por usuarios que buscan experimentación ilimitada y reducir costos de tokens.
El auge de la IA local se debe a que nuevos modelos igualan el rendimiento de los modelos en la nube. Por ejemplo, en solo cuatro meses, modelos locales como GLM 5.3 y Qwen 3.8 Flash Next han logrado igualar en benchmarks al modelo Opus 4.7 de Anthropic.
En el ámbito de la generación de vídeo, el modelo local Minimax H3 (lanzado en agosto) ha logrado igualar en calidad al modelo Gemini Omni Flash de Google.
Simplificación de la IA Local: instalación en un clic
Anteriormente, configurar un modelo local requería investigar sobre cuantización, motores de inferencia y configuraciones complejas. NVIDIA ha colaborado con los principales desarrolladores de agentes para simplificar este proceso a un solo clic:
- Hermes Agent: Ofrecerá una opción de configuración de IA local con un solo clic para GPUs NVIDIA RTX y sistemas DGX en Windows y Linux a partir de septiembre para GPUs de NVIDIA con 24 GB o más.
- OpenClaw 2.0: Lanzó su versión 2.0 y habilitará la configuración de IA local con un solo clic para GPUs NVIDIA con 24 GB de VRAM o más.
- Perplexity Portable Computer: Esta aplicación (que ya estaba en DGX Spark) llegará a GPUs RTX en Windows y Linux (para GPUs con 24 GB de VRAM o más). Permite un enfoque híbrido: chats privados y locales con tokens ilimitados, y escalado automático a la nube para tareas complejas o búsquedas en línea.
Optimizaciones de Rendimiento e Inferencia
NVIDIA continúa colaborando con las comunidades de código abierto para optimizar la inferencia en plataformas locales:
- Llama.cpp: Sus últimas actualizaciones ofrecen hasta un 1.9x más de rendimiento (throughput) gracias a optimizaciones de kernel, decodificación especulativa mejorada y prellenado más rápido.
- vLLM: Ofrece una mejora de rendimiento de 1.2x en la GPU RTX Pro 6000 Blackwell y de hasta 1.4x en sistemas DGX Spark.
NVIDIA Pair: el enrutador de IA Personal para el Hogar
NVIDIA presentó NVIDIA Pair, una herramienta de software (no un router físico) diseñada para distribuir de forma inteligente la inferencia de IA entre los múltiples dispositivos del hogar.
Se instala en cada PC y descubre automáticamente otros dispositivos en la red local mediante mDNS, emparejándolos con un código seguro de seis dígitos y comunicándose a través de canales seguros mTLS.
El sistema es consciente de la utilización de la GPU y de la profundidad de la cola de tareas (Q-depth). Si el usuario está jugando o renderizando en una PC, Pair evita ese nodo y envía la inferencia a otro dispositivo libre.
Es compatible con Windows, Linux y macOS y no se limita a GPUs NVIDIA. Funciona con cualquier GPU compatible con Ollama o LM Studio (incluyendo Apple Silicon). Ha sido probado con éxito con hasta 18 GPUs en una misma red.
El proyecto se lanzará como código abierto bajo la licencia permisiva Apache 2.0 el 3 de septiembre. NVIDIA Pair es ideal para flujos de trabajo multiagente (donde un agente principal delega tareas en paralelo a sub-agentes), multitarea y descarga del sistema (para no ralentizar la PC principal mientras se juega o trabaja).
RTX Spark y el SoC N1X
NVIDIA lanzará al mercado a través de fabricantes los nuevos RTX Spark diseñados para tareas de IA de forma local e incluso para jugar.
Estará disponible con dos configuraciones, ambas con la misma denominación: N1X.
- GPU Blackwell de 6.144 núcleos, CPU Grace de 20 núcleos y configuración de memoria unificada de 24 a 128 GB. Disponible en portátiles y mini PCs
- GPU Blackwell de 5.120 núcleos, CPU Grace de 18 núcleos y de 24 a 32 GB de memoria unificada. Disponible inicialmente para portátiles
