La IA parece ser la dirección en que se está moviendo el mundo. Da igual que pongamos la vista en ordenadores de escritorio, portátiles o dispositivos móviles. Cada vez más, los aparatos están añadiendo las unidades NPU destinadas a trabajar con la IA. La cuestión es: ¿necesitas de verdad una NPU en tu procesador para aprovecharla, o puedes tirar simplemente de servicios en la nube?
A día de hoy, los fabricantes de chips están vendiendo ordenadores con IA incorporadas (sin ir más lejos, los Copilot PC). Estos dispositivos cuentan con una Unidad de Procesamiento Neuronal (o NPU) integradas en Intel Core, AMD Ryzen o Qualcomm Snapdragon. Lo que nos promete ejecutar tareas de IA más rápidas y eficientes. Todo sin salir de nuestro propio PC.
Pero gran parte de la actividad de IA que conocemos, que va desde chatbots, pasando por generación de imágenes hasta nuevo contenido musical, ya funciona perfectamente en la nube. Tenemos servicios como Gemini, ChatGPT, Perplexity, Claude… Todo sin necesidad de chips. Por lo que la cuestión es saber hasta qué punto confías en la privacidad online de estos servicios.
IA local sin NPU ¿Es posible?
La IA local, algo que habrás leído recurrentemente en los últimos tiempos, consiste en ejecutar modelos de IA directamente en tu PC. Para ello, se nutre de nuestra CPU y GPU, sin dependere de servidores externos. A día de hoy, podemos acceder a apps y herramientas como LM Studio, Ollama o Jan AI que nos proveen de clientes de LLM para nuestro escritorio. Esto nos permite interactuar con modelos de lenguaje, generar imágenes y usar asistentes en nuestro propio PC. Y hablamos de ordenadores que pueden considerarse de gama media.
La principal ventaja de la IA local sin NPU son muy claras. En primer lugar, tenemos una privacidad total. No tenemos que enviar ningún tipo de dato a la nube. Pero también tiene una menor latencia en tareas concretas, porque los datos no «van y vienen» desde servidores. E incluso si nuestro internet falla, podemos utilizarla de manera offline. Pero la otra cara de la moneda es que su rendimiento depende al completo de nuestro hardware. Los modelos más grandes pueden requerir RAM, VRAM y tiempo de procesamiento. Por lo que, cuanto más antiguo sea nuestro PC, más va a sufrir para realizar este tipo de actividades.
Aun así, es viable para tareas básicas, como resúmenes de documentos o criptografía.
IA en la nube vs NPU
La IA en la nube es, básicamente, todo modelo que conoces a nivel comercial. Este sistema aprovecha el hardware de los inmensos centros de datos, que cuentan con sus propias gráficas y TPUs pensadas para una inmensa capacidad de respuesta a nivel global. Por eso es capaz de respondernos con mucha rapidez y con más capacidad que prácticamente cualquier PC. Por lo que, su gran baza es que cuenta con una potencia casi ilimitada. Pocos dudaremos de que Google dispone de medios más potentes para la generación de contenido que el PC de nuestra casa o incluso el servidor de nuestra empresa. Pero, a cambio de ello, tenemos la mayor desventaja: su suscripción, que en la mayoría de modelos ronda los 10-20 euros mensuales para planes premium estándar. Y, sobre todo, la pérdida de control de nuestros datos.
Precisamente aquí es donde entra la NPU. La encargada de acelerar tareas de IA local, reducir el impacto en la batería de un portatil y, sobre todo, liberar la carga del procesador y la gráfica para estas tareas. Un chip perfecto para funciones de IA como traducción en tiempo real, efectos de cámara, resúmenes de vídeo o detección de voz y gestos.
Por lo tanto, no es obligatorio contar con una NPU para usar la IA en nuestros dispositivos. La nube ya cubre casi todo el espectro de lo que necesitemos de una inteligencia artificial. Pero si valoras tu privacidad por encima de todo y quieres un mejor rendimiento, una NPU es precisamente lo que necesitas para dar un nuevo cerebro a tu PC.