Los Ryzen AI 300 Series superan fácilmente a sus competidores en cargas de trabajo de IA
La llegada de los procesadores que incorporan una NPU ha supuesto una revolución para las tecnologías relacionadas con la inteligencia artificial, y es que la implementación de este chip permite que logren alcanzar un rendimiento excepcional en la mayoría de los casos. Ahora, conocemos cuál es la realidad de los procesadores Ryzen AI 300 de AMD, y es que la potencia que ofrecen estas nuevas APU nos enseñan las capacidades que tiene la compañía de superar lo que ofrecen sus principales contrincantes, y es que cuentan con un rendimiento en IA extremadamente alto.
No hay un solo día en el que no se hable de la inteligencia artificial, ya sea pro los avances que se han hecho o directamente por la forma en la que la mayoría de las compañías están intentando venderla aunque en gran parte no sea algo que se pueda implementar (de momento) a gran escala entre los usuarios. Pero con la llegada de los nuevos procesadores de las principales compañías esto solo se hace más eco, y es que como bien sabemos tanto Intel como AMD han puesto el foco de sus procesadores para sistemas portátiles en ofrecer el mejor rendimiento relacionado con esta tecnología, y ahora conocemos la comparación entre los productos de ambas compañías.
Con un rendimiento impresionante, los Ryzen AI 300 podrían ser las mejores CPU para IA
Uno de los aspectos principales que tienen los procesadores que buscan ofrecer el mejor rendimiento en inteligencia artificial es la funcionalidad que tienen con los diversos LLM que hay en el mercado, incluso los más sofisticados que pueden encontrarse en internet. En este caso, desde AMD han realizado una serie de pruebas que comparan su chip con el de su principal contrincante, Intel, en funciones de inteligencia artificial, y en este caso la marca creadora de los Ryzen sale ganando por bastante, aunque en la comparación se pone a prueba un Ryzen AI 9 HX 375 frente a un Intel Core Ultra 7 258V.
El procesador de AMD cuenta con una serie de ventajas que logran ofrecer un rendimiento superior, algo que podemos observar en la generación de tokens que tienen ambos procesadores en el LLM basado en Llama.cpp, LM Studio, presentando una ventaja máxima de un 27% de rendimiento adicional en comparación con el de Intel, sin dejar de lado la latencia, ya que es prácticamente 3 veces más baja que la de su contrincante.
Pero esto no es todo lo que ofrece, ya que estos datos están tomados al utilizar únicamente los módulos principales para IA que serían CPU+NPU, y es que al activar la iGPU junto con la función llamada memoria gráfica variable (VGM), el rendimiento aumenta todavía más, en el caso de utilizar solo la iGPU vemos cómo logra superar por 16 tokens lo que ofrecía de máximo en Meta Llama 3.2 1b, mientras que con el VGM, aumenta en casi 31 tokens en comparación con la forma estándar.
Una de las demostraciones que ofrecen compara los modelos proporcionados con Intel AI Playground, que son Mistral 7b Instruct v0.3 y Microsoft Phi 3.1 Mini Instruct, utilizando una cuantización comparable en LM Studio, nos enseñan que el AMD Ryzen AI 9 HX 375 es un 8,7% más rápido en Phi 3.1 y un 13% más rápido en Mistral 7b Instruct 0.3.