- Consiguen ejecutar juegos de PS5 en una PS4: así funciona este sorprendente proyecto
- Sony deja de ofrecer PlayStation Plus en PC: jugar sin una PS5 o PS4 ya no será posible
- Por qué PS4 y PS5 no pudieron emular PS3 y PS6 sí podría lograrlo
Con 13 años en el mercado, y con la PS5 disponible desde hace 6 años, la PS4 hace tiempo que dejó de ser una opción para jugar, especialmente en los últimos años, ya que los desarrolladores únicamente centran sus esfuerzos en optimizar sus títulos para la consola más moderna de Sony. Sin embargo, eso no significa que esté completamente olvidada ya que un desarrollador ha conseguido que ejecute un modelo de Inteligencia Artificial de forma local, dándole una segunda vida.
En resumen
- El desarrollador peruano Leonardo Alegría ha creado Garlic LLM, un proyecto que ejecuta el modelo Qwen3.5-9B de forma local en PlayStation 4.
- Garlic LLM alcanza velocidades de entre 31 y 39 tokens por segundo en conversaciones normales, con picos de 43 tokens al generar código.
- Es compatible solo con PS4 original y PS4 Slim, y requiere tener instalado GoldHEN y un entorno homebrew para funcionar.
Según afirman desde VideoCardz, el peruano Leonardo Alegría ha creado Garlic LLM, un proyecto que permite ejecutar Qwen3.5-9B sin necesidad de instalar Linux, conectar a un PC o utilizar una conexión a Internet con un rendimiento que llama especialmente la atención, siendo capaz de conseguir velocidades de entre 31 y 39 tokens por segundo, llegando a picos de 43 tokens generando código.
Garlic LLM consigue aprovechar el hardware de hace 13 años de la PS4 para Inteligencia Artificial
Este proyecto de código abierto es capaz de aprovechar la arquitectura AMD Graphics Core Next (GCN) de PlayStation 4 para ejecutar un modelo de lenguaje de forma local. Esto es importante porque no hablamos de una consola diseñada para hacerlo, de hecho, cuando llegó al mercado la Inteligencia Artificial todavía estaba muy lejos de explotar como lo ha hecho en los últimos 4 años.
Al no estar diseñada para este tipo de tareas, no cuenta con una API específica para realizar cálculos de IA ni con bibliotecas que utilizan los desarrolladores para trabajar con LLMs.
Para solucionar estas limitaciones, su desarrollador tuvo que crear sus propios kernels utilizando OpenCL y compilarlos para la arquitectura GCN de AMD. Además, en lugar de depender de un controlador gráfico convencional, Garlic LLM se comunica con la GPU mediante comandos PM4.
Además, también tuvo que lidiar con limitación de memoria que, este modelo es de 8 GB compartida entre la CPU y la GPU, una cantidad bastante limitada para ejecutar un modelo de 9.000 millones de parámetros. Para conseguirlo, utilizó técnicas de cuantización de 3 y 4 bits, lo que permitió reducir considerablemente el espacio necesario en la memoria para almacenar el modelo.
Hasta 39 tokens por segundo
El modelo utilizado genera unos 22 tokens por segundo, cifra que no está nada mal teniendo en cuenta el hardware de la PS4.
Para ampliar su capacidad para generar tokens y reducir los tiempos de respuesta, implementó la técnica speculative decoding aprovechando la capacidad Multi-Token Prediction (MTP) de Qwen 3.5, una técnica de optimización arquitectónica que permite al modelo predecir y generar varios tokens futuros de forma simultánea en cada paso de inferencia, incrementando así la velocidad de procesamiento.
Tras implementar esta técnica, logró aumentar la velocidad entre 31 y 39 tokens por segundo en conversaciones normales, subiendo hasta 43 tokens por segundo al generar código. Garlic LLM no es un simple Chatbot, ya que también cuenta con funciones de reconocimiento y generación de voz.
Para hacerlo, utiliza modelos adicionales de NVIDIA y Chatterbox lo que permite mantener conversaciones habladas en siete idiomas, incluyendo el español. Además, cuenta con una función de dictado en 25 idiomas y un modo Python que permite ejecutar MicroPython generado por el propio modelo.
Garlic LLM solo es compatible con la PS4 original y la PS4 Slim, de momento la PS4 Pro se queda fuera. Para poder utilizarlo, es necesario que la consola cuente con GoldHEN (se salta las restricciones de seguridad de Sony) y el entorno homebrew para instalar aplicaciones creadas por la comunidad.
