Ya puedes ponerle una gráfica a tu Raspberry Pi para jugar o acelerar una IA
Hay muchas ocasiones en las que podemos pensar que un tipo de hardware es realmente simple debido a que tanto su tamaño como todo lo que incorpora está diseñado para que así lo parezca, pero esto no implica que a la hora de configurarlo sea así. Esto lo demuestra un usuario que ha logrado hacer varios proyectos relacionados con la potencia que puede llegar a tener una Raspberry Pi cuando se le conectar componentes adicionales de PC, y es que esta vez ha logrado acelerar las funciones de IA relacionadas con un LLM en una Raspberry Pi conectando directamente una GPU externa.
Uno de los principales motivos por los que las Raspberry Pi han logrado convertirse en uno de los dispositivos más utilizados para todo tipo de proyectos está en la simpleza que ofrecen a la hora de utilizarlas por primera vez, pero con la capacidad de configurarlas al máximo para lograr crear todo lo que se nos pueda ocurrir. Hemos visto muchas veces cómo algunos usuarios la utilizaban para dar vida a sus proyectos más complicados, pero ahora, también la hemos visto funcionar como si fuese un ordenador normal con una gráfica orientada para jugar, pero que también es perfecta para utilizar funciones relacionadas con la IA.
Es posible conectar una eGPU a una Raspberry Pi para aumentar su rendimiento en IA
Las Raspberry Pi son un tipo de ordenadores en una sola placa que tienen un potencial mucho más alto de lo que podemos pensar, la propia compañía desarrolladora ha lanzado diversos módulos que permiten aumentar sus capacidades al añadir funciones IA u otros componentes como un SSD. Pero ahora, un usuario conocido como Jeff Geerling en Youtube ha demostrado que es posible lograr que tengan un rendimiento incluso más alto si conectamos una tarjeta gráfica externa, algo que dio a conocer cuando probó como funcionaban diversos juegos triple A, pero que ahora ha querido probar con la inteligencia artificial.
Esto ha supuesto todo un reto según indica, ya que no es para nada fácil lograr incorporar una GPU externa en una Raspberry Pi, y menos crear una compatibilidad con un LLM para aumentar el rendimiento de la inteligencia artificial. En este aspecto, Jeff indica que que la respuesta a los LLM acelerados por GPU en la Pi 5 es la API Vulkan, pero que aun así es algo extremadamente complicado ya que es necesario que el propio usuario compile su propio kernel de Linux, reúna un puñado de controladores y parches, y mucho más para lograr hacer que funcione.
Pero esto no es lo único que debemos tener en cuenta, y es que si queremos conectar una GPU a la propia Raspberry nos daremos cuenta de que es bastante difícil, ya que en este caso, Geerlink ha utilizado un adaptador para convertir el conector PCIe Express FFC de la Raspberry Pi en una ranura M.2 a la que luego conecta la propia GPU. Esto lo hace mediante un adaptado M.2 a OCuLink junto con cable elevador GPU OCuLink, mostrando en el vídeo que utiliza una RX 6700 XT, a la que obviamente también hay que conectarle una fuente de alimentación.
