Todos sabemos que la memoria RAM es un componente indispensable en cualquier sistema informático, ya que supone un almacenamiento temporal para que el procesador pueda guardar los resultados de sus cálculos y así poder acceder a ellos rápidamente cuando los necesite (además, también sabemos que el acceso de la CPU a la memoria es casi instantáneo). Sin embargo, ¿y si estos cálculos los pudiera hacer la memoria RAM por sí misma y la CPU no se los encontrara ya hechos? Este concepto de «memoria que piensa por sí misma» es precisamente lo que Samsung ha propuesto durante el evento Hot Chips 33, y es de lo que os vamos a hablar a continuación.
Durante el mencionado evento, Samsung ha anunciado que pretende ampliar su tecnología de procesamiento en memoria a sus chips DDR4, GDDR6 y LPDDR5X, además de los chips HBM2 con los que lleva ya tiempo trabajando. A principios de año, la compañía coreana ya anunció que su memoria HBM2 era capaz de realizar cálculos con una potencia de 1,2 TFLOPS para cargas de trabajo de IA, lo que permite que la propia memoria alivie cierto nivel de carga de la CPU (o GPU, FPGA, etc.). Por supuesto, esto sería extrapolable a las GPU gaming, un hecho que marcaría todo un hito en la industria.
Samsung propone memoria capaz de realizar cálculos
El anuncio que han realizado durante el evento desvela la marca Aquabolt-XL y viene de la mano con la inclusión de los módulos AXDIMM DDR4 y la memoria LPDDR5, ambos con potencia de cómputo integrada. Estos chips cuentan con un pequeño motor para IA dentro de cada chip DRAM, permitiendo el procesamiento en memoria, lo que a su vez supone que ahora estos datos no tendrán que ir del procesador a la memoria y de la memoria al procesador, sino que como ya estarán en la memoria, el procesador solo tendrá que «cogerlos» y así nos ahorramos, literalmente, un viaje completo, ahorrando tiempo y energía.
Los chips Aquabolt-XL HBM-PIM de Samsung ya forman parte del catálogo de productos de la compañía; funcionan con una controladora HBM2 que cumple con los estándares JEDEC, por lo que supone un reemplazo directo a la memoria HBM2 de Samsung. Por cierto, que durante el evento Samsung mostró cómo esta memoria podía reemplazar su memoria HBM2 anterior en un sistema FPGA Xilinx Alveo sin realizar modificaciones en este, obteniendo una ganancia de rendimiento de 2,5X y con una reducción del 62% en el consumo.
A pesar de que esta tecnología de procesamiento en memoria de Samsung es perfectamente compatible con cualquier controlador de memoria existente, hay que tener en cuenta que cuando los fabricantes de CPU (Intel, AMD, IBM, etc.) le den un soporte mejorado, también dará como resultado un mejor rendimiento todavía, al menos en algunos escenarios específicos. Samsung dice que está ya realizando pruebas con algunos fabricantes para usarlo en sus productos futuros, pero en principio como todo es estándar, debería funcionar literalmente en cualquier sistema que sea compatible con HBM2 (por ejemplo Sapphire Rapids de Intel o Genoa de AMD lo son).
Como es normal, este procesamiento en memoria que ha mostrado Samsung sería especialmente útil en centros de datos, en gran parte porque es ideal para cargas de trabajo de Inteligencia Artificial. No obstante, la compañía también prevé que esta tecnología se pueda utilizar en plataformas de consumo ya que las ganancias son evidentes, y con este fin también han hecho una demostración de un nuevo formato de módulos de memoria RAM: AXDIMM.
Estamos ante un prototipo (por ahora) de DIMM de aceleración que realiza el trabajo de procesamiento de datos en un chip de búfer integrado en el propio módulo; Samsung dice que estos módulos pueden instalarse en cualquier servidor que soporte memoria RAM DDR4 en formato LRDIMM o UDIMM (es de suponer que el soporte para DDR5 llegará pronto), lo que significa que el conteo y la forma de los pines es idéntico a DDR4.
Samsung pretende establecer un nuevo estándar
Durante el evento Hot Chips 33, Samsung ha demostrado el funcionamiento de este nuevo tipo de memoria que, literalmente, es capaz de realizar procesamiento por sí misma y que como hemos comentado alivia la carga del procesador central del sistema. Por ahora este procesamiento solo es para ciertos tipos de operaciones de IA, pero la compañía es optimista en cuanto a su integración y sus posibilidades.
Aprovechando que la tecnología de los chips DRAM que «piensan por si mismos» es compatible con cualquier controlador de memoria y que físicamente los módulos se pueden instalar en los zócalos de memoria ya existentes, la compañía dice que podría crear este tipo de memoria para casi cualquier sistema y, de hecho, ha realizado demostraciones tanto con HBM2 como con DDR4, LPDDR5X e incluso memoria gráfica, GDDR6. A este último respecto, la compañía es especialmente optimista ya que el soporte para CXL también podría estar en el horizonte. Integrar este tipo de chips en la memoria gráfica de una tarjeta gráfica moderna podría suponer un salto en prestaciones y rendimiento que, hasta ahora, tan solo podríamos imaginar.
Finalmente, la compañía ha dicho que estos primeros productos Aquabolt-XL HBM2 ya están disponibles para que los fabricantes puedan comprarlos desde el día de hoy, mientras que sus otros productos entrarán en su catálogo muy pronto porque ya los tienen en desarrollo. Esto significa que, a medio plazo, podríamos comenzar a ver productos que integren esta memoria de Samsung capaz de procesar datos en la propia memoria, algo que en teoría supondrá un incremento notable tanto de rendimiento como de eficiencia energética.
Si esto es el futuro o no el tiempo lo dirá, pero desde luego Samsung es tremendamente optimista al respecto y apuestan porque sí. Solo resta ver si los fabricantes de la industria se animan a intentar integrar esta memoria en sus productos y cómo lo hacen.