¿Qué es el concepto SWAR y porqué utilizado en CPUs, GPUs y NPUs?

¿Qué es el concepto SWAR y porqué utilizado en CPUs, GPUs y NPUs?

Redacción

El concepto SWAR a muchos os resultará extraño, pero, ¿qué ocurre si os decimos que las unidades SIMD de vuestras CPUs, GPUs en vuestros sistemas son en su mayoría del tipo SWAR? Este tipo de unidades difieren de las unidades SIMD convencionales y tienen su origen en las extensiones multimedia de finales de los 90. ¿Qué son y cuál es su utilidad a día de hoy?

El rendimiento de un procesador se puede medir de dos maneras, por un lado lo rápido que ejecuta las instrucciones en serie y que por tanto no pueden ser paralelizadas, ya que solo afectan a un dato unitario. Por el otro lado aquellas que trabajan con varios datos y pueden ser paralelizados. ¿La forma tradicional de hacerlo en CPUs y GPUs? Las unidades SIMD, de las cuales existe un subtipo que es altamente utilizado en CPUs y GPUs, las unidades SWAR.

Las ALUs y su complejidad

1 bit ALU

Antes de ponernos a hablar sobre el concepto SWAR hemos de tener en cuenta que las ALUs son las unidades de una CPU que se encargan de realizar cálculos aritméticos y lógicos con los diferentes números. Estas pueden crecer de complejidad de dos maneras, una a partir de lo compleja que sea la instrucción que han de ejecutar. No es lo mismo la circuitería interna de una ALU que puede realizar por ejemplo el cálculo de una raíz cuadrada que no el de una simple suma.

El otro es la precisión con la que trabajan, es decir, la cantidad de bits que manipulan simultáneamente cada vez. Una ALU puede manipular siempre datos iguales o inferiores al número de bits para la que está diseñada. Por ejemplo no podemos hacer que un número de 32 bits pueda ser calculado por una ALU de 16 bits, pero sí que podemos hacer el caso contrario.

Pero, ¿qué ocurre cuando tenemos varios datos de menor precisión? Normalmente que se van a ejecutar a la misma velocidad que a precisión completa, pero hay una forma de acelerarlos, y eso es el SIMD sobre registro. El cual es una forma también de ahorrar transistores en un procesador.

¿Qué es el concepto SWAR?

SIMD Escalar

A estas alturas muchos de los lectores sabréis que es una unidad SIMD, pero vamos a repasarlo para que nadie pierda el hilo de este artículo desde el principio. Una unidad SIMD es un tipo de ALU donde a través de una sola instrucción se manipulan varios datos al mismo tiempo, y por tanto son varias ALUs que comparten la parte de captación de lo que es la instrucción en sí misma y su descodificación, pero donde en cada una se trata un dato distinto.

Habitualmente las unidades SIMD se componen por varias ALUs, pero hay casos donde se subdividen las ALUs en otras más simples, así como el registro de acumulación donde almacenan temporalmente sus datos para calcularlos. A esto se le llama SIMD sobre un registro o por sus siglas en Ingles SWAR, las cuales significan SIMD Within a Register o SIMD sobre un registro.

Este tipo de unidad SIMD es altamente utilizada y permite que una ALU de precisión n bits pueda realizar la misma instrucción pero haciendo uso de datos con menos precisión. Normalmente con la mitad de precisión o con una cuarta parte. Por ejemplo podemos hacer que una ALU de 64 bits pueda actuar como dos ALUs de 32 bits ejecutando en paralelo dicha instrucción o cuatro de 16 bits.

¿Profundizando en el concepto SWAR?

Escalar SIMD SWAR

Dicho concepto tiene ya varias décadas, pero la primera vez que aparecieron en PC fue a finales de los 90 con la aparición de las unidades SIMD en los diferentes tipos de procesador que existían. Los más veteranos del lugar recordaran conceptos como MMX, AMD 3D Now!, SSE y similares que eran unidades SIMD construidas bajo el concepto SWAR.

Supongamos que queremos construir una unidad SIMD de 128 bits

  • En las unidades SIMD convencionales tenemos varias ALUs trabajando en paralelo y donde cada una de ellas tiene su propio registro de datos o acumulador. Así pues, una unidad SIMD de 128 bits puede estar compuesta por 4 ALUs de 32 bits y 4 registros de 32 bits.
  • En cambio una unidad SWAR es una sola ALU que puede trabajar en una precisión muy alta así como también su registro acumulador. Esto nos permite construir la unidad SIMD utilizando una sola ALU de 128 bits con soporte SWAR.

La ventaja que tiene la implementación de una unidad del tipo SWAR sobre una escalar es simple de entender, si una ALU no contiene el mecanismo SWAR que le permite operar como una unidad SIMD ante datos de menos precisión entonces los va a ejecutar a la misma velocidad que los datos de máxima precisión. ¿Qué significa esto? Una unidad de 32 bits sin soporte SWAR en el caso de que tenga que operar la misma instrucción en datos de 16 bits lo hará a la misma velocidad que una de 32 bits. En cambio, si la ALU soporta SWAR podrá ejecutar dos instrucciones de 16 bits en un mismo ciclo, en el caso de que ambas vengan de manera sucesiva.

El SWAR como parche para la IA

Nodo cerebro IA

Los algoritmos de inteligencia artificial tienen una particularidad, suelen trabajar con datos de muy poca precisión y a día de hoy la mayoría de ALUs operan con precisiones de 32 bits. Esto supone tener que añadir ALUs de precisión de 16, 8 e incluso de 4 bits en un procesador para acelerar dichos algoritmos. Lo que supone complicar el procesador, pero los ingenieros no cayeron en ese error y empezaron a tirar del SIMD sobre registro de una manera particular, especialmente en las GPUs.

¿Es posible combinar una ALU SIMD convencional con un diseño SWAR? Pues si y esto es lo que por ejemplo hace AMD en sus GPU donde cada una de las ALUs de 32 bits que componen las unidades SIMD de sus GPU RDNA soporta SIMD sobre registro y por tanto se puede subdividir en dos de 16 bits, 4 de 8 bits u 8 de 4 bits.

En el caso de NVIDIA le han dado la carga de acelerar los algoritmos para IA a los Tensor Cores, estos son arrays sistólicos compuestos por ALUs de coma flotante de 16 bits interconectados entre sí en una matriz de tres ejes, de ahí el nombre de unidad Tensor. No son unidades SIMD, pero cada una de sus ALUs sí que soporta SIMD sobre registro al poder realizar el doble de operaciones con precisión de 8 bits y el cuádruple con precisión de 4 bits. En todo caso las unidades Tensor son importantes por qué están pensadas para acelerar las operaciones matriz con matriz a una velocidad mucho más alta que con una unidad SIMD.

¡Sé el primero en comentar!
Logo hardzone.es
Navega gratis con cookies…

Navegar por hardzone.es con publicidad personalizada, seguimiento y cookies de forma gratuita. i

Para ello, nosotros y nuestros socios i necesitamos tu consentimiento i para el tratamiento de datos personales i para los siguientes fines:

Las cookies, los identificadores de dispositivos o los identificadores online de similares características (p. ej., los identificadores basados en inicio de sesión, los identificadores asignados aleatoriamente, los identificadores basados en la red), junto con otra información (p. ej., la información y el tipo del navegador, el idioma, el tamaño de la pantalla, las tecnologías compatibles, etc.), pueden almacenarse o leerse en tu dispositivo a fin de reconocerlo siempre que se conecte a una aplicación o a una página web para una o varias de los finalidades que se recogen en el presente texto.

La mayoría de las finalidades que se explican en este texto dependen del almacenamiento o del acceso a la información de tu dispositivo cuando utilizas una aplicación o visitas una página web. Por ejemplo, es posible que un proveedor o un editor/medio de comunicación necesiten almacenar una cookie en tu dispositivo la primera vez que visite una página web a fin de poder reconocer tu dispositivo las próximas veces que vuelva a visitarla (accediendo a esta cookie cada vez que lo haga).

La publicidad y el contenido pueden personalizarse basándose en tu perfil. Tu actividad en este servicio puede utilizarse para crear o mejorar un perfil sobre tu persona para recibir publicidad o contenido personalizados. El rendimiento de la publicidad y del contenido puede medirse. Los informes pueden generarse en función de tu actividad y la de otros usuarios. Tu actividad en este servicio puede ayudar a desarrollar y mejorar productos y servicios.

La publicidad que se presenta en este servicio puede basarse en datos limitados, tales como la página web o la aplicación que esté utilizando, tu ubicación no precisa, el tipo de dispositivo o el contenido con el que está interactuando (o con el que ha interactuado) (por ejemplo, para limitar el número de veces que se presenta un anuncio concreto).

  • Un fabricante de automóviles quiere promocionar sus vehículos eléctricos a los usuarios respetuosos con el medioambiente que viven en la ciudad fuera del horario laboral. La publicidad se presenta en una página con contenido relacionado (como un artículo sobre medidas contra el cambio climático) después de las 18:30 h a los usuarios cuya ubicación no precisa sugiera que se encuentran en una zona urbana.
  • Un importante fabricante de acuarelas quiere realizar una campaña publicitaria en Internet para dar a conocer su última gama de acuarelas con la finalidad de llegar tanto a artistas aficionados como a profesionales y, a su vez, se evite mostrar el anuncio junto a otro contenido no relacionado (por ejemplo, artículos sobre cómo pintar una casa). Se detectará y limitará el número de veces que se ha presentado el anuncio a fin de no mostrarlo demasiadas veces.

La información sobre tu actividad en este servicio (por ejemplo, los formularios que rellenes, el contenido que estás consumiendo) puede almacenarse y combinarse con otra información que se tenga sobre tu persona o sobre usuarios similares(por ejemplo, información sobre tu actividad previa en este servicio y en otras páginas web o aplicaciones). Posteriormente, esto se utilizará para crear o mejorar un perfil sobre tu persona (que podría incluir posibles intereses y aspectos personales). Tu perfil puede utilizarse (también en un momento posterior) para mostrarte publicidad que pueda parecerte más relevante en función de tus posibles intereses, ya sea por parte nuestra o de terceros.

  • En una plataforma de redes sociales has leído varios artículos sobre cómo construir una casa en un árbol Esta información podría añadirse a un perfil determinado para indicar tuinterés en el contenido relacionado con la naturaleza, así como en los tutoriales de bricolaje (con el objetivo de permitir la personalización del contenido, de modo que en el futuro, por ejemplo, se te muestren más publicaciones de blogs y artículos sobre casas en árboles y cabañas de madera).
  • Has visualizado tres vídeos sobre la exploración espacial en diferentes aplicaciones de televisión. Una plataforma de noticias sin relación con las anteriores y con la que no has tenido contacto en el pasado crea un perfil basado en esa conducta de visualización marcando la exploración del espacio como un tema de tu posible interés para para otros vídeos.

El contenido que se te presenta en este servicio puede basarse en un perfilde personalización de contenido que se haya realizado previamente sobre tu persona, lo que puede reflejar tu actividad en este u otros servicios (por ejemplo, los formularios con los que interactúas o el contenido que visualizas), tus posibles intereses y aspectos personales. Un ejemplo de lo anterior sería la adaptación del orden en el que se te presenta el contenido, para que así te resulte más sencillo encontrar el contenido (no publicitario) que coincida con tus intereses.

  • Has leído unos artículos sobre comida vegetariana en una plataforma de redes sociales. Posteriormente has usado una aplicación de cocina de una empresa sin relación con la anterior plataforma. El perfil que se ha creado sobre tu persona en la plataforma de redes sociales se utilizará para mostrarte recetas vegetarianas en la pantalla de bienvenida de la aplicación de cocina.
  • Has visualizado tres vídeos sobre remo en páginas web diferentes. Una plataforma de video, no relacionada con la página web en la que has visualizado los vídeos sobre remo, pero basandose en el perfil creado cuando visistaste dicha web, podrá recomendarte otros 5 vídeos sobre remo cuando utilices la plataforma de video a través de tu televisor .

La información sobre qué publicidad se te presenta y sobre la forma en que interactúas con ella puede utilizarse para determinar lo bien que ha funcionado un anuncio en tu caso o en el de otros usuarios y si se han alcanzado los objetivos publicitarios. Por ejemplo, si has visualizado un anuncio, si has hecho clic sobre el mismo, si eso te ha llevado posteriormente a comprar un producto o a visitar una página web, etc. Esto resulta muy útil para comprender la relevancia de las campañas publicitarias./p>

  • Has hecho clic en un anuncio en una página web/medio de comunicación sobre descuentos realizados por una tienda online con motivo del “Black Friday” online y posteriormente has comprado un producto. Ese clic que has hecho estará vinculado a esa compra. Tu interacción y la de otros usuarios se medirán para saber el número de clics en el anuncio que han terminado en compra.
  • Usted es una de las pocas personas que ha hecho clic en un anuncio que promociona un descuento por el “Día de la madre”de una tienda de regalos en Internet dentro de la aplicación de una web/medio de comunicación. El medio de comunicación quiere contar con informes para comprender con qué frecuencia usted y otros usuarios han visualizado o han hecho clic en un anuncio determinado dentro de la aplicación y, en particular, en el anuncio del “Día de la madre” para así ayudar al medio de comunicación y a sus socios (por ejemplo, las agencias de publicidad) a optimizar la ubicación de los anuncios.

La información sobre qué contenido se te presenta y sobre la forma en que interactúas con él puede utilizarse para determinar, por ejemplo, si el contenido (no publicitario) ha llegado a su público previsto y ha coincidido con sus intereses. Por ejemplo, si hasleído un artículo, si has visualizado un vídeo, si has escuchado un “pódcast” o si has consultado la descripción de un producto, cuánto tiempo has pasado en esos servicios y en las páginas web que has visitado, etc. Esto resulta muy útil para comprender la relevancia del contenido (no publicitario) que se te muestra.

  • Has leído una publicación en un blog sobre senderismo desde la aplicación móvil de un editor/medio de comunicación y has seguido un enlace a una publicación recomendada y relacionada con esa publicación. Tus interacciones se registrarán para indicar que la publicación inicial sobre senderismo te ha resultado útil y que la misma ha tenido éxito a la hora de ganarse tu interés en la publicación relacionada. Esto se medirá para saber si deben publicarse más contenidos sobre senderismo en el futuro y para saber dónde emplazarlos en la pantalla de inicio de la aplicación móvil.
  • Se te ha presentado un vídeo sobre tendencias de moda, pero tu y otros usuarios habéis dejado de visualizarlo transcurridos unos 30 segundos. Esta información se utilizará para valorar la duración óptima de los futuros vídeos sobre tendencias de moda.

Se pueden generar informes basados en la combinación de conjuntos de datos (como perfiles de usuario, estadísticas, estudios de mercado, datos analíticos) respecto a tus interacciones y las de otros usuarios con el contenido publicitario (o no publicitario) para identificar las características comunes (por ejemplo, para determinar qué público objetivo es más receptivo a una campaña publicitaria o a ciertos contenidos).

  • El propietario de una librería que opera en Internet quiere contar con informes comerciales que muestren la proporción de visitantes que han visitado su página y se han ido sin comprar nada o que han consultado y comprado la última autobiografía publicada, así como la edad media y la distribución de género para cada uno de los dos grupos de visitantes. Posteriormente, los datos relacionados con la navegación que realizas en su página y sobre tus características personales se utilizan y combinan con otros datos para crear estas estadísticas.
  • Un anunciante quiere tener una mayor comprensión del tipo de público que interactúa con sus anuncios. Por ello, acude a un instituto de investigación con el fin de comparar las características de los usuarios que han interactuado con el anuncio con los atributos típicos de usuarios de plataformas similares en diferentes dispositivos. Esta comparación revela al anunciante que su público publicitario está accediendo principalmente a los anuncios a través de dispositivos móviles y que es probable que su rango de edad se encuentre entre los 45 y los 60 años.

La información sobre tu actividad en este servicio, como tu interacción con los anuncios o con el contenido, puede resultar muy útil para mejorar productos y servicios, así como para crear otros nuevos en base a las interacciones de los usuarios, el tipo de audiencia, etc. Esta finalidad específica no incluye el desarrollo ni la mejora de los perfiles de usuario y de identificadores.

  • Una plataforma tecnológica que opera con un proveedor de redes sociales observa un crecimiento en los usuarios de aplicaciones móviles y se da cuenta de que, en funciónde sus perfiles, muchos de ellos se conectan a través de conexiones móviles. La plataforma utiliza una tecnología nueva para mostrar anuncios con un formato óptimo para los dispositivos móviles y con un ancho de banda bajo a fin de mejorar su rendimiento.
  • Un anunciante está buscando una forma de mostrar anuncios en un nuevo tipo de dispositivo. El anunciante recopila información sobre la forma en que los usuarios interactúan con este nuevo tipo de dispositivo con el fin de determinar si puede crear un nuevo mecanismo para mostrar la publicidad en ese tipo de dispositivo.

El contenido que se presenta en este servicio puede basarse en datos limitados, como por ejemplo la página web o la aplicación que esté utilizando, tu ubicación no precisa, el tipo de dispositivo o el contenido con el que estás interactuando (o con el que has interactuado) (por ejemplo, para limitar el número de veces que se te presenta un vídeo o un artículo en concreto).

  • Una revista de viajes, para mejorar las experiencias de viaje en el extranjero, ha publicado en su página web un artículo sobre nuevos cursos que ofrece una escuela de idiomas por Internet. Las publicaciones del blog de la escuela se insertan directamente en la parte inferior de la página y se seleccionan en función de la ubicación no precisa del usuario (por ejemplo, publicaciones del blog que explican el plan de estudios del curso para idiomas diferentes al del país en el que este te encuentras).
  • Una aplicación móvil de noticias deportivas ha iniciado una nueva sección de artículos sobre los últimos partidos de fútbol. Cada artículo incluye vídeos alojados por una plataforma de streaming independiente que muestra los aspectos destacados de cada partido. Si adelantas un vídeo, esta información puede utilizarse para determinar que el siguiente vídeo a reproducir sea de menor duración.

Se puede utilizar la localización geográfica precisa y la información sobre las características del dispositivo

Al contar con tu aprobación, tu ubicación exacta (dentro de un radio inferior a 500 metros) podrá utilizarse para apoyar las finalidades que se explican en este documento.

Con tu aceptación, se pueden solicitar y utilizar ciertas características específicas de tu dispositivo para distinguirlo de otros (por ejemplo, las fuentes o complementos instalados y la resolución de su pantalla) en apoyo de las finalidades que se explican en este documento.

O sin cookies desde 1,67€ al mes

Por solo 1,67€ al mes, disfruta de una navegación sin interrupciones por toda la red del Grupo ADSLZone: adslzone.net, movilzona.es, testdevelocidad.es, lamanzanamordida.net, hardzone.es, softzone.es, redeszone.net, topesdegama.com y más. Al unirte a nuestra comunidad, no solo estarás apoyando nuestro trabajo, sino que también te beneficiarás de una experiencia online sin cookies.