Uno de los principales motivos por los que muchas personas odian la inteligencia artificial tiene que ver con el abuso que cometen tanto usuarios como empresas a la hora de utilizarla, no solo generan contenidos que muchas veces pueden resultar dañinos sino que hay ocasiones en las que pueden intentar hacerlos pasar por reales. Por este motivo Google ha entrado en una cruzada para evitar que esto suceda creando una IA que detecta contenido generado por otras.
Para muchas personas la inteligencia artificial supone una gran revolución, es innegable que su llegada ha permitido mejorar ciertos aspectos de muchos campos, por ejemplo en el gaming tenemos el gran ejemplo de las tecnologías de reescalado, DLSS utiliza una inteligencia artificial para mejorar el rendimiento y calidad de los juegos. Pero el problema real está en cómo se utilizan las herramientas generativas, estas son aquellas que permiten crear cualquier tipo de contenido audiovisual, ya que han alcanzado un punto de realismo en el que hay quienes no logran diferenciar el contenido real del generado por IA.
Ahora Google tiene la IA perfecta para evitar deepfakes… generados por otras IAs
Al igual que Microsoft o Meta, Google es una de las compañías que está tratando de ganar la carrear de la inteligencia artificial, esta marca ha desarrollado Gemini, una IA que está presente en la gran mayoría de dispositivos con Android y que cuenta con unas capacidades realmente buenas que le han permitido situarse en la vanguardia. Pero esto no implica que no estén dispuestos a tratar de controlar mejor el contenido que se genera mediante estas tecnologías ya que han lanzado SynthID Detector, una herramienta que permite verificar qué contenidos se han generado con inteligencia artificial.
Esto llega después de que la compañía desarrollase SynthID que básicamente es otra herramienta que permite crear unas marcas de agua indetectables para las personas en lo que se haya creado mediante las aplicaciones de Google, es decir, SynthID Detector permite ver las marcas que SynthID crea en las inteligencias artificiales de la propia compañía. Las capacidades que tiene resultan bastante avanzadas, puede detectar esta marca de agua incluso si el contenido final se ha modificado de cualquier forma entre lo que se incluyen haber comprimido el archivo o los posibles recortes hechos sobre un vídeo/imagen.
El portal tiene un funcionamiento que resulta bastante sencillo, tan solo sigue tres pasos para que el usuario pueda conocer si la imagen, vídeo o audio que ha subido es real o se ha generado mediante inteligencia artificial. Después de subir el contenido la herramienta realiza un escaneo para localizar las marcas de agua que SynthID ha creado, en caso de que la detecte marcará cuáles son las zonas donde se encuentra.
En un principio podréis pensar que es una tontería si se aplica únicamente a las IAs de la propia marca, pero Google está trabajando en forjar alianzas con otras compañías para ampliar los contenidos que puede generar, por ejemplo están colaborando con NVIDIA que ya cuenta con estas marcas de agua en su servicio NIM Cosmos Preview.