La Inteligencia Artificial que permite generar imágenes en base a una descripción, ha avanzado muchísimo en los dos últimos años. Una vez solucionados los problemas iniciales a la hora de generar manos con solo 5 dedos y reproducir textos, estas IAs han llegado a un punto donde cada vez es más difícil distinguir qué imágenes son reales y cuales se han generado utilizando una IA.
La proliferación de imágenes con personas conocidas en situaciones surrealistas fue una llamada de atención, ya que, con las herramientas adecuadas, se pueden generar campañas de desinformación de cualquier tipo.
Fue entonces cuando se planteó la posibilidad de añadir una marca de agua invisible al ojo humano que deberían incluir todas las imágenes creadas por IA para poder distinguirlas de las reales, una propuesta que parece haberse quedado en algún cajón y que tan solo han adoptado algunas empresas.
Si eres de los usuarios que crees que no se te pasa ninguna imagen creada por una IA, tenemos muy malas noticias. Según un estudio publicado el pasado 12 de mayo por Microsoft’s AI for Godd Lab, los humanos no somos muy capaces de diferenciar entre una foto y una imagen creada por una IA.
Identificar imágenes creadas por IA no es fácil
Este estudio recopiló las respuestas del juego online Real or Not Quiz (disponible a través de este enlace), donde participaron más de 12.500 personas de todo el mundo a través de 17.340 partidas. A través de este estudio, se mostraron 287.000 imágenes entre reales y creadas por IA y donde los usuarios debían responder si eran reales o ficticias.
Las imágenes utilizadas proceden de una colección de 350 imágenes reales libres de derechos de autor junto con 700 imágenes creadas utilizando Dall-E, Stable Difussion, Amazon Titan y Midjourney. Además, también se añadieron imágenes de rostros falsos generados por IA.
Cada partida, compuesta por 15 rondas, muestra una imagen de forma aleatoria entre todas las imágenes disponibles. Para realizar este estudio, únicamente se han tenido en cuenta las partidas donde se completaron las 15 rondas.
Los resultados obtenidos de este estudio indican que los humanos no tenemos el ojo tan bien entrenado como cabría esperar a la hora de detectar imágenes irreales, con una tasa de éxito de tan solo el 62%.
Según podemos leer en este informe que os enlazamos al final del artículo:
La dificultad de dicha evaluación depende de cuán realistas parezcan las imágenes de IA y de lo «falsas» que puedan parecer las imágenes reales. Decidimos que equilibrar la calidad de las imágenes generadas por IA entre todos los generadores sería difícil de lograr sin una evaluación preliminar de un gran conjunto de imágenes.
En su lugar, intentamos para cada generador equilibrar entre imágenes fáciles (con artefactos claramente visibles) y desafiantes, pero no necesariamente en proporciones iguales por generador. Por esta razón, los errores cometidos por los usuarios no son indicativos de la capacidad general de un generador determinado para producir imágenes fotorrealistas. No obstante, esperamos mostrar algunas pautas sobre el tipo de imágenes que engañan a la gente con más frecuencia.
Este estudio también confirmó que identificar rostros creados por IA es más sencillo que paisajes naturales y urbanos, lo que representa un desafío relacionado al que se enfrenta la humanidad a la hora de identificar contenido creado por IA y de no hace más que confirmar que existen la necesidad de añadir un sistema que permita identificar rápidamente este tipo de contenido.