Algunas de las inteligencias artificiales que hay actualmente en el mercado han causado muchas polémicas. Pero una de las que más se ha hablado en las últimas semanas es Grok. La IA de Twitter/X ha implementado una función que permite editar imágenes sin restricciones, y esto ha causado muchos problemas. Ahora xAI ha reaccionado y ha establecido ciertas limitaciones pero ¿son suficientes?
Desde que llegaron al mercado orientado para consumidores las inteligencias artificiales han causado una polémica tras otra. La necesidad que han tenido algunas compañías por prácticamente obligar a los usuarios a utilizar estas herramientas ha causado respuestas muy negativas. Pero los mayores errores que han cometido la mayoría de las empresas tienen que ver precisamente con la forma que tiene esta tecnología de vulnerar los derechos de las personas.
Y es que en varias ocasiones hemos visto modelos como el de Meta o Microsoft que utilizan material con Copyright para entrenarse. Pero la que más problemas ha causado actualmente, y que seguirá creando en un futuro, no es de estas marcas. Grok ha logrado convertirse en una de las más odiadas del mundo en prácticamente unas semanas, y todo tiene que ver con una de sus nuevas funciones.
Una IA sin restricciones que demuestra precisamente por qué son necesarias
Desde que xAI presentó su modelo de inteligencia artificial hemos visto cómo el objetivo que tenía era crear un chatbot sin restricciones. Aunque hemos visto que ha tenido bastantes cambios que precisamente establecían restricciones a sus comportamientos cuando no se alineaban con las expectativas de su fundador. Pero en los últimos días hemos visto lo que realmente es capaz de hacer esta tecnología sin ningún tipo de limitación, y resulta extremadamente desagradable.
Con la llegada de la edición de imágenes, los usuarios comenzaron a utilizar Grok para modificar todo tipo de contenido multimedia disponible en Twitter/X.
Esta función no tardó prácticamente nada en mostrar el lado oscuro que puede ofrecer dicha tecnología sin restricciones. Y es que en cuestión de horas vimos cómo una gran cantidad de personas comenzaron a utilizarla para desvestir a otros usuarios.
Pese a las reiteradas peticiones de la comunidad de establecer limitaciones sobre el modelo, xAI no aplicó ninguna. Esto hizo que el problema cada vez se hiciese más grande, llegando a permitir generar imágenes sexualizadas de menores de edad. Este delito tuvo una repercusión tan grave que incluso el propio Gobierno de España solicitó a la Fiscalía que lo investigase.
Las capacidades de Grok limitadas a aquellos usuarios que paguen el premium de Twitter/X
Una de las últimas novedades que hemos podido conocer sobre los cambios que xAI está implementando en su IA está principalmente relacionado con la función de editar imágenes. En este caso la compañía ha encontrado la forma de monetizar la falta de control que tiene su tecnología, y es que en lugar de introducir cambios que eviten este tipo de situaciones, tan solo han limitado su uso a aquellas personas que paguen la suscripción mensual.
https://x.com/grok/status/2009583819028877787
Esto obviamente no ha eliminado el principal problema que tiene la inteligencia artificial de Elon Musk. Y es que los usuarios que tienen el premium de la red social pueden seguir utilizando la edición de imágenes sin restricciones. Esto implica que el problema sigue estando presente, pero ahora está detrás de un sistema de pago.
Esto es una medida para aquellas personas que no tenían pensado pagar la suscripción. Pero obviamente no logra evitar el principal fallo que tiene en poder generar todo tipo de imágenes sin el consentimiento de la gente. Es por ello que no es una solución, sino un parche que sigue ofreciendo una herramienta extremadamente peligrosa detrás de un sistema de monetización.