Es posible que, en ocasiones, tras preguntarle a la IA (ya sea ChatGPT, Grok, Gemini) algo, te responda con información que no te cuadra, y que creas que es algo inventado, como un nombre que ni siquiera existe, o un resultado numérico que no tiene ningún sentido.
En el día de hoy veremos ejemplos de todo esto, y el motivo por el que ocurre, pudiendo así evitar, en la medida de lo posible, que las inteligencias se inventen los resultados, ya que, en ocasiones, no es simple curiosidad, y usamos esos datos para cosas importantes.
Motivos por los que la IA se inventa cosas
Para poder entender por qué una IA a veces “alucina”, hay que tener claro algo, y es que no piensa ni comprueba datos como lo haría una persona. Simplemente intenta generar una respuesta que suene correcta en base a lo que ha aprendido. Sí, intenta engañarnos con datos que no tiene para no parecer «tonta», aunque no nos gustan ese tipo de respuestas.
El problema aparece cuando no tiene información suficiente o cuando la pregunta es demasiado específica. En lugar de decir “no lo sé”, muchas veces rellena los huecos. Por ejemplo:
- Si le preguntas: “¿Qué dice el estudio de 2012 de la Universidad de Lugo sobre X tema?” (aunque ese estudio no exista), puede responder inventándose autores, fechas y conclusiones.
- Si le pides: “Dime libros de un autor poco conocido”, puede generar títulos que suenan totalmente reales… pero que nunca han sido publicados.
- En cálculos, también falla: si le das un problema un poco enrevesado, puede darte un resultado numérico que parece correcto a simple vista, pero que no lo es si lo revisas.
Otro motivo es que a veces entiende mal la pregunta. Por ejemplo:
- Le preguntas: “¿Cuál es el banco más seguro?” y responde hablando de seguridad física en lugar de seguridad financiera.
- O mezclas dos temas en una misma pregunta, y la IA junta cosas que no tienen relación.
También influye el tipo de información con la que ha sido entrenada. Aprende de internet, donde hay contenido bueno… y contenido incorrecto. Eso hace que, a veces, mezcle datos reales con otros que no lo son. Por ejemplo:
- Puede atribuir una frase a una persona famosa que nunca la dijo.
- O dar una cifra desactualizada como si fuera actual.
Esto ocurre, sobre todo, cuando preguntamos sobre un tema para el cual hay poca información en internet, ya que no puede contrastar en muchos lugares. Es decir, no fallará con el resultado del último mundial de fútbol, pero sí con un partido del que apenas hay datos, como el equipo de tu barrio.
Entonces, ¿cómo evitarlo?
- Haz preguntas claras y concretas.
- Si algo te parece raro, probablemente lo sea: compruébalo.
- Pídele que te explique de dónde sale la información.
- Y, si es importante (dinero, salud, trabajo), no te quedes solo con esa respuesta.
La IA es una herramienta muy útil, pero no es una fuente perfecta. Tienes que entender que puede equivocarse, por lo que no podemos confiar siempre en sus respuestas, y para saber si es inventada, o no, podemos usar otras IAs que comprueben la información. Si las dos nos das el mismo nombre de un autor, será casi imposible que, inventando las respuestas, den el mismo dato.