Por qué la IA se inventa cosas: es su forma de funcionar

Le preguntas por un libro y te da un título que no existe. Le pides la ley que regula algo y te cita un artículo inventado, con número y todo. Le pides la fecha de nacimiento de alguien y te la da tres veces distintas si se lo preguntas tres veces. A eso se le llama alucinación, y no es un fallo que alguien vaya a parchear el mes que viene.

La palabra es mala, porque sugiere una avería. Lo que ocurre es más simple y más incómodo: el sistema está haciendo exactamente aquello para lo que fue construido, que es producir la continuación más plausible de un texto. Cuando lo plausible coincide con lo cierto, acierta. Cuando no, sigue igual de fluido.

El origen está en cómo se entrena, no en un error puntual

En septiembre de 2025, un equipo de OpenAI junto con Santosh Vempala (Georgia Tech) publicó un análisis titulado Why Language Models Hallucinate; una versión revisada por pares apareció en Nature en 2026. Su tesis es que las alucinaciones "no necesitan ser misteriosas": surgen como errores de clasificación binaria bajo presiones estadísticas normales del entrenamiento.

La parte clave del argumento es esta. Durante el preentrenamiento, el modelo aprende prediciendo texto. Los patrones que se repiten mucho (la ortografía, la gramática, la estructura de un argumento) se aprenden bien, porque hay millones de ejemplos que apuntan en la misma dirección. Pero un dato arbitrario que aparece una sola vez en todo el material de entrenamiento no tiene patrón que aprender. Los autores lo llaman el problema de los hechos singleton, y argumentan que la proporción de esos hechos en los datos marca un suelo por debajo del cual el modelo no puede bajar en errores de ese tipo.

Traducido: no hay contradicción entre que un modelo escriba prosa impecable y se invente el cumpleaños de alguien. Son dos tareas de naturaleza distinta. Una tiene patrón. La otra no lo tiene, y el modelo la resuelve con lo único que sabe hacer, que es generar algo con la forma correcta.

Por qué suena igual de seguro cuando acierta y cuando falla

Esta es la parte que más daño hace en la práctica. El tono de seguridad no es una señal de nada, porque no está conectado a si la respuesta es cierta.

Hay dos motivos, y ambos están documentados. El primero es de fábrica: la fluidez y la veracidad se producen por mecanismos distintos. El modelo genera texto que suena bien porque generar texto que suena bien es su tarea; comprobar hechos no forma parte de la operación.

El segundo es más interesante y viene de la investigación de interpretabilidad de Anthropic publicada en 2025. Al mirar dentro de uno de sus modelos, describen un circuito que está activado por defecto y que hace que el modelo diga que no tiene información suficiente. Cuando aparece una entidad que el modelo conoce, otro conjunto de características ("entidades conocidas") inhibe ese circuito de negativa y deja pasar la respuesta. La confabulación ocurre cuando ese reconocimiento se dispara mal: el modelo reconoce el nombre, desactiva la negativa, y luego tiene que rellenar unos datos que no tiene. El resultado sale con el mismo tono que si los tuviera.

Por qué el problema no se resuelve del todo

Al mecanismo anterior se le suma un incentivo. El trabajo de Kalai y sus coautores señala que la forma habitual de puntuar a los modelos premia adivinar. Si un examen te da un punto por acertar y cero por dejarlo en blanco, y también cero por fallar, lo racional es contestar siempre. Los modelos se optimizan contra ese tipo de exámenes, y aprenden justo eso: abstenerse sale caro y adivinar sale gratis.

Los autores lo ilustran con datos de la evaluación SimpleQA de OpenAI: un modelo que se abstuvo en el 52 % de las preguntas tuvo un 26 % de respuestas erróneas, mientras que otro que apenas se abstuvo (1 %) alcanzó un 75 % de respuestas erróneas, con una tasa de aciertos parecida. El segundo parecía mejor en la clasificación general y era mucho más peligroso de leer.

Por eso su conclusión no es técnica sino de incentivos: hay que cambiar cómo se puntúan las evaluaciones que dominan las clasificaciones, no añadir un test más de alucinaciones. Mientras la industria compita en tablas que premian responder siempre, los modelos seguirán respondiendo siempre.

Las mitigaciones sirven, pero no cierran el agujero. Conectar el modelo a un buscador o a tus documentos (lo que se llama RAG) reduce el problema porque le pone el dato delante en vez de pedirle memoria. No lo elimina: un estudio de Stanford publicado en 2024 evaluó herramientas jurídicas comerciales que ya usaban esa técnica y encontró respuestas incorrectas o mal fundamentadas en más del 17 % de las consultas en dos de ellas y en más del 34 % en otra. Con documentos delante, el modelo puede seguir resumiendo mal o atribuyendo a una fuente algo que la fuente no dice.

Dónde falla más: el mapa de riesgo

Las alucinaciones no se reparten al azar. Se concentran donde el dato es arbitrario, poco frecuente o muy reciente.

Y no es un problema anecdótico cuando se trata de actualidad. Un estudio internacional coordinado por la Unión Europea de Radiodifusión y la BBC, publicado en octubre de 2025, evaluó más de 3.000 respuestas de ChatGPT, Copilot, Gemini y Perplexity sobre noticias, con 22 medios públicos de 18 países y en 14 idiomas. El 45 % de las respuestas tenía al menos un problema significativo, el 31 % problemas serios de atribución de fuentes y el 20 % errores de exactitud relevantes.

Hábitos concretos para cazarla

• Pregunta dos veces, en dos chats distintos. Si el dato es real, la respuesta se repetirá. Si cambia entre intentos, lo está generando. Es la prueba más barata que existe.
• Pídele la fuente y ábrela. No la cuentes como verificada hasta que hayas visto el dato en la página. Los enlaces plausibles pero muertos son una alucinación clásica.
• Dale el material en vez de pedirle memoria. Pega el documento, el contrato, el artículo. Pasas la tarea de "recordar" a "leer", que es donde el modelo es mucho más fiable.
• Invierte la pregunta. En lugar de "¿qué dice la ley X sobre Y?", prueba con "¿existe una ley X? Si no estás seguro, dilo". Formular la duda explícitamente reduce la presión a rellenar.
• Sospecha de la precisión excesiva. Un porcentaje con un decimal, una fecha exacta o una cita entrecomillada son señales de riesgo, no de rigor.
• Marca la línea de las consecuencias. Salud, dinero, leyes, plazos y nombres propios: verificación externa siempre, sin excepciones.

Lo que no funciona, aunque circule mucho

Escribir "no alucines" o "responde solo con información verificada" en el prompt no crea una capacidad de verificación que no existe. Puede hacer al modelo algo más prudente en el tono, y ese es todo el efecto que cabe esperar.

Preguntarle "¿estás seguro?" tampoco es una comprobación. La respuesta a esa pregunta se genera igual que la anterior, y muchos modelos se retractan de cosas que eran correctas simplemente porque el usuario ha mostrado desacuerdo. Cambiar de opinión ante presión no es lo mismo que revisar.

Y pedirle que puntúe su propia confianza produce un número que suena serio y que no equivale a una probabilidad medida. Trátalo como lo que es: más texto plausible.

La conclusión útil no es dejar de usar estas herramientas. Es dejar de leerlas como si fueran una fuente y empezar a leerlas como un borrador muy rápido escrito por alguien que nunca dice que no lo sabe. Con esa lente puesta, siguen siendo enormemente útiles.