Qué es la IA generativa: predice palabras, no consulta datos

La IA generativa es un tipo de programa que produce texto, imágenes, audio o vídeo nuevos en lugar de buscar algo que ya existía. Cuando le escribes a ChatGPT, a Gemini o a Claude, no estás consultando un archivo: estás poniendo en marcha un cálculo que construye la respuesta sobre la marcha, trozo a trozo. Entender ese cálculo te ahorra la mitad de los disgustos que la gente se lleva con estas herramientas.

La explicación corta que circula por todas partes es "es un autocompletado muy bueno". Es un buen punto de partida y es literalmente cierto. El problema es que se queda ahí, y no explica por qué un autocompletado puede escribir un soneto decente y luego afirmar con toda seguridad que naciste en 1974. Este artículo va un paso más allá.

Qué está calculando el modelo exactamente

Un modelo de lenguaje no trabaja con palabras, sino con tokens: fragmentos de texto que pueden ser una palabra entera, un trozo de palabra o un signo de puntuación. La documentación de OpenAI da una regla aproximada para el inglés: un token equivale a unos cuatro caracteres, o alrededor de tres cuartos de palabra. En español y en otros idiomas la cuenta cambia, y varía también de un modelo a otro.

Con esa unidad, la tarea del modelo es siempre la misma: dado todo el texto que lleva delante, calcular una probabilidad para cada token posible que podría venir a continuación. Elige uno, lo añade al texto, y vuelve a empezar. Lo que ves aparecer palabra a palabra en la pantalla no es un efecto de diseño: es el orden real en que se está generando la respuesta.

De ahí sale una consecuencia que conviene interiorizar. El modelo nunca decide "voy a decir la verdad" ni "voy a mentir". Decide qué continuación es probable dado lo anterior. Cuando lo probable y lo verdadero coinciden, acierta. Cuando no coinciden, sigue produciendo texto probable con la misma soltura.

Por qué predecir palabras basta para escribir un soneto

Aquí es donde la analogía del autocompletado empieza a fallar, y conviene decir dónde. El autocompletado del móvil mira las dos o tres palabras anteriores y poco más. Un modelo grande tiene que hacer buenas predicciones sobre miles de millones de fragmentos de texto muy distintos, y la única forma de conseguirlo es representando internamente las regularidades del mundo que aparecen en ese texto: la gramática, la estructura de un argumento, cómo se resuelve una ecuación, qué tono lleva una carta de reclamación.

Predecir bien obliga a comprimir. Un sistema que solo memorizara frases sueltas fallaría con cualquier pregunta nueva. Para acertar de forma general hay que capturar los patrones, y esos patrones son lo que después parece comprensión.

Que ahí dentro pasa algo más que una copia de patrones locales está documentado. El equipo de interpretabilidad de Anthropic publicó un trabajo en el que rastrea los cálculos internos de uno de sus modelos, y una de las cosas que encuentra es que el modelo planifica: antes de empezar el segundo verso de un poema, ya está barajando palabras que rimen con el final del primero. Después construye el verso para llegar hasta ahí. Hay planificación, aunque el mecanismo de salida siga siendo token a token.

El mismo trabajo describe otro detalle bastante más incómodo. Al sumar, el modelo emplea varios caminos de cálculo que funcionan en paralelo: uno calcula una aproximación gruesa del resultado y otro se ocupa de clavar el último dígito. Y sin embargo, si le preguntas cómo ha llegado a que 36+59 son 95, describe el algoritmo de toda la vida, el de llevarse una. Los investigadores lo dicen sin rodeos: el modelo parece no ser consciente de las estrategias que aprendió durante el entrenamiento.

Conviene detenerse en lo que eso implica, porque es la trampa en la que cae mucha gente: la explicación que te da no es un informe de lo que ha ocurrido dentro. Es otro texto generado igual que los demás, que responde a «cómo se suman dos números» y no a «qué has hecho tú hace un segundo». Pedirle a un modelo que te explique su propio razonamiento no es auditarlo.

Y hay un tercer hallazgo del mismo trabajo que interesa especialmente si lees esto en español. Los investigadores describen que el modelo a veces piensa en un espacio conceptual compartido entre idiomas, algo así como un lenguaje del pensamiento común. Ojo al matiz, que ellos ponen y conviene respetar: dicen a veces y dicen una especie de. No es que exista un idioma interno demostrado. Pero apunta a por qué un modelo entrenado sobre todo con texto en inglés no se queda mudo en español: lo que ha aprendido no está atado del todo al idioma en que lo aprendió.

De dónde sale todo eso: el entrenamiento

Los modelos se construyen en dos fases muy distintas, y confundirlas es fuente de malentendidos.

En el preentrenamiento, el sistema procesa una cantidad enorme de texto y ajusta sus parámetros (números internos, muchísimos) para equivocarse lo menos posible al predecir el siguiente token. Es un proceso caro, largo y que se hace una vez. El resultado sabe mucho, pero no sabe comportarse: continúa texto sin más.

En el post-entrenamiento, se le enseña a responder como un asistente: seguir instrucciones, mantener un formato, negarse a ciertas cosas. Buena parte de esto se hace con ejemplos escritos por personas y con sistemas que puntúan respuestas para premiar unas y penalizar otras. Es la fase que da la personalidad y el tono servicial.

Dos correcciones importantes. La primera: el modelo no se actualiza mientras hablas con él. Los parámetros están congelados. Si un chat "recuerda" cosas de conversaciones anteriores es porque el producto guarda notas aparte y te las vuelve a meter en el texto de entrada, no porque el modelo haya aprendido. La segunda: desconfía de cualquier cifra concreta de parámetros que leas sobre los modelos comerciales grandes, porque las empresas dejaron de publicarla hace años.

El contexto: la memoria de trabajo que sí existe

Todo lo que el modelo tiene en cuenta para generar la siguiente palabra cabe en su ventana de contexto: las instrucciones del fabricante, tu conversación, los archivos que hayas subido, los resultados de búsqueda si la herramienta busca. Nada más. Fuera de esa ventana no hay nada a lo que "consultar".

Por eso funcionan tan bien dos cosas. Una, pegar el documento en lugar de preguntar de memoria: pasas el dato de la parte poco fiable (los pesos) a la parte fiable (el texto que tiene delante). Dos, las herramientas que buscan en internet o en tus documentos y meten los fragmentos encontrados en el contexto antes de responder; a ese montaje se le llama RAG desde el trabajo de Lewis y sus coautores en 2020.

Y por eso fallan otras. Una conversación muy larga empuja lo antiguo fuera de la ventana. Un modelo sin buscador solo puede hablar de lo que había en su entrenamiento, con su fecha de corte. Y cuando el modelo se inventa algo, casi siempre es porque le has pedido un dato que no estaba ni en el contexto ni bien representado en sus parámetros.

Por qué se inventan cosas: la explicación no es la que parece

Lo normal es pensar que un modelo alucina porque le falta información, o porque «no entiende». OpenAI publicó un trabajo que apunta en otra dirección, y es una dirección incómoda para el sector: la culpa está en cómo se puntúa a los modelos. Sostienen que los procedimientos habituales de entrenamiento y evaluación premian adivinar por encima de reconocer la incertidumbre.

El mecanismo, contado por ellos, es sencillo de entender si has hecho alguna vez un examen tipo test sin penalización por fallo: cuando a un modelo se le califica solo por la exactitud —el porcentaje de preguntas que acierta exactamente—, se le está empujando a adivinar en lugar de decir «no lo sé». Contestar al azar puede sumar; callarse, nunca. Repite eso millones de veces durante el entrenamiento y lo que obtienes es un sistema que siempre tiene una respuesta.

Su propuesta para el sector va por ahí: penalizar más los errores dados con seguridad que la incertidumbre, y dar crédito parcial cuando el modelo expresa dudas de forma apropiada. Y afirman que las alucinaciones no son inevitables, porque un modelo puede abstenerse cuando no está seguro.

Cuidado con cómo se lee esa última frase, que es la clase de titular que se saca de contexto. Están hablando del diseño de las evaluaciones, no prometiendo que el asistente que tienes abierto hoy no vaya a inventarse nada. De hecho, en el mismo sitio reconocen que la exactitud del cien por cien no existe, porque hay preguntas del mundo real que sencillamente no tienen respuesta.

Imágenes, voz y vídeo no funcionan igual

"IA generativa" es una etiqueta que agrupa mecanismos distintos. Los generadores de imágenes más extendidos no predicen tokens de texto: parten de una imagen de ruido aleatorio y la van limpiando en muchos pasos, guiados por tu descripción, hasta que lo que queda encaja con ella. Los de vídeo y audio siguen ideas parecidas.

Lo que comparten con los modelos de texto es lo esencial para ti: producen una salida plausible, no una salida verificada. Un generador de imágenes puede darte un edificio precioso con una escalera imposible por el mismo motivo por el que un modelo de texto te da una sentencia judicial con un número de expediente que no existe.

Qué hacer con esto mañana

Si te quedas con una sola idea, que sea esta: la herramienta es excelente produciendo forma y mediocre garantizando contenido. Todo lo demás se deduce.

• Úsala para tareas donde tú puedas juzgar el resultado: redactar, reescribir, resumir un texto que le has dado, ordenar ideas, traducir, explicarte algo que luego contrastas.
• Desconfía por defecto en lo que no puedas juzgar: fechas, cifras, citas, referencias legales, nombres propios poco conocidos.
• Dale el material en vez de pedirle memoria. Un texto pegado vale más que diez instrucciones.
• Si necesitas un dato con consecuencias, verifica en la fuente original. Que el modelo cite una fuente no significa que la fuente diga eso.

Nada de esto convierte a la IA generativa en algo inútil. La convierte en una herramienta con un perfil de error concreto y bastante predecible, que es exactamente lo que necesitas saber para usarla bien.