IA en tu propio ordenador: ¿de verdad te compensa a ti?

Hay algo que puedes hacer con la inteligencia artificial y de lo que casi nadie habla, probablemente porque no hay nada que venderte con ello: puedes descargar un modelo, guardarlo en el disco de tu ordenador y usarlo sin conexión, sin cuenta y sin que lo que escribes salga de ahí. No es una versión de juguete ni una demo. Es el modelo entero, funcionando en tu máquina.

Y ahora la parte honesta, que es la única que importa: para la mayoría de la gente no compensa. Un modelo que corre en tu ordenador es más lento, más torpe y da bastante más trabajo que abrir una web y empezar a escribir. Pero hay un puñado de situaciones en las que es la única opción sensata, y no son raras: las tiene gente normal, con un negocio normal, en España. Este artículo es para que sepas si eres una de esas personas o no.

Qué significa de verdad «ejecutarlo en tu ordenador»

Cuando usas la IA por la web, lo que escribes viaja hasta el ordenador de otra persona, allí se procesa y vuelve la respuesta. Tú no tienes el modelo: tienes una ventanilla para hablar con él.

Un modelo local es lo contrario. El modelo es un archivo: grande, binario, descargado una vez y guardado en tu disco duro. Dentro van los parámetros que el modelo aprendió durante su entrenamiento. La documentación del formato más extendido para distribuirlos, el que usa Hugging Face, lo describe como un formato binario que guarda a la vez los tensores del modelo y un conjunto normalizado de metadatos.

Quien ejecuta ese archivo es tu procesador, o tu tarjeta gráfica si la tienes y el programa sabe usarla. No hay servidor intermedio, ni cuenta que crear, ni contraseña que recordar. Puedes cortar el wifi y seguirá respondiendo igual. La documentación de LM Studio, una de las aplicaciones de escritorio más conocidas para esto, lo dice sin rodeos: puede funcionar completamente sin conexión, solo hay que haberse descargado antes los archivos de los modelos.

Por qué alguien querría complicarse la vida

El motivo fuerte, el que aguanta cualquier discusión, no es la privacidad entendida como manía. Es algo más concreto: hay datos que no puedes subir a ningún sitio.

Piensa en un fisioterapeuta con historiales de pacientes. En alguien que lleva la documentación de un despacho y maneja expedientes con circunstancias personales. En una gestoría con las nóminas de las empresas de sus clientes. En un autónomo que firmó con un cliente el compromiso de no ceder su información a terceros.

En todos esos casos, pegar el texto en una web de IA no es un gesto inocente. Estás enviando datos personales de otras personas a una empresa que los procesará en sus servidores, y eso es, en términos de protección de datos, un tratamiento más: uno que tienes que poder justificar, documentar y, según el caso, haber acordado por escrito. A lo mejor puedes hacerlo y tu proveedor te ofrece las condiciones para que sea correcto. Pero es un trámite real, y mucha gente lo está saltando sin saber que existe.

Un modelo local resuelve eso por la vía más directa: el dato no se mueve. No hay transferencia que documentar porque no hay transferencia. No es que confíes más en alguien: es que no hay nadie más.

Hay dos motivos más, menores pero legítimos. El primero es trabajar sin conexión: en un sitio sin cobertura, en un avión, en una nave donde el wifi no llega, o el día que se cae internet y tú tienes que seguir. El segundo es no depender de las decisiones de otro. Las herramientas de IA cambian de precio, de plan y de nombre, retiran modelos que funcionaban bien y a veces cierran. Si mañana tu proveedor sube la tarifa o apaga el servicio, tu modelo local sigue exactamente igual que hoy.

Qué hace falta: la memoria es lo que manda

Aquí está el malentendido más común. La gente pregunta si su ordenador es «rápido». La pregunta correcta es casi siempre otra: si tiene memoria suficiente. Para que un modelo responda, tiene que estar cargado en memoria, entero o casi entero. Si no cabe, no es que vaya lento: es que no arranca, o arranca de una forma tan penosa que no lo vas a volver a abrir.

Hay dos memorias en juego. La RAM es la memoria general del ordenador, la que usa el procesador. La VRAM es la memoria propia de la tarjeta gráfica. Un modelo que cabe en la VRAM lo mueve la gráfica, que es el hardware que mejor hace este tipo de cálculo; uno que no cabe ahí tira de RAM y de procesador, que también funciona, pero con mucha menos holgura. En los Mac con chips de Apple la distinción se difumina, porque procesador y gráfica comparten la memoria.

Para que tengas un orden de magnitud, y sin inventar nada: la propia documentación de LM Studio recomienda 16 GB de RAM como referencia razonable tanto en Mac como en Windows, añade que en Macs de 8 GB todavía se puede usar pero limitándose a modelos pequeños y a textos cortos, y sugiere al menos 4 GB de VRAM dedicada en la tarjeta gráfica. Son recomendaciones del fabricante, no una medición nuestra: criterio de entrada, no garantía.

Lo que vas a notar peor, sin adornos

Un modelo que cabe en un ordenador de casa es, por fuerza, mucho más pequeño que los que corren en centros de datos. Y eso se nota en cuatro sitios.

Se equivoca más. Razona peor los enunciados largos, pierde el hilo antes y, cuando no sabe algo, se lo inventa con la misma seguridad que los grandes, solo que más a menudo. Si ya hay que revisar lo que responde cualquier IA, aquí más.

No sabe qué ha pasado últimamente. El archivo que descargaste se entrenó con información hasta una fecha, y esa fecha no cambia. No se actualiza por su cuenta. Para que sepa algo nuevo tienes que descargar una versión nueva del modelo.

No busca en internet. Salvo que montes tú ese añadido, un modelo local no consulta nada: contesta solo con lo que lleva dentro. Esto, que suena a limitación, es precisamente la garantía de que no sale nada de tu ordenador. Las dos cosas son la misma cosa.

Da trabajo. La primera vez se te va un rato largo: instalar la aplicación, entender qué modelo bajar de entre decenas con nombres casi idénticos, descargarlo, descubrir que ese no cabe y bajar otro. Y ocupa disco: cada modelo que pruebas y no borras se queda ahí.

Cómo se empieza hoy, a grandes rasgos

La parte buena es que montarlo ya no es un ejercicio para programadores. Hay aplicaciones de escritorio que se instalan como cualquier otro programa, traen un catálogo de modelos dentro, te avisan de cuáles encajan en tu equipo y te dejan una ventana de conversación parecida a la que ya conoces. LM Studio y Ollama ilustran la categoría, y los citamos por eso, no para recomendar uno sobre otro: el primero es una aplicación con ventanas y botones, el segundo está pensado para quien no le teme a una línea de comandos.

Y luego están los modelos abiertos, que es lo que descargas con esas aplicaciones: varias familias grandes mantenidas por empresas conocidas y muchísimas variantes derivadas de ellas, casi todas publicadas en los mismos repositorios públicos. No te vamos a decir cuál es mejor, porque la lista cambia cada pocas semanas y porque depende por completo de tu memoria y de lo que quieras hacer. El criterio útil es el de antes: el modelo más grande que te quepa con holgura y, si dudas entre dos, el más pequeño, porque uno que arranca siempre sirve de más que uno que se atasca.

Cuándo no merece la pena

Esta es la parte que probablemente te ahorre la tarde. Hay cuatro situaciones en las que la respuesta es no.

Dicho de otra manera: esto es como montarte un gimnasio en el garaje. Tiene todo el sentido si lo que necesitas es entrenar sin que nadie te vea ni te apunte en una lista. Si lo que quieres es la mejor maquinaria, o ahorrarte la cuota, el garaje va a salir caro y tú vas a entrenar peor.

El matiz que casi nadie explica: «local» no siempre significa «privado»

Esto se dice poco, porque «local» se ha convertido en una etiqueta de marketing.

Que el modelo se ejecute en tu ordenador no garantiza por sí solo que no salga nada. Hay al menos tres vías por las que tus datos pueden irse igualmente. La primera: la aplicación manda estadísticas de uso. Muchos programas, locales o no, envían informes de errores y métricas. Normalmente no incluyen lo que escribes, pero eso se comprueba en su política, no se supone.

La segunda: la herramienta consulta algo fuera. Si le has añadido búsqueda en internet, o conexión con tu correo, o cualquier extensión que llame a un servicio externo, el texto que esa función necesita sale del ordenador. El modelo sigue siendo local; el circuito completo ya no lo es.

La tercera es la más silenciosa: la misma aplicación ofrece modelos locales y modelos en la nube, y cambiar de uno a otro es un desplegable. No es una sospecha: Ollama lo explica en sus propias preguntas frecuentes, donde distingue los dos casos con claridad. Sobre el uso local afirma: «Ollama se ejecuta localmente. No vemos tus indicaciones ni tus datos cuando lo ejecutas localmente». Y añade que, al usar modelos alojados en la nube, sí procesan tus indicaciones y respuestas para dar el servicio, aunque declaran no almacenarlas ni entrenar con ellas. Misma aplicación, misma ventana, diferencia de fondo total.

La conclusión es la que deberías llevarte de todo el artículo: lo que hace que algo sea privado es cómo está montado, no cómo se llama. La comprobación es aburrida pero corta: mira qué modelo está seleccionado, desactiva los envíos de datos de la aplicación, no enchufes extensiones que consulten fuera y haz la prueba extrema: desconecta la red. Si contesta con el cable quitado, lo que tienes es de verdad local.

Entonces, ¿te compensa?

Respóndete a una sola pregunta: ¿hay algo que no puedes escribir en una web? Historiales, expedientes, datos que te confiaron con condiciones, información de la que respondes tú ante otra persona. Si la respuesta es sí, un modelo local no es un capricho técnico: es la manera más limpia de usar esta tecnología en ese trabajo concreto, y montarlo cuesta menos que el problema que te quita.

Si la respuesta es no, y lo que quieres es la mejor herramienta con el menor esfuerzo, abre la web y sigue con tu día: no te estás perdiendo nada. Y si tienes curiosidad y un ordenador con memoria de sobra, pruébalo un sábado sabiendo lo que vas a encontrar: algo más torpe de lo que estás acostumbrado, funcionando sin internet, sin pedirte una cuenta y sin contarle a nadie lo que le escribes. Para quien lo necesita, eso no es poco. Es justo lo que buscaba.