Los modelos de IA locales están de moda. Cada pocas semanas aparecen nuevos modelos abiertos, y «local o nube» es un debate constante en los foros de aficionados. Esta guía te enseña a instalar Ollama, chatear con un modelo pequeño en tu terminal, llamarlo desde código y darle una personalidad propia. Todos los comandos de abajo salen de la documentación oficial de Ollama.
Lo que necesitas
Ollama es una herramienta gratuita que descarga modelos abiertos y los ejecuta en tu propia máquina. Te ofrece una línea de comandos y una API web local. Una vez descargado un modelo, tus chats se procesan en tu ordenador.
Esta es la lista de comprobación:
- Un sistema operativo compatible. La documentación oficial indica macOS Sonoma (v14) o posterior y Windows 10 22H2 o posterior. Linux es compatible mediante un script de instalación.
- Espacio en disco. La documentación de Windows dice que la app necesita al menos 4GB para la instalación del binario, y que los modelos «pueden ocupar de decenas a cientos de GB». Los modelos pequeños son mucho más ligeros.
- Memoria suficiente para el modelo que elijas. Un modelo tiene que caber en la memoria de tu GPU (VRAM) o en tu RAM normal. Cada página de modelo de la biblioteca de Ollama indica su tamaño de descarga, que es una buena primera referencia. Elige un modelo claramente más pequeño que la memoria que tienes libre.
- Una GPU ayuda, pero no es obligatoria. En los Mac, los chips Apple de la serie M tienen soporte de CPU y GPU, mientras que los Mac con Intel funcionan solo con la CPU. En Windows y Linux, Ollama es compatible con muchas tarjetas NVIDIA y AMD. Consulta la documentación de GPU para tu tarjeta.
Funciona con la CPU. Simplemente va más lento.
Paso 1: Instala Ollama
La página de descarga ofrece un instalador de una sola línea para cada sistema.
En macOS o Linux, abre una terminal y ejecuta:
curl -fsSL https://ollama.com/install.sh | sh
En Windows, abre PowerShell y ejecuta:
irm https://ollama.com/install.ps1 | iex
Si prefieres no pasar un script directamente a tu shell, puedes descargar la app: Ollama.dmg para Mac u OllamaSetup.exe para Windows, ambos enlazados desde la página de descarga. En un Mac, arrastra la app a Aplicaciones. La primera vez que se inicia, comprueba que el comando ollama esté en tu PATH. Si no lo está, te pide permiso para crear un enlace en /usr/local/bin.
Comprueba que ha funcionado:
ollama -v
Deberías ver un número de versión. En Windows, Ollama se ejecuta en segundo plano tras la instalación. El comando ollama funciona en cmd, PowerShell o cualquier terminal.
Paso 2: Elige un modelo pequeño
La biblioteca tiene cientos de modelos, y muchos son grandes. Para una primera prueba, usa Llama 3.2. Su página de etiquetas muestra llama3.2:3b con 2.0GB y llama3.2:1b con 1.3GB. El nombre simple llama3.2 apunta a la versión 3B. También es el modelo que Ollama usa en muchos de sus propios ejemplos de la API.
Si tu máquina tiene poca memoria, empieza con llama3.2:1b. Es más pequeño y ligero, con respuestas más sencillas.
Paso 3: Tu primer chat
Un solo comando descarga el modelo (si hace falta) y abre un chat:
ollama run llama3.2
La primera vez verás una barra de progreso de la descarga. Después aparece un prompt. La salida se parece más o menos a esto (resumida):
pulling manifest
pulling ... 100%
success
>>> Explain what a CPU does in one sentence.
A CPU is the part of a computer that carries out instructions ...
>>> /bye
Escribe /bye para salir del chat. Para pegar texto de varias líneas, enciérralo entre comillas triples (""").
Paso 4: Gestiona tus modelos
Estos cuatro comandos cubren casi todo lo que harás en el día a día.
Descargar un modelo sin iniciar un chat:
ollama pull llama3.2:1b
Ver qué modelos tienes en el disco (ollama ls hace lo mismo):
ollama list
Ver qué modelos están cargados en memoria ahora mismo:
ollama ps
Merece la pena fijarse en la columna PROCESSOR. Según las preguntas frecuentes, 100% GPU significa que el modelo está entero en la GPU. 100% CPU significa que está en la memoria del sistema. Un reparto como 48%/52% CPU/GPU significa que está en parte en cada una. Por defecto, los modelos siguen cargados 5 minutos después de su último uso. ollama stop llama3.2 descarga un modelo de la memoria al instante.
Eliminar un modelo que ya no necesitas:
ollama rm llama3.2:1b
Paso 5: Habla con él a través de la API local
Mientras Ollama está en marcha, sirve una API en http://localhost:11434. Cualquier app de tu ordenador puede usarla. Esta es una petición de chat, según la referencia de la API:
curl http://localhost:11434/api/chat -d '{
"model": "llama3.2",
"messages": [
{ "role": "user", "content": "Why is the sky blue?" }
],
"stream": false
}'
Sin "stream": false, recibes un flujo de pequeños fragmentos JSON en lugar de una sola respuesta. Con él, recibes un único objeto con esta forma (recortado):
{
"model": "llama3.2",
"created_at": "...",
"message": {
"role": "assistant",
"content": "The sky looks blue because ..."
},
"done": true
}
También existe /api/generate, que recibe una sola cadena "prompt" en lugar de una lista messages. Devuelve el texto en un campo "response".
Muchas herramientas ya hablan el formato de la API de OpenAI. La documentación de compatibilidad con OpenAI de Ollama describe un endpoint en http://localhost:11434/v1/. Puedes llamarlo así:
curl http://localhost:11434/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "llama3.2",
"messages": [{ "role": "user", "content": "Hello!" }]
}'
Las bibliotecas cliente de OpenAI necesitan una clave de API. La documentación la fija en ollama y aclara que es «obligatoria pero se ignora».
Paso 6: Dale una personalidad al modelo con un Modelfile
Un Modelfile es un archivo de texto corto que crea un modelo personalizado a partir de uno existente. La referencia de Modelfile enumera las instrucciones. FROM (obligatoria) fija el modelo base, PARAMETER cambia ajustes y SYSTEM define el mensaje de sistema.
Crea un archivo llamado Modelfile con este contenido:
FROM llama3.2
PARAMETER temperature 0.7
SYSTEM """You are a patient tutor. Explain things in plain English, in short paragraphs, and give one example."""
Créalo y ejecútalo:
ollama create tutor -f ./Modelfile
ollama run tutor
Tu nuevo modelo tutor aparece ahora en ollama list.
Paso 7: Cambia dónde se guardan los modelos o quién puede acceder al servidor
Según las preguntas frecuentes, los modelos se guardan por defecto aquí:
- macOS:
~/.ollama/models - Linux:
/usr/share/ollama/.ollama/models - Windows:
C:\Users\%username%\.ollama\models
Para usar otra unidad, asigna a la variable de entorno OLLAMA_MODELS la carpeta que quieras. Cómo se hace depende de tu sistema:
- App de macOS: ejecuta
launchctl setenv OLLAMA_MODELS "/path/to/folder"y reinicia Ollama. - Linux (systemd): ejecuta
systemctl edit ollama.servicey añadeEnvironment="OLLAMA_MODELS=/path/to/folder"bajo[Service]. Después ejecutasystemctl daemon-reloadysystemctl restart ollama. El usuarioollamatambién necesita permisos de lectura y escritura en la carpeta. - Windows: cierra Ollama y busca «environment variables» (variables de entorno) en Configuración. Añade
OLLAMA_MODELSa tu cuenta de usuario y vuelve a iniciar Ollama.
OLLAMA_HOST funciona igual. Por defecto, Ollama solo escucha en 127.0.0.1, puerto 11434, así que otros dispositivos no pueden acceder. Si pones OLLAMA_HOST en 0.0.0.0:11434, lo abres a tu red. Hazlo solo en una red de confianza: cualquier cosa de tu red podría enviarle peticiones.
Unas palabras sobre privacidad
Las preguntas frecuentes de Ollama lo dicen claramente: «Ollama se ejecuta en local. No vemos tus prompts ni tus datos cuando lo ejecutas en local». Para descargar modelos sigues necesitando internet. Ollama también ofrece modelos en la nube opcionales, y esos se ejecutan en los servidores de Ollama. Si quieres trabajar totalmente sin conexión, las preguntas frecuentes explican cómo desactivar las funciones en la nube. Puedes definir OLLAMA_NO_CLOUD=1 o poner "disable_ollama_cloud": true en ~/.ollama/server.json.
Por eso los modelos locales encajan bien con notas y borradores privados.
Errores comunes y cómo solucionarlos
- «command not found» justo después de instalar. Abre una ventana de terminal nueva para que cargue el PATH actualizado. En un Mac, asegúrate de haber aceptado el aviso para crear el enlace en
/usr/local/bin. - «connection refused» en localhost:11434, o el servidor no está en marcha. La app de escritorio tiene que estar abierta (búscala en la barra de menús o en la barra de tareas). En Linux, ejecuta
systemctl status ollamao inicia el servidor a mano conollama serve. - El puerto 11434 ya está en uso. Normalmente significa que Ollama ya se está ejecutando, por ejemplo la app más un
ollama servemanual. Cierra uno de los dos. Si otro programa ocupa de verdad ese puerto, usaOLLAMA_HOSTpara que Ollama escuche en otro. - Modelo demasiado grande o sin memoria. Cambia a una etiqueta más pequeña como
llama3.2:1b, cierra otras apps pesadas y revisaollama pspara ver dónde se cargó el modelo. - Respuestas muy lentas. Si
ollama psmuestra100% CPU, el modelo se está ejecutando sin tu GPU. Comprueba que tu tarjeta y su driver estén en la lista de compatibles de la documentación de GPU, o usa un modelo más pequeño. - ¿Necesitas más detalles? La página de solución de problemas explica dónde están los registros. En un Mac, revisa
~/.ollama/logs/server.log. En Linux, ejecutajournalctl -u ollama. En Windows, abre%LOCALAPPDATA%\Ollama.
Para terminar
Ya tienes una configuración de IA local que funciona. Puede chatear en la terminal, responder llamadas a la API en localhost y ejecutar un tutor personalizado que has creado tú. Empieza en pequeño, vigila ollama ps y prueba modelos más grandes de la biblioteca solo cuando sepas cuánta memoria le sobra a tu máquina.
Fuentes y documentación oficial
Enlaces comprobados por última vez el 15 de noviembre de 2026.





Escribe una respuesta