Instala Ollama en un VPS, descarga Llama 3.2 o Qwen 2.5 y expón una API compatible con OpenAI usando systemd. Cifras realistas de RAM y lo que un VPS de 12 € puede ejecutar de verdad.
No necesita una granja de GPU para ejecutar un modelo de lenguaje útil. Los modelos pequeños responden rápido en CPU y mantienen sus datos en su propio servidor - esta guía ajusta expectativas con cifras reales.
| Modelo | RAM necesaria (q4) | En disco | Velocidad en CPU (medida) | Sirve para |
|---|---|---|---|---|
| qwen3:0.6b | ~1 GB | ~1 GB | muy rápido | Enrutado, clasificación, pruebas |
| llama3.2:3b | ~4 GB | ~2 GB | ~10–20 tokens/s | Chat, resúmenes, borradores |
| qwen2.5:7b | ~8 GB | ~5 GB | ~4–8 tokens/s | Mejor calidad, aún usable |
| deepseek-r1:14b | ~16 GB | ~9 GB | más lento | Razonamiento, respuestas paso a paso |
| qwen3:32b | ~24–32 GB | ~20 GB | mucho más lento en CPU | Borradores de código locales, RAG |
| llama3.3:70b | ~64 GB | ~43 GB | Clase GPU - no para un VPS de CPU | Cargas pesadas en una máquina con GPU |
Las cifras de RAM son los mínimos oficiales de Ollama para pesos cuantizados de 4 bits; la columna de disco es lo que el archivo del modelo ocupa realmente. Las velocidades provienen de nuestras propias mediciones de CPU - el hardware está documentado en la página de benchmarks. Sea honesto consigo mismo: un modelo de 7B en CPU escribe más lento de lo que usted lee. Para bots de chat y procesamiento por lotes está bien; para asistentes de código interactivos no - mantenga el modelo en un plan de 8 GB y funcionará sin sobresaltos.
curl -fsSL https://ollama.com/install.sh | sh systemctl enable --now ollama ollama pull llama3.2:3b ollama run llama3.2:3b "Say hello in one short sentence."
Los modelos se guardan en `/usr/share/ollama/.ollama/models` - unos pocos gigabytes cada uno, así que compruebe el disco libre con `df -h` antes de descargar varios.
Ollama habla el formato de la API de OpenAI en el puerto 11434. Cualquier cliente que admita una URL base personalizada funciona:
curl http://127.0.0.1:11434/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"llama3.2:3b","messages":[{"role":"user","content":"Hello"}]}'Ollama no tiene autenticación integrada: cualquiera que pueda alcanzar el puerto 11434 puede descargar y borrar sus modelos y saturar la CPU. No lo exponga al mundo. O mantiene la API en localhost, o la pone detrás de Caddy con un token:
apt install -y caddy
cat > /etc/caddy/Caddyfile <<'EOF'
llm.example.com {
@auth header Authorization "Bearer long-random-token"
handle @auth {
reverse_proxy 127.0.0.1:11434
}
respond 401
}
EOF
systemctl reload caddyLuego apunte su cliente a `https://llm.example.com/v1` con ese token.
Resuma tickets de soporte en Telegram. Clasifique los mensajes entrantes. Genere borradores para un bot. Ejecute embeddings para un pequeño índice de búsqueda. Todo permanece en su servidor: sin claves de API, sin facturas por token, sin datos que salgan de la máquina.
ollama ps # what is loaded right now ollama list # downloaded models journalctl -u ollama -f
Los modelos más descargados de 2026 son DeepSeek-R1, Qwen 3 y gpt-oss - sus variantes pequeñas destiladas se ejecutan en los mismos planes que la tabla de arriba. La biblioteca de Ollama muestra la lista de hoy. `ollama pull <tag>` descarga un modelo, ejecutar el mismo pull de nuevo lo actualiza a los últimos pesos y `ollama rm <tag>` devuelve el espacio en disco.
Compruebe su versión con `ollama --version`; las versiones estables se publican en la página de releases de Ollama. Para actualizar el propio Ollama, vuelva a ejecutar el script de instalación de la sección 2 - systemd reinicia el servicio con el binario nuevo.
La longitud del contexto es el segundo consumidor de RAM después del archivo del modelo: Ollama usa por defecto 4k tokens y la memoria escala con contexto × peticiones paralelas. Los agentes y los asistentes de código quieren 32k o más, así que llévela solo cuando lo necesite:
ollama --version # installed build ollama pull qwen3:8b # download or update a model ollama rm qwen2.5:7b # free disk space systemctl edit ollama # add: Environment="OLLAMA_CONTEXT_LENGTH=16384"
Para modelos pequeños, sí. Un modelo de 3B responde indicaciones simples en pocos segundos con un conjunto de núcleos Ryzen 9, y los trabajos por lotes no se preocupan en absoluto por la velocidad. Los modelos grandes de 30B o más necesitan una GPU - alquile una cuando la necesite.
No. Ollama se ejecuta en CPU con modelos cuantizados por defecto. Las GPU aceleran los modelos grandes, pero todo lo de la tabla de arriba se ejecuta cómodamente en un plan Buran normal.
Un modelo 7B q4 necesita unos 8 GB de RAM - Core VPS 4 a €12/mes lo ejecuta cómodamente. Los modelos de 13–14B quieren 16 GB (Core VPS 6, €16/mes), el de 32B quiere 24–32 GB (Core VPS 8, €30/mes). Un modelo 70B q4 necesita ~64 GB, que es terreno de VDS - alquile una máquina con GPU cuando realmente necesite esa clase.
El archivo del modelo es solo el suelo. Ollama mantiene también en RAM la caché KV del contexto activo - el valor por defecto de 4k es barato, 32k en un modelo de 7B añade varios GB y las peticiones paralelas lo multiplican. Si expone la API a varios usuarios, elija un plan un escalón por encima del tamaño del modelo.
Empiece pequeño: ejecute un modelo de 7B en Core VPS 4 con 8 GB por €12/mes.