LLM local en un VPS con Ollama - requisitos

Instala Ollama en un VPS, descarga Llama 3.2 o Qwen 2.5 y expón una API compatible con OpenAI usando systemd. Cifras realistas de RAM y lo que un VPS de 12 € puede ejecutar de verdad.

No necesita una granja de GPU para ejecutar un modelo de lenguaje útil. Los modelos pequeños responden rápido en CPU y mantienen sus datos en su propio servidor - esta guía ajusta expectativas con cifras reales.

1. Qué cabe en su RAM

ModeloRAM necesaria (q4)En discoVelocidad en CPU (medida)Sirve para
qwen3:0.6b~1 GB~1 GBmuy rápidoEnrutado, clasificación, pruebas
llama3.2:3b~4 GB~2 GB~10–20 tokens/sChat, resúmenes, borradores
qwen2.5:7b~8 GB~5 GB~4–8 tokens/sMejor calidad, aún usable
deepseek-r1:14b~16 GB~9 GBmás lentoRazonamiento, respuestas paso a paso
qwen3:32b~24–32 GB~20 GBmucho más lento en CPUBorradores de código locales, RAG
llama3.3:70b~64 GB~43 GBClase GPU - no para un VPS de CPUCargas pesadas en una máquina con GPU

Las cifras de RAM son los mínimos oficiales de Ollama para pesos cuantizados de 4 bits; la columna de disco es lo que el archivo del modelo ocupa realmente. Las velocidades provienen de nuestras propias mediciones de CPU - el hardware está documentado en la página de benchmarks. Sea honesto consigo mismo: un modelo de 7B en CPU escribe más lento de lo que usted lee. Para bots de chat y procesamiento por lotes está bien; para asistentes de código interactivos no - mantenga el modelo en un plan de 8 GB y funcionará sin sobresaltos.

2. Instale Ollama

curl -fsSL https://ollama.com/install.sh | sh
systemctl enable --now ollama
ollama pull llama3.2:3b
ollama run llama3.2:3b "Say hello in one short sentence."

Los modelos se guardan en `/usr/share/ollama/.ollama/models` - unos pocos gigabytes cada uno, así que compruebe el disco libre con `df -h` antes de descargar varios.

3. API compatible con OpenAI

Ollama habla el formato de la API de OpenAI en el puerto 11434. Cualquier cliente que admita una URL base personalizada funciona:

curl http://127.0.0.1:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"llama3.2:3b","messages":[{"role":"user","content":"Hello"}]}'

4. Manténgalo privado

Ollama no tiene autenticación integrada: cualquiera que pueda alcanzar el puerto 11434 puede descargar y borrar sus modelos y saturar la CPU. No lo exponga al mundo. O mantiene la API en localhost, o la pone detrás de Caddy con un token:

apt install -y caddy
cat > /etc/caddy/Caddyfile <<'EOF'
llm.example.com {
    @auth header Authorization "Bearer long-random-token"
    handle @auth {
        reverse_proxy 127.0.0.1:11434
    }
    respond 401
}
EOF
systemctl reload caddy

Luego apunte su cliente a `https://llm.example.com/v1` con ese token.

5. Úselo en sus aplicaciones

Resuma tickets de soporte en Telegram. Clasifique los mensajes entrantes. Genere borradores para un bot. Ejecute embeddings para un pequeño índice de búsqueda. Todo permanece en su servidor: sin claves de API, sin facturas por token, sin datos que salgan de la máquina.

ollama ps     # what is loaded right now
ollama list   # downloaded models
journalctl -u ollama -f

6. Actualizaciones, contexto y modelos populares

Los modelos más descargados de 2026 son DeepSeek-R1, Qwen 3 y gpt-oss - sus variantes pequeñas destiladas se ejecutan en los mismos planes que la tabla de arriba. La biblioteca de Ollama muestra la lista de hoy. `ollama pull <tag>` descarga un modelo, ejecutar el mismo pull de nuevo lo actualiza a los últimos pesos y `ollama rm <tag>` devuelve el espacio en disco.

Compruebe su versión con `ollama --version`; las versiones estables se publican en la página de releases de Ollama. Para actualizar el propio Ollama, vuelva a ejecutar el script de instalación de la sección 2 - systemd reinicia el servicio con el binario nuevo.

La longitud del contexto es el segundo consumidor de RAM después del archivo del modelo: Ollama usa por defecto 4k tokens y la memoria escala con contexto × peticiones paralelas. Los agentes y los asistentes de código quieren 32k o más, así que llévela solo cuando lo necesite:

ollama --version            # installed build
ollama pull qwen3:8b        # download or update a model
ollama rm qwen2.5:7b        # free disk space
systemctl edit ollama       # add: Environment="OLLAMA_CONTEXT_LENGTH=16384"

Respuestas rápidas

¿Es usable la inferencia solo con CPU?

Para modelos pequeños, sí. Un modelo de 3B responde indicaciones simples en pocos segundos con un conjunto de núcleos Ryzen 9, y los trabajos por lotes no se preocupan en absoluto por la velocidad. Los modelos grandes de 30B o más necesitan una GPU - alquile una cuando la necesite.

¿Necesita Ollama un VPS dedicado con GPU?

No. Ollama se ejecuta en CPU con modelos cuantizados por defecto. Las GPU aceleran los modelos grandes, pero todo lo de la tabla de arriba se ejecuta cómodamente en un plan Buran normal.

¿Qué plan debería elegir?

Un modelo 7B q4 necesita unos 8 GB de RAM - Core VPS 4 a €12/mes lo ejecuta cómodamente. Los modelos de 13–14B quieren 16 GB (Core VPS 6, €16/mes), el de 32B quiere 24–32 GB (Core VPS 8, €30/mes). Un modelo 70B q4 necesita ~64 GB, que es terreno de VDS - alquile una máquina con GPU cuando realmente necesite esa clase.

¿Cuánta RAM consume el contexto?

El archivo del modelo es solo el suelo. Ollama mantiene también en RAM la caché KV del contexto activo - el valor por defecto de 4k es barato, 32k en un modelo de 7B añade varios GB y las peticiones paralelas lo multiplican. Si expone la API a varios usuarios, elija un plan un escalón por encima del tamaño del modelo.

Empiece pequeño: ejecute un modelo de 7B en Core VPS 4 con 8 GB por €12/mes.

Relacionado

Ver planesGuíasFAQ