VPS para LLM - Corra Ollama e modelos de IA no seu servidor

Aloje inferência de LLM com Ollama num VPS na UE: Ryzen 9 7950X3D, até 96 GB de RAM, root total, sem custos por token. Guia incluído, desde 13 €/mês, pague com cripto.

O que corre bem num VPS com CPU

Primeiro, um dimensionamento honesto: isto é um servidor de CPU, não uma cloud de GPU. Num Ryzen 9 7950X3D com NVMe rápido, modelos quantizados de 7B–14B (Q4/Q5) geram tokens a um ritmo útil para chat, classificação, extração e agentes com ferramentas. Isso cobre a maioria das ferramentas internas. Se precisa de centenas de tokens por segundo em modelos de 70B, isso é território de GPU e dizemo-lo claramente.

Planos por tamanho de modelo

Carga de trabalhoPlanoO que cabe
Experiências, embeddings, chat pequenoCore VPS 4 NVMe - 13 €/mês8 GB de RAM: modelos 7B Q4 com folga
Agente em produção, ferramentas, RAGCore VPS 12 NVMe - 60 €/mês48 GB de RAM: 14B Q5 + base vetorial lado a lado
Contexto grande, tarefas em lote, muitos modelosPerformance Plus 16 - 165 €/mês64 GB de RAM e 16 vCPU para prompts em paralelo

A stack em quatro comandos

  1. Implementação Plano NVMe desde 13 €, pago com cripto.
  2. Instalar o Ollama O guia do Ollama cobre a instalação, o download do modelo, a exposição da API e o systemd.
  3. Expor em segurança Associe a localhost, coloque a sua aplicação ou um proxy reverso com autenticação à frente - nunca a API crua na internet.

Respostas rápidas

Têm servidores com GPU?

Não - e não fingimos o contrário. Para inferência em GPU use um fornecedor de GPU; para modelos adequados à CPU, dados privados e custos previsíveis, esta é a melhor ferramenta.

A API tem limite de pedidos?

Não - é o seu localhost. Só há limites se colocar um proxy à frente por conta própria.

Como funcionam as atualizações dos modelos?

`ollama pull` quando quiser uma nova tag; mantenha a antiga até estar satisfeito - o único custo é o disco.

Inferência sem faturas Preço mensal fixo, root total, datacenter na UE. Publicar para IA →

Relacionados

Ver planosGuiasFAQ