LLM-VPS — Ollama & KI-Modelle auf Ihrem Server

LLM-Inferenz mit Ollama auf EU-VPS selbst hosten: Ryzen 9 7950X3D, bis 96 GB RAM, volles Root, keine Token-Gebühren. Anleitung, ab €13/Monat, Krypto.

Was auf einem CPU-VPS gut läuft

Zuerst ehrlich zur Größe: Das ist ein CPU-Server, keine GPU-Cloud. Auf Ryzen 9 7950X3D mit schnellem NVMe erzeugen quantisierte 7B–14B-Modelle (Q4/Q5) brauchbare Tokens für Chat, Klassifikation, Extraktion und Tool-Calling-Agenten. Das deckt die meisten internen Werkzeuge ab. Wenn Sie Hunderte von Tokens pro Sekunde bei 70B-Modellen brauchen — das ist GPU-Territorium, und wir sagen es klar.

Tarife nach Modellgröße

SzenarioTarifWas passt
Experimente, Embeddings, kleiner ChatCore VPS 4 NVMe — €13/Monat8 GB RAM: 7B-Q4-Modelle bequem
Produktiver Agent, Tools, RAGCore VPS 12 NVMe — €60/Monat48 GB RAM: 14B Q5 + Vektordb nebeneinander
Großer Kontext, Batch-Jobs, viele ModellePerformance Plus 16 — €165/Monat64 GB RAM und 16 vCPU für parallele Prompts

Stack in vier Befehlen

  1. Deploy NVMe-Tarif ab €13, Zahlung per Krypto oder Karte.
  2. Ollama installieren Die Ollama-Anleitung führt durch Installation, Model-Pull, API-Bind und systemd.
  3. Sicher nach außen öffnen An localhost binden, davor Ihre App oder einen Reverse-Proxy mit Authentifizierung stellen — niemals die rohe API ins Internet.

Schnelle Antworten

Haben Sie GPU-Server?

Nein — und wir tun nicht so, als wäre es anders. Für GPU-Inferenz nehmen Sie einen GPU-Anbieter; für CPU-freundliche Modelle, private Daten und planbare Kosten ist das hier das bessere Werkzeug.

Gibt es ein Rate-Limit für die API?

Nein — das ist Ihr localhost. Rate-Limits entstehen nur, wenn Sie selbst einen Proxy davorstellen.

Wie funktionieren Modell-Updates?

`ollama pull`, wenn Sie einen neuen Tag wollen; halten Sie den alten Tag, bis Sie zufrieden sind — die Disk ist der einzige Preis.

Inferenz ohne Rechnungen Fester Monatspreis, volles Root, EU-Rechenzentrum. Für KI deployen →

Siehe auch

Tarife ansehenAnleitungenFAQ