Свои LLM-инференсы на Ollama на VPS в ЕС: Ryzen 9 7950X3D, до 96 ГБ RAM, полный root, без оплаты за токены. Гайд включён, от €13/мес, оплата криптой.
Честно про размер сразу: это CPU-сервер, а не GPU-облако. На Ryzen 9 7950X3D с быстрым NVMe квантованные модели 7B–14B (Q4/Q5) выдают пригодные токены для чата, классификации, извлечения и агентов с инструментами — этого хватает на большинство внутренних инструментов. Если нужно сотни токен/с на 70B — это территория GPU, и мы честно скажем.
| Задача | Тариф | Что влезет |
|---|---|---|
| Эксперименты, эмбеддинги, небольшой чат | Core VPS 4 NVMe — €13/мес | 8 ГБ RAM: модели 7B Q4 спокойно |
| Продакшн-агент, инструменты, RAG | Core VPS 12 NVMe — €60/мес | 48 ГБ RAM: 14B Q5 + векторная БД рядом |
| Большой контекст, батч-джобы, много моделей | Performance Plus 16 — €165/мес | 64 ГБ RAM и 16 vCPU для параллельных промптов |
Нет — и не притворяемся. Для GPU-инференса берите GPU-провайдер; для моделей, дружных к CPU, приватных данных и предсказуемых расходов это лучший инструмент.
Нет — это ваш localhost. Лимиты появятся только если вы сами поставите перед ним прокси.
`ollama pull` когда нужен новый тег; держите старый тег, пока не уверены — диск это единственная цена.
Инференс без счетов Фиксированная цена за месяц, полный root, EU-дата-центр. Развернуть под AI →