🚀 AI 专用 VPS - 在自有服务器运行 LLM(Ollama、llama.cpp)

AI VPS:自托管 LLM,12 €/月起 - Ollama、llama.cpp 与 vLLM 运行于 KVM VPS,NVMe、独立 IP、不限流量。数据不出服务器。

在独立 IP 上自建 LLM 和兼容 OpenAI 的接口 - 从 €12 套餐上的 8B 模型到 Performance VPS 上的更大配置。没有按 token 计费的账单,数据不离开您的服务器。

为什么自建胜过云 API

云端 AI 按 token 计费:每次实验账单都在增长,开发到一半就撞上调用频率限制,您的提示词还要经过别人的基础设施。VPS 正好相反 - 您支付固定月费,硬件允许多少请求就跑多少,每条提示词和每份文档都留在您掌控的机器上。代价也很坦诚:模型和更新需要您自己管理。

哪个模型适合哪个套餐

8 GB 内存(Core VPS 4,€12) - 量化的 7–8B 模型(Llama、Mistral、Qwen 级别):可靠的本地助手和摘要。16 GB(Core VPS 6) - Q4 的 13–14B,并有上下文余量。32 GB 及以上(Performance VPS、VDS) - 更大的模型、多人同时使用、长上下文窗口。每个模型的权重在 NVMe 上占 4–10 GB;CPU 推理对小模型和批处理任务很灵敏,但坦白说无法替代实时 GPU - 请看下面的限制。

行之有效的技术栈

Ollama 一条命令就能拉取并提供模型 - 是搭建本地助手最快的方式。llama.cpp server 提供兼容 OpenAI 的 HTTP API,任何使用 OpenAI 格式的应用都能把 base URL 指向您的 VPS。vLLM 在吞吐量重要时提供连续批处理。Open WebUI 提供聊天界面。全部交给 systemd 管理以便自动重启,更换模型前先做快照 - 容器化部署见 Docker 指南。

坦诚的限制

我们不出售 GPU 服务器:这里的推理运行在 CPU 和内存上,对于 7–14B 量化模型、基于您自己文档的 RAG 和轻量生成确实够用 - 但不足以进行训练、带梯度的微调或实时视频。这些工作需要专业服务商的加速卡;我们宁愿事先说明,也不愿让您下单后才发现。其他一切 - 流量、磁盘、在线率 - 都遵循我们的条款。

常见问题

第一个本地模型选哪个套餐?

€12 的 Core VPS 4 配合 Ollama 可以轻松运行 7–8B 量化模型。如需 13–14B 或同时运行多个模型,请选择 16 GB 的 Core VPS 6。

有兼容 OpenAI 的 API 吗?

有 - llama.cpp server 和 vLLM 都提供 OpenAI 风格的接口。把应用的 base URL 指向 VPS,继续使用现有代码即可。

提供 GPU 吗?

没有。所有 Buran VPS 产品线都是 CPU + NVMe。训练和 GPU 推理需要专门的服务商 - 我们会在您下单前说明,而不是之后。

今晚就拥有自己的 AI 接口 固定月费,独立 IP,数据永不离开服务器。 选择套餐 →

相关内容

查看套餐指南常见问题