VPS برای LLM — مدل‌های هوش مصنوعی خودتان با Ollama

استنتاج LLM با Ollama روی VPS اتحادیه اروپا: Ryzen 9 7950X3D، تا ۹۶ گیگابایت RAM، root کامل، بدون پرداخت به ازای توکن. راهنما شامل، از ۱۳ یورو در ماه، پرداخت رمزارزی.

چه چیزی روی VPS با CPU خوب اجرا می‌شود

اول درباره اندازه صادقانه: این سرور CPU است، نه ابر GPU. روی Ryzen 9 7950X3D با NVMe سریع، مدل‌های کوانتیزه ۷ تا ۱۴ میلیارد پارامتر (Q4/Q5) توکن‌های قابل استفاده برای چت، دسته‌بندی، استخراج و ایجنت‌ها می‌دهد — برای بیشتر ابزارهای داخلی کافی است. اگر صدها توکن در ثانیه روی ۷۰ میلیارد می‌خواهید — قلمرو GPU است و صادقانه می‌گوییم.

پلان‌ها بر اساس اندازه مدل

حجم کارپلانچه چیزی جا می‌شود
آزمایش، embedding، چت کوچکCore VPS 4 NVMe — ۱۳ یورو/ماه۸ گیگابایت RAM: مدل‌های 7B Q4 راحت
ایجنت تولیدی، ابزارها، RAGCore VPS 12 NVMe — ۶۰ یورو/ماه۴۸ گیگابایت RAM: 14B Q5 + دیتابیس برداری کنار هم
context بزرگ، batch، مدل‌های زیادPerformance Plus 16 — ۱۶۵ یورو/ماه۶۴ گیگابایت RAM و ۱۶ vCPU برای پرامپت‌های موازی

استک با چهار دستور

  1. استقرار پلان NVMe از ۱۳ یورو، پرداخت رمزارز یا کارت.
  2. Ollama را نصب کنید راهنمای Ollama نصب، کشیدن مدل، اتصال API و systemd را می‌برد.
  3. به‌صورت امن باز کنید به localhost وصل کنید، جلویش اپ یا reverse proxy با احراز هویت بگذارید — هرگز API خام در اینترنت.

پاسخ‌های سریع

سرور GPU دارید؟

نه — و وانمود نمی‌کنیم. برای استنتاج GPU از ارائه‌دهنده GPU استفاده کنید؛ برای مدل‌های سازگار با CPU، داده خصوصی و هزینه قابل پیش‌بینی این ابزار بهتر است.

محدودیت نرخ API هست؟

نه — localhost خودتان است. محدودیت فقط اگر خودتان پروکسی جلو بگذارید.

به‌روزرسانی مدل‌ها چگونه است؟

`ollama pull` وقتی تگ جدید خواستید؛ تگ قدیمی را نگه دارید تا مطمئن شوید — تنها هزینه دیسک است.

استنتاج بدون صورت‌حساب قیمت ماهانه ثابت، root کامل، دیتاسنتر اتحادیه اروپا. استقرار برای AI →

مرتبط

مشاهده پلان‌هاراهنماهاپرسش‌های متداول