پایش GPU و حافظه
مصرف لحظه‌ای و روند منابع هر میزبان.
GPU و پردازش موازیBeta
توان GPU، زیر کنترل خودتان
سرورهای GPU سازمان را برای Inference و پردازش موازی آماده و پایش کنید؛ مدلها و داده‌ها هرگز از شبکه شما خارج نمی‌شوند.
- NVIDIA
- پشتیبانی Driver
- Ollama
- استنتاج محلی
- زنده
- پایش مصرف GPU
فعال
HOW IT WORKS
چطور کار می‌کند
- ۱
اتصال سرور GPU
سرور دارای GPU را مثل هر سرور دیگری با یک فرمان وصل کنید.
- ۲
تشخیص سخت‌افزار
Agent مدل GPU، حافظه و Driver را گزارش می‌دهد.
- ۳
اجرای بار کاری
مدل AI یا بار کاری خود را روی GPU مستقر کنید.
- ۴
پایش و سهمیه
مصرف، دما و حافظه هر GPU را در کنسول ببینید.
قابلیت‌ها
GPU و پردازش موازی
مدلهای محلی
نصب Ollama و مدلهای متنباز با یک کلیک.
کانتینر ایزوله
اجرای Workload در کانتینرهای محدودشده.
ظرفیت و هشدار
هشدار کمبود حافظه و فشار حرارتی.
دسترسی کنترل‌شده
مجوز نصب جداگانه برای هر Agent.
تاریخچه اجرا
همه نصب‌ها و تحلیل‌ها ثبت میشوند.
USE CASES
کاربردها
Inference مدلهای زبانی
اجرای LLMهای متنباز با تأخیر کم در شبکه داخلی.
آموزش و Fine-tune
استفاده بهینه از GPUهای موجود برای تیم داده.
اشتراک بین تیم‌ها
تخصیص GPU به پروژه‌ها با نقش‌ها و Audit.
مشخصات فنی
- سخت‌افزار
- NVIDIA با Driver رسمی
- Runtime
- Docker + NVIDIA Container Toolkit
- پایش
- مصرف، حافظه، دما
- وضعیت
- Beta
LOCAL AI
هوش مصنوعی بدون خروج داده
مدلها روی GPU خودتان اجرا میشوند و فقط نتیجه در کنسول نمایش داده میشود.
- گفتگو با مدل محلی در کنسول
- تحلیل زیرساخت با تأیید مدیر
- بدون ارسال داده به سرویس خارجی
FAQ
سؤال‌های متداول
آیا GPU باید از whycloud اجاره شود؟
خیر؛ GPUهای خودتان را متصل میکنید.
کدام مدلها پشتیبانی میشوند؟
مدلهای متنباز سازگار با Ollama مثل Qwen و Gemma.
آیا AMD پشتیبانی میشود؟
در حال حاضر تمرکز روی NVIDIA است؛ سایر سختافزارها در برنامه آیندهاند.
سرویس‌های مرتبط
سرور ابری و VMسرور ابری و ماشین مجازی whycloud: اتصال سرورهای Linux با یک فرمان، Ter…PaaS اپلیکیشن کانتینریPaaS whycloud: فایل Compose یا فرمان docker run را بدهید تا اپلیکیشن ب…Container Registryرجیستری کانتینر whycloud: On-prem روی سرور شما یا Cloud، Proxy Cache ب…میزبانی وبHosting whycloud: سایت استاتیک روی CDN با نسخه‌بندی و ویرایشگر، وردپرس…
کلاد خودتان را امروز روشن کنید
حساب بسازید و اولین سرور را در کمتر از پنج دقیقه متصل کنید.