AI ماڈل کے نتائج اخذ کرنے کی کارکردگی بہتر بنانے اور اسے سروس کے طور پر چلانے کے اوزار۔
موثر ماڈل پیش کرنے اور اندازہ لگانے اور PyTorch فاؤنڈیشن کا صفحہ vLLM کو اپنے منصوبوں میں درج کرتا ہے۔
- ویب سائٹ کی درج زبانیں
- English
سرکاری ماخذ: vllm.ai
متعلقہ روابط
SGLang
AI ماڈل کے نتائج اخذ کرنے کی کارکردگی بہتر بنانے اور اسے سروس کے طور پر چلانے کے اوزار۔
DeepSpeed™
تقسیم شدہ AI تربیت، نتائج اخذ کرنے اور کام کا پیمانہ بڑھانے کے اوزار۔
Transformers (Hugging Face)
مشین لرننگ فریم ورک، ڈویلپر دستاویزات اور ماڈل کی تربیت کے اوزار۔
Safetensors
ماڈل کے فارمیٹ، باہمی مطابقت اور ماڈل کا ڈیٹا لوڈ کرنے کے اوزار۔
Replit
سافٹ ویئر منصوبے بنانے، چلانے اور شائع کرنے کا آن لائن ترقیاتی پلیٹ فارم۔
Ollama
لسانی ماڈل چلانے اور ان کا انتظام کرنے کے ٹولز۔
NVIDIA NeMo
مشین لرننگ فریم ورک، ڈویلپر دستاویزات اور ماڈل کی تربیت کے اوزار۔
Streamlit
ڈیٹا اور اے آئی ایپس بنانے اور شیئر کرنے کے لیے Python ٹولز۔