AI मॉडेलचे अनुमान कार्यक्षम करण्यासाठी आणि सेवा म्हणून चालवण्यासाठी विकसक साधने.
कार्यक्षम मॉडेल सर्व्हिंग आणि अनुमान आणि PyTorch फाउंडेशन पृष्ठ त्याच्या प्रकल्पांमध्ये vLLM सूचीबद्ध करते.
- संकेतस्थळाच्या नोंदवलेल्या भाषा
- English
अधिकृत स्रोत: vllm.ai
