AI மாதிரிகளின் அனுமானத்தை மேம்படுத்தவும் சேவையாக இயக்கவும் உதவும் உருவாக்குநர் கருவிகள்.
திறமையான மாதிரி சேவை மற்றும் அனுமானம் மற்றும் PyTorch அறக்கட்டளை பக்கம் அதன் திட்டங்களில் vLLM பட்டியலிடுகிறது.
- பதிவுசெய்யப்பட்ட தள மொழிகள்
- English
அதிகாரப்பூர்வ ஆதாரங்கள்: vllm.ai
