vLLM™

AI મોડેલનું અનુમાન કાર્યક્ષમ બનાવવા અને સેવા તરીકે ચલાવવા માટેનાં સાધનો.

કાર્યક્ષમ મોડેલ સર્વિંગ અને અનુમાન અને PyTorch ફાઉન્ડેશન પૃષ્ઠ તેના પ્રોજેક્ટ્સમાં vLLM ને સૂચિબદ્ધ કરે છે.

વેબસાઇટની નોંધાયેલી ભાષાઓ

English

અધિકૃત સ્ત્રોતો: vllm.ai