vLLM™

AI ಮಾದರಿಯ ನಿರ್ಣಯ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಉತ್ತಮಗೊಳಿಸಲು ಮತ್ತು ಸೇವೆಯಾಗಿ ನಡೆಸಲು ಸಾಧನಗಳು.

ಸಮರ್ಥ ಮಾದರಿ ಸೇವೆ ಮತ್ತು ತೀರ್ಮಾನ ಮತ್ತು PyTorch ಫೌಂಡೇಶನ್ ಪುಟವು ಅದರ ಯೋಜನೆಗಳಲ್ಲಿ vLLM ಅನ್ನು ಪಟ್ಟಿ ಮಾಡುತ್ತದೆ.

ದಾಖಲಾದ ಜಾಲತಾಣದ ಭಾಷೆಗಳು

English

ಅಧಿಕೃತ ಮೂಲಗಳು: vllm.ai