AI ମଡେଲ୍ର ଅନୁମାନ ପ୍ରକ୍ରିୟା ଉନ୍ନତ କରିବା ଓ ସେବା ଭାବେ ଚଲାଇବାର ସାଧନ।
ଦକ୍ଷ ମଡେଲ ସେବା ଏବଂ ଭିତ୍ତିଭୂମି ଏବଂ PyTorch ଫାଉଣ୍ଡେସନ ପୃଷ୍ଠା ଏହାର ପ୍ରକଳ୍ପଗୁଡ଼ିକ ମଧ୍ୟରେ vLLM ତାଲିକାଭୁକ୍ତ କରେ |
- ୱେବସାଇଟର ଲିପିବଦ୍ଧ ଭାଷା
- English
ଅଧିକାରିକ ଉତ୍ସ: vllm.ai
ସମ୍ବନ୍ଧିତ ଲିଙ୍କ
SGLang
AI ମଡେଲ୍ର ଅନୁମାନ ପ୍ରକ୍ରିୟା ଉନ୍ନତ କରିବା ଓ ସେବା ଭାବେ ଚଲାଇବାର ସାଧନ।
DeepSpeed™
ବିତରିତ AI ପ୍ରଶିକ୍ଷଣ, ଅନୁମାନ ଓ କାର୍ଯ୍ୟଭାର ବୃଦ୍ଧି ପାଇଁ ସାଧନ।
Transformers (Hugging Face)
ମେସିନ୍ ଲର୍ନିଂ ଫ୍ରେମୱର୍କ, ଡେଭେଲପର୍ ଦଲିଲ ଓ ମଡେଲ୍ ପ୍ରଶିକ୍ଷଣ ସାଧନ।
Safetensors
ମଡେଲ୍ ଫର୍ମାଟ୍, ପାରସ୍ପରିକ ସୁସଙ୍ଗତତା ଓ ମଡେଲ୍ ତଥ୍ୟ ଲୋଡ୍ କରିବାର ସାଧନ।
Replit
ସଫ୍ଟୱେର ପ୍ରକଳ୍ପ ତିଆରି, ଚଳାଇବା ଓ ପ୍ରକାଶ କରିବା ପାଇଁ ଅନଲାଇନ ବିକାଶ ମଞ୍ଚ।
Ollama
ଭାଷା ମଡେଲ ଚଳାଇବା ଓ ପରିଚାଳନା ପାଇଁ ସାଧନ।
NVIDIA NeMo
ମେସିନ୍ ଲର୍ନିଂ ଫ୍ରେମୱର୍କ, ଡେଭେଲପର୍ ଦଲିଲ ଓ ମଡେଲ୍ ପ୍ରଶିକ୍ଷଣ ସାଧନ।
Streamlit
ଡାଟା ଓ ଏଆଇ ଆପ୍ ତିଆରି ଏବଂ ସେୟାର ପାଇଁ Python ସାଧନ।