AI মডেলৰ ইনফাৰেন্স উন্নত কৰা আৰু সেৱা হিচাপে চলোৱাৰ সঁজুলি।
দক্ষ আৰ্হি সেৱা আৰু অনুমান আৰু PyTorch ফাউণ্ডেশ্যন পৃষ্ঠাই vLLMক ইয়াৰ প্ৰকল্পসমূহৰ মাজত তালিকাভুক্ত কৰে।
- ৱেবছাইটৰ নথিভুক্ত ভাষা
- English
আধিকাৰিক উৎস: vllm.ai
সম্পৰ্কিত লিংক
SGLang
AI মডেলৰ ইনফাৰেন্স উন্নত কৰা আৰু সেৱা হিচাপে চলোৱাৰ সঁজুলি।
DeepSpeed™
বিতৰিত AI প্ৰশিক্ষণ, ইনফাৰেন্স আৰু কামৰ পৰিসৰ বৃদ্ধিৰ সঁজুলি।
Transformers (Hugging Face)
মেচিন লাৰ্নিং ফ্ৰেমৱৰ্ক, ডেভেলপাৰ নথি আৰু মডেল প্ৰশিক্ষণৰ সঁজুলি।
Safetensors
মডেলৰ ফৰ্মেট, পাৰস্পৰিক সংগতি আৰু মডেল ডেটা লোড কৰাৰ সঁজুলি।
Replit
ছফ্টৱেৰ প্ৰকল্প সৃষ্টি, চলোৱা আৰু প্ৰকাশ কৰাৰ অনলাইন বিকাশ মঞ্চ।
Ollama
ভাষা মডেল চলোৱা আৰু পৰিচালনা কৰাৰ সঁজুলি।
NVIDIA NeMo
মেচিন লাৰ্নিং ফ্ৰেমৱৰ্ক, ডেভেলপাৰ নথি আৰু মডেল প্ৰশিক্ষণৰ সঁজুলি।
Streamlit
ডেটা আৰু এআই এপ নিৰ্মাণ আৰু ভাগ-বতৰা কৰিবলৈ Python সঁজুলি।