AI মডেলের ইনফারেন্স উন্নত করা ও পরিষেবা হিসেবে চালানোর ডেভেলপার সরঞ্জাম।
দক্ষ মডেল পরিবেশন এবং অনুমান এবং PyTorch ফাউন্ডেশন পৃষ্ঠা vLLM এর প্রকল্পগুলির মধ্যে তালিকাভুক্ত করে।
- ওয়েবসাইটের নথিভুক্ত ভাষা
- English
আধিকারিক উৎস: vllm.ai
সম্পর্কিত লিঙ্ক
SGLang
AI মডেলের ইনফারেন্স উন্নত করা ও পরিষেবা হিসেবে চালানোর ডেভেলপার সরঞ্জাম।
DeepSpeed™
বিতরণভিত্তিক AI প্রশিক্ষণ, ইনফারেন্স ও কাজের পরিসর বাড়ানোর সরঞ্জাম।
Transformers (Hugging Face)
মেশিন লার্নিং ফ্রেমওয়ার্ক, ডেভেলপার নথি ও মডেল প্রশিক্ষণের সরঞ্জাম।
Safetensors
মডেলের ফরম্যাট, আন্তঃসামঞ্জস্য ও মডেল ডেটা লোড করার সরঞ্জাম।
Replit
সফটওয়্যার প্রকল্প তৈরি, চালানো ও প্রকাশের অনলাইন উন্নয়ন প্ল্যাটফর্ম।
Ollama
ভাষা মডেল চালানো ও পরিচালনার সরঞ্জাম।
NVIDIA NeMo
মেশিন লার্নিং ফ্রেমওয়ার্ক, ডেভেলপার নথি ও মডেল প্রশিক্ষণের সরঞ্জাম।
Streamlit
ডেটা ও এআই অ্যাপ তৈরি এবং ভাগ করার Python সরঞ্জাম।