# vllm-project/vllm

> Motor de inferență și servire de mare debit pentru LLM-uri, cu API compatibil OpenAI

Navigare: [Inteligență artificială](category/artificial-intelligence.txt) · [Index](../llms.txt)

## Informații

- GitHub: https://github.com/vllm-project/vllm
- HTML: https://awesomeopensource.dev/ro/project/vllm-project-vllm
- Site web: https://vllm.ai
- Licență: Apache-2.0
- Limbaj: Python
- stele: 96871
- Subiecte: amd, blackwell, cuda, deepseek, deepseek-v3, gpt, gpt-oss, inference, kimi, llama, llm, llm-serving, model-serving, moe, openai, pytorch, qwen, qwen3, tpu, transformer
- Scor de activitate: 5.0/5 (Foarte activ)
- Ultimul commit (orice branch): 2026-11-13
- Ultimul release: v0.33.0rc3 2026-11-02

## Descriere

Motor de inferență și servire pentru modele lingvistice mari, scris în Python, pe hardware NVIDIA, AMD, Intel și CPU. PagedAttention, batching-ul continuu și cache-ul de prefix reduc memoria GPU și cresc debitul, iar serverul compatibil OpenAI adaugă paralelism tensor, multi-LoRA și output structurat. Încarcă peste 200 de arhitecturi Hugging Face, suportă cuantizare FP8, INT4 și GGUF și rulează dintr-un wheel sau container.

## Activitate de mentenanță

- Recență: 100% (weight 40%) — last commit: 0 days ago
- Volum commit-uri: 100% (weight 25%)
- Release-uri: 98% (weight 25%) — last release: 11 days ago
- Bugfix-uri: 100% (weight 10%)
- Commits: 5349 / 90d, 14088 / 365d

## Proiecte similare

- [openclaw/openclaw](openclaw-openclaw.md): Asistent AI open-source care rulează pe hardware-ul tău și în aplicațiile de chat · Scor de activitate 5.0/5 (Foarte activ)
- [n8n-io/n8n](n8n-io-n8n.md): Automatizare de workflow-uri fair-code cu pânză vizuală, cod propriu și peste 1500 de integrări · Scor de activitate 5.0/5 (Foarte activ)
- [langgenius/dify](langgenius-dify.md): Platformă vizuală pentru aplicații LLM cu pipeline-uri RAG, agenți și integrări de modele · Scor de activitate 5.0/5 (Foarte activ)
- [open-webui/open-webui](open-webui-open-webui.md): Interfață web self-hosted pentru conversații offline cu modele Ollama și compatibile OpenAI · Scor de activitate 5.0/5 (Foarte activ)
- [langchain-ai/langchain](langchain-ai-langchain.md): Framework Python pentru construirea de agenți și aplicații LLM din componente reutilizabile · Scor de activitate 5.0/5 (Foarte activ)
- [paperclipai/paperclip](paperclipai-paperclip.md): Gestionează o echipă de agenți AI cu obiective, bugete și urmărirea sarcinilor · Scor de activitate 5.0/5 (Foarte activ)
