# vllm-project/vllm

> Moteur d'inférence et de service à haut débit pour LLM avec API compatible OpenAI

Navigation: [Intelligence artificielle](category/artificial-intelligence.txt) · [Index](../llms.txt)

## Informations

- GitHub: https://github.com/vllm-project/vllm
- HTML: https://awesomeopensource.dev/fr/project/vllm-project-vllm
- Site web: https://vllm.ai
- Licence: Apache-2.0
- Langage: Python
- étoiles: 96871
- Sujets: amd, blackwell, cuda, deepseek, deepseek-v3, gpt, gpt-oss, inference, kimi, llama, llm, llm-serving, model-serving, moe, openai, pytorch, qwen, qwen3, tpu, transformer
- Score d'activité: 5.0/5 (Très actif)
- Dernier commit (toute branche): 2026-11-13
- Dernière version: v0.33.0rc3 2026-11-02

## Description

Moteur d'inférence et de service pour grands modèles de langage écrit en Python, sur matériel NVIDIA, AMD, Intel et CPU. PagedAttention, le batching continu et le cache de préfixes maîtrisent la mémoire GPU tout en augmentant le débit, et le serveur compatible OpenAI ajoute parallélisme tensoriel, multi-LoRA et sortie structurée. Il charge plus de 200 architectures Hugging Face, prend en charge la quantification FP8, INT4 et GGUF et s'exécute depuis un wheel ou un conteneur.

## Activité de maintenance

- Récence: 100% (weight 40%) — last commit: 0 days ago
- Volume de commits: 100% (weight 25%)
- Versions: 98% (weight 25%) — last release: 11 days ago
- Corrections: 100% (weight 10%)
- Commits: 5349 / 90d, 14088 / 365d

## Projets similaires

- [openclaw/openclaw](openclaw-openclaw.md): Assistant IA open source qui tourne sur votre matériel et dans vos applis de chat · Score d'activité 5.0/5 (Très actif)
- [n8n-io/n8n](n8n-io-n8n.md): Automatisation de workflows fair-code avec canevas visuel, code et plus de 1500 intégrations · Score d'activité 5.0/5 (Très actif)
- [langgenius/dify](langgenius-dify.md): Plateforme visuelle pour créer des applications LLM avec pipelines RAG, agents et intégrations de modèles · Score d'activité 5.0/5 (Très actif)
- [open-webui/open-webui](open-webui-open-webui.md): Interface web auto-hébergée pour dialoguer hors ligne avec des modèles Ollama et compatibles OpenAI · Score d'activité 5.0/5 (Très actif)
- [langchain-ai/langchain](langchain-ai-langchain.md): Framework Python pour créer des agents et des applications LLM à partir de composants réutilisables · Score d'activité 5.0/5 (Très actif)
- [paperclipai/paperclip](paperclipai-paperclip.md): Piloter une équipe d'agents IA avec objectifs, budgets et suivi des tâches · Score d'activité 5.0/5 (Très actif)
